Anthropic хавфсизлик бўйича тадқиқотчисининг таъкидлашича, сунъий интеллект «бутун инсониятни йўқ қилиб юбориши» эҳтимоли 10 фоиздан юқори
Бу сунъий интеллект томонидан юзага келадиган хавфсизлик таҳдиди ҳақидаги тобора кучайиб бораётган огоҳлантиришлар сериясининг энг сўнггисидир.
Anthropic хавфсизлик тадқиқотчисининг айтишича, СИ «барча инсониятни йўқ қилиши» эҳтимоли 10% дан юқори
Anthropic компанияси чат-бот ва кодлашга ёрдам берувчи восита сифатида фойдаланиладиган Claude СИ воситасини ишлаб чиқаради
Anthropic компаниясининг катта хавфсизлик тадқиқотчиси СИ шу қадар тез ривожланаётганидан огоҳлантирдики, яқин ўн йил ичида у «барча инсониятни йўқ қилиши» эҳтимоли 10% дан юқори.
Ҳозирда мавжуд бўлган моделлардан келиб чиқадиган хавф «паст», аммо у технология вақт ўтиши билан шу даражага етиш учун ўзини ўзи такомиллаштириш қобилиятига эга бўлиши мумкинлигидан «хавотирда».
Anthropic ўзининг сўнгги моделини СИни синовдан ўтказувчи СИ Хавфсизлиги Институтидан (AI Safety Institute) яширди.
Ўзининг X тармоғидаги 9,6 миллион марта кўрилган сўнгги постида Хубингер «биз ҳақиқатан ҳам чин дилдан ишонамизки», СИ инсоният учун тур сифатида йўқ бўлиб кетиш хавфини туғдиради, деб айтди.
«Мен Anthropic қўлидан келганича ҳаракат қилаётганига ишонаман, аммо бизда ҳали ўта ақлли тизимларни (superintelligence) мувофиқлаштириш (alignment) муаммосини ҳал қилиш режаси йўқ ва биз бу йўналишда аниқ илгариламаяпмиз», деди у.
СИ соҳасидаги етакчи шахслар йиллар давомида ушбу технология туғдирадиган хавфсизлик таҳдиди ҳақида бонг уриб келишмоқда, OpenAI, Google Deepmind ва Anthropic раҳбарлари 2023 йилда ҳам шу фикрни билдиришган эди.
Бироқ, сўнгги ҳафталарда компаниялар СИни назорат қилишда қийналаётгани ҳақидаги далиллар пайдо бўлиши билан бу огоҳлантиришлар янада жиддий тус олди.
Ёз давомида СИ агентлари — автоном равишда ишлашига рухсат берилган СИ тизимлари — киберҳужумлар уюштирган бир қатор ҳодисалар юз берди.
Сентябрь ойида эса OpenAI бош илмий ходими Якуб Пачоки СИ ривожланишида «ўта эҳтиёткорликка» чақириб, «инсонлар келажакни назорат қилишда давом этишини» таъминлаш учун кўпроқ аралашув талаб этилиши мумкинлигидан огоҳлантирди.
Сўнгги ойларда ушбу соҳадаги йирик шахслар, жумладан Anthropic раҳбарлари Дарио Амодеи ва Жаред Каплан СИ ривожланишини секинлаштиришга чақиришмоқда.
Улар АҚШ ҳукуматини «илғор СИ ривожланиши суръатини онгли равишда назорат қилиш учун зарур бўлган техник ва бошқарув воситаларини ишлаб чиқиш бўйича халқаро саъй-ҳаракатларни қўллаб-қувватлашга» чақирдилар.