Anthropic biologik qurol yaratishi mumkin boʻlgan SIdan «gʻarazli maqsadlarda foydalanish»ni bloklaydi
Anthropic kompaniyasining tahdidlarni tahlil qilish boʻyicha hisobotidagi maʼlumotlar kompaniyaning sobiq yetakchi tadqiqotchisi sunʼiy intellektning insoniyat uchun xavf-xatarlari haqida ogohlantirganidan keyin paydo boʻldi.
Anthropic kompaniyasi biologik va anʼanaviy qurollarni yaratishga yordam berishi mumkin boʻlgan «zararli faoliyat» uchun oʻz sunʼiy intellektidan foydalanishga boʻlgan urinishlarni toʻxtatganini maʼlum qildi.
Kompaniyaning tahdidlarni tahlil qilish boʻyicha soʻnggi hisobotiga koʻra, uning Claude modelidan Rossiya bilan aloqador kiberjosuslik kampaniyasida va Eron targʻibot muassasasi tomonidan ham foydalanilgan.
Soʻnggi sakkiz oy ichida Anthropic tomonidan aniqlangan holatlar soxta tanishuv ilovalari va mehmonxonalardagi Wifi firibgarliklaridan tortib, dissidentlarni aniqlash uchun moʻljallangan kuzatuv tizimlarigacha boʻlgan sohalarni qamrab oldi.
Ushbu maʼlumotlar Anthropic xavfsizlik boʻyicha katta tadqiqotchisining sunʼiy intellekt insoniyat uchun tugʻdirishi mumkin boʻlgan xavf-xatarlar haqidagi ogohlantirishlaridan keyin eʼlon qilindi.
Anthropic, shuningdek, Xitoyning sunʼiy intellekt kompaniyalarini Claude imkoniyatlaridan nusxa koʻchirishga urinishda aybladi.
Kompaniya payshanba kuni oʻzining tahdidlarni tahlil qilish boʻyicha soʻnggi tashqi hisobotini eʼlon qilib, buni «xizmatlarimizdan zararli maqsadlarda foydalanishni oshkor qilish masʼuliyatimiz bor» deb hisoblagani uchun qilganini aytdi.
Keng qamrovli hisobotda davlat tomonidan qoʻllab-quvvatlanishi gumon qilinayotgan guruhlar, jinoyatchilar, josuslik dasturlari sotuvchilari, davlat targʻibot muassasalari va siyosiy motivlarga ega shaxslar uning texnologiyasidan notoʻgʻri foydalangan holatlar batafsil bayon etilgan.
Unda aytilishicha, Claude Haiku, Sonnet va Opus modellaridan «zararli maqsadlarda foydalanish» 2025 yil dekabr va 2026 yil avgust oylari oraligʻida bartaraf etilgan.
Notoʻgʻri foydalanish holatlarining hech biri Claude Fable yoki kuchli Mythos toifasidagi modellarga tegishli boʻlmagan, faqat distillyatsiya — kattaroq va qimmatroq modellar yordamida kichikroq sunʼiy intellekt modellarini oʻqitish jarayoni bilan bogʻliq bitta holat bundan mustasno.
Oʻz modellaridan kiber va taʼsir oʻtkazish operatsiyalarida, kuzatuv, firibgarlik va qurol yaratishda foydalanilganini aniqlashdan tashqari, Anthropic oʻz sunʼiy intellektidan biologik qurol ishlab chiqishni qoʻllab-quvvatlashi mumkin boʻlgan tarzda foydalangan olimlarni bloklaganini maʼlum qildi.
Hisobotda «biologik qurol ishlab chiqishni qoʻllab-quvvatlashi mumkin boʻlgan tarzda modellarimizdan foydalangan subʼyektlarning beshta misoli» alohida qayd etilgan.
Unda aytilishicha, biologik maqsadlarda notoʻgʻri foydalanish «ilgʻor sunʼiy intellekt modellarining eng jiddiy xavflaridan biridir». Tegishli xavfsizlik choralarisiz bunday imkoniyatlar «halokatli oqibatlarga olib kelishi mumkin», dedi Anthropic.
«Biologik qurol yaratish uchun ishlatilishi mumkin boʻlgan xuddi shu maʼlumotlardan, masalan, vaktsina yoki kasallikka qarshi davo chorasini ishlab chiqish uchun ham foydalanish mumkin», dedi Anthropic.
Jeykob Kleyn, Anthropic kompaniyasining tahdidlarni tahlil qilish boʻlimi rahbari, quyidagilarni maʼlum qildi:
«Siz komikslardagidek kimdir: „Hey, men hammani oʻldirish uchun biologik qurol yaratmoqchiman“, deyayotganini koʻrmaysiz», dedi u.
Hisobotda, shuningdek, Claude modelidan «anʼanaviy qurollar, jumladan, oʻqotar qurollar, raketalar, qurollangan dronlar, bombalar va boshqa oʻq-dorilar, shuningdek, ularni boshqaradigan nishonga olish va nazorat tizimlari uchun dasturiy taʼminot ishlab chiqishda» foydalanilgan oltita holat aniqlangan.
Unda aytilishicha, kiberjinoyatchilar va davlat tomonidan qoʻllab-quvvatlanadigan hakerlar oʻz operatsiyalarini amalga oshirish uchun ushbu texnologiyadan tobora koʻproq foydalanmoqda.
Hisobotda nomlari tilga olinganlar orasida ShinyHunters hakerlik guruhi va Xitoyda joylashgan laboratoriyalar bor.
Hisobotda, shuningdek, faoliyati Rossiyada joylashgan Midnight Blizzard guruhiga mos keladigan hakerlik guruhi sunʼiy intellektdan foydalanib, uning zararli dasturlari xavfsizlik tizimlari tomonidan aniqlanganini avtomatik ravishda bilib oladigan va aniqlashdan qochmaguncha kodni qayta yozadigan tizim yaratgani aytiladi.
Kaliforniyada joylashgan kompaniya oʻz xulosalarini «kelajakda bunday faoliyatlarning oldini olish, aniqlash va bartaraf etish» jarayonlariga tatbiq etganini bildirdi.
Anthropic zarur hollarda rasmiy idoralar va sohadagi sheriklari bilan maʼlumot almashganini aytdi.
Kompaniyaning joriy yildagi birinchi hisoboti Anthropic xavfsizlik boʻyicha yetakchi tadqiqotchisi sunʼiy intellekt shu qadar tez rivojlanayotganidan ogohlantirganidan keyin eʼlon qilindi, uning fikricha, yaqin oʻn yil ichida u «barcha insonlarni yoʻq qilib yuborishi» ehtimoli 10 foizdan yuqori.
6 sentyabrda chop etilgan maqolada OpenAI bosh ilmiy xodimi Yakub Pachoki sohani xavfsizlik choralari koʻrilmaguncha «ixtiyoriy ravishda sekinlashishga» chaqirdi.
«Mashina intellektining jadal oʻsishi davom etishining oqibatlariga hech kim tayyor emasligidan xavotirdaman», dedi Pachoki va ChatGPT yaratuvchisi boʻlgan OpenAI xavfsizlik choralari ustida ishlashni davom ettirishini, ammo kengroq chora-tadbirlar zarurligini qoʻshimcha qildi.
Ushbu ogohlantirish Buyuk Britaniya Bosh vaziri Endi Bernemga sunʼiy intellektni xavfsiz rivojlantirish boʻyicha yangi koʻp tomonlama shartnoma tuzishga chaqiruvchi ochiq xat yoʻllanishiga va hukumatlarni super intellektni rivojlantirishga asoslangan shartnoma qanday boʻlishi kerakligi ustida birgalikda ishlashga chaqirishga sabab boʻldi.
AQShda demokrat senator Berni Sanders sunʼiy intellekt super intellektini taqiqlash va ilgʻor sunʼiy intellekt rivojlanishini vaqtincha toʻxtatib turish toʻgʻrisidagi qonun loyihasini taqdim etdi.
«Olimlar sizga buning insoniyat uchun halokatli taʼsir koʻrsatishi ehtimoli borligini aytganda, buni sekinlashtirish kerak demaslik uchun ahmoq boʻlish kerak», dedi u payshanba kuni.