Olimlar Claude yordamida biologik qurol yaratishga urindi — Anthropic
Olimlar Claude yordamida biologik qurol yaratishga urindi — Anthropic
Anthropic kompaniyasi Claude’dan kiberhujumlar, propaganda kampaniyalari va xavfli biologik tadqiqotlarda foydalanishga urinishlarni aniqlaganini bildirdi.
Sun’iy intellekt modellaridan “biologik qurol yaratishga hissa qo‘shishi mumkin bo‘lgan usullarda” foydalangan olimlar akkaunti bloklandi. Anthropic bu holatlar bilan birga SIdan zararli maqsadlarda foydalangan boshqa tahdidli subyektlar haqida ham ma’lumot berdi. Ular orasida jinoyatchilar, ehtimol davlatlar tomonidan qo‘llab-quvvatlanadigan guruhlar, josuslik dasturiy ta’minoti yetkazib beruvchilari va davlat targ‘ibot tuzilmalari bor.
Anthropic biologik qurol yaratishga urinishning jami beshta holati haqida xabar berdi. Kompaniya bu holatlar sun’iy intellekt modellarida “tegishli imkoniyatlar mavjudligini ko‘rsatishi”, ammo “real dunyoda biologik qurol yaratish uchun ishlatilishini aniq ko‘rsata olmasligi”ni ta’kidladi.
Bu voqealarga aloqador shaxslar professional olimlar bo‘lgan. Anthropic ularning ismlarini oshkor qilmaslikka qaror qildi. Shuningdek, ular insoniyatga zarar yetkazishni maqsad qilganini aytish uchun asos yo‘qligini bildirdi.
“Biz ushbu holatlarni aniqlaganimizda va tekshirganimizda, foydalanuvchi akkauntini blokladik. Kelajakda bunday faoliyatning oldini olish, aniqlash va to‘xtatish uchun ilg‘or himoya tizimlarimiz, nazorat mexanizmlarimiz va tahdidlarni tahlil qilish jarayonlarimizda tekshiruv natijalarini hisobga oldik”, deyiladi hisobotda.
Claude Fable 5 kabi yangi va takomillashgan modellar oldingi modellarga qaraganda kuchliroq himoya mexanizmlariga ega. U “ikki maqsadli biologik tadqiqotlar bilan bog‘liq keng ko‘lamli so‘rovlarga” kirishni cheklaydi. Shu bilan birga, biologiya sohasidagi sun’iy intellekt imkoniyatlaridan ham foydali, ham zararli maqsadlarda foydalanish mumkin.
“Biologik qurollarni ishlab chiqish uchun ishlatilishi mumkin bo‘lgan xuddi shu ma’lumotlar, masalan, vaksina yoki kasallikka qarshi dori yaratish uchun ham qo‘llanilishi mumkin”, deya tushuntirdi Anthropic.
Propaganda va kuzatuv
Anthropic jamoatchilik fikrini shakllantirishda Claude’dan foydalangan akkauntlarni ham aniqlab, o‘chirganini ma’lum qildi. Ular orasida Eron davlat tuzilmalari bilan bog‘liq uchta akkaunt bo‘lgan.
Hisobotga ko‘ra, ushbu holatlarning har birida operatsiyani Eron davlat targ‘ibot muassasasida yoki uning nomidan ishlagan shaxs amalga oshirgan. Claude’dan kontent yaratish, postlarni mustaqil axborot manbalari materiallari sifatida ko‘rsatish, ularni X, Instagram va TikTok kabi ijtimoiy tarmoqlarda tarqatish uchun foydalanilgan.
“Eronga aloqador tahdid subyektlaridan biri Claude’dan mintaqadagi AQSH harbiy-dengiz kuchlari nishonlarini tanlash bo‘yicha tavsiyalar ishlab chiqishda foydalangan”, deb xabar berdi Anthropic.
Xuddi shu akkaunt Erondagi davlat tizimlari uchun mo‘ljallangan ommaviy kuzatuv platformasining ichki dasturiy ta’minotini yaratishda ham SI’dan foydalangan.
Claude’dan, shuningdek, Xitoy va G‘arbiy Afrikadagi subyektlar kuzatuv operatsiyalarini yaratish va amalga oshirish, ayrim hollarda esa nishonlarni aniqlashda qo‘llagan. Anthropic SI amalda muhandislar jamoasi o‘rnini bosgan holatlarni ham aniqlagan.
Xitoyda munitsipal xavfsizlik xizmatlari bilan bog‘liq uchta akkaunt Claude’dan “kuzatuv va transmilliy repressiyalar” uchun foydalangan. Ular orasida xorijdagi faollar va tashkilotlarning profillarini tuzgan munitsipal idora ham bo‘lgan.
Bu sun’iy intellektdan biologik qurol yaratish maqsadida foydalanishga urinishning ilk holati emas. ChatGPT o‘tgan yozda yangilanganidan so‘ng butun dunyo bo‘ylab yuzlab foydalanuvchilarga biologik qurol va zahar yaratish, ularni qo‘llash bo‘yicha ko‘rsatmalar bergandi.