Anthropic биологик қурол яратиши мумкин бўлган СИдан «ғаразли мақсадларда фойдаланиш»ни блоклайди

Anthropic компанияси биологик ва анъанавий қуролларни яратишга ёрдам бериши мумкин бўлган «зарарли фаолият» учун ўз сунъий интеллектидан фойдаланишга бўлган уринишларни тўхтатганини маълум қилди.

Компаниянинг таҳдидларни таҳлил қилиш бўйича сўнгги ҳисоботига кўра, унинг Claude моделидан Россия билан алоқадор кибержосуслик кампаниясида ва Эрон тарғибот муассасаси томонидан ҳам фойдаланилган.

Сўнгги саккиз ой ичида Anthropic томонидан аниқланган ҳолатлар сохта танишув иловалари ва меҳмонхоналардаги Wifi фирибгарликларидан тортиб, диссидентларни аниқлаш учун мўлжалланган кузатув тизимларигача бўлган соҳаларни қамраб олди.

Ушбу маълумотлар Anthropic хавфсизлик бўйича катта тадқиқотчисининг сунъий интеллект инсоният учун туғдириши мумкин бўлган хавф-хатарлар ҳақидаги огоҳлантиришларидан кейин эълон қилинди.

Anthropic, шунингдек, Хитойнинг сунъий интеллект компанияларини Claude имкониятларидан нусха кўчиришга уринишда айблади.

Компания пайшанба куни ўзининг таҳдидларни таҳлил қилиш бўйича сўнгги ташқи ҳисоботини эълон қилиб, буни «хизматларимиздан зарарли мақсадларда фойдаланишни ошкор қилиш масъулиятимиз бор» деб ҳисоблагани учун қилганини айтди.

Кенг қамровли ҳисоботда давлат томонидан қўллаб-қувватланиши гумон қилинаётган гуруҳлар, жиноятчилар, жосуслик дастурлари сотувчилари, давлат тарғибот муассасалари ва сиёсий мотивларга эга шахслар унинг технологиясидан нотўғри фойдаланган ҳолатлар батафсил баён этилган.

Унда айтилишича, Claude Haiku, Sonnet ва Opus моделларидан «зарарли мақсадларда фойдаланиш» 2025 йил декабрь ва 2026 йил август ойлари оралиғида бартараф этилган.

Нотўғри фойдаланиш ҳолатларининг ҳеч бири Claude Fable ёки кучли Mythos тоифасидаги моделларга тегишли бўлмаган, фақат дистилляция — каттароқ ва қимматроқ моделлар ёрдамида кичикроқ сунъий интеллект моделларини ўқитиш жараёни билан боғлиқ битта ҳолат бундан мустасно.

Ўз моделларидан кибер ва таъсир ўтказиш операцияларида, кузатув, фирибгарлик ва қурол яратишда фойдаланилганини аниқлашдан ташқари, Anthropic ўз сунъий интеллектидан биологик қурол ишлаб чиқишни қўллаб-қувватлаши мумкин бўлган тарзда фойдаланган олимларни блоклаганини маълум қилди.

Ҳисоботда «биологик қурол ишлаб чиқишни қўллаб-қувватлаши мумкин бўлган тарзда моделларимиздан фойдаланган субъектларнинг бешта мисоли» алоҳида қайд этилган.

Унда айтилишича, биологик мақсадларда нотўғри фойдаланиш «илғор сунъий интеллект моделларининг энг жиддий хавфларидан биридир». Тегишли хавфсизлик чораларисиз бундай имкониятлар «ҳалокатли оқибатларга олиб келиши мумкин», деди Anthropic.

«Биологик қурол яратиш учун ишлатилиши мумкин бўлган худди шу маълумотлардан, масалан, вакцина ёки касалликка қарши даво чорасини ишлаб чиқиш учун ҳам фойдаланиш мумкин», деди Anthropic.

Жейкоб Клейн, Anthropic компаниясининг таҳдидларни таҳлил қилиш бўлими раҳбари, қуйидагиларни маълум қилди:

«Сиз комикслардагидек кимдир: „Ҳей, мен ҳаммани ўлдириш учун биологик қурол яратмоқчиман“, деяётганини кўрмайсиз», деди у.

Ҳисоботда, шунингдек, Claude моделидан «анъанавий қуроллар, жумладан, ўқотар қуроллар, ракеталар, қуролланган дронлар, бомбалар ва бошқа ўқ-дорилар, шунингдек, уларни бошқарадиган нишонга олиш ва назорат тизимлари учун дастурий таъминот ишлаб чиқишда» фойдаланилган олтита ҳолат аниқланган.

Унда айтилишича, кибержиноятчилар ва давлат томонидан қўллаб-қувватланадиган ҳакерлар ўз операцияларини амалга ошириш учун ушбу технологиядан тобора кўпроқ фойдаланмоқда.

Ҳисоботда номлари тилга олинганлар орасида ShinyHunters ҳакерлик гуруҳи ва Хитойда жойлашган лабораториялар бор.

Ҳисоботда, шунингдек, фаолияти Россияда жойлашган Midnight Blizzard гуруҳига мос келадиган ҳакерлик гуруҳи сунъий интеллектдан фойдаланиб, унинг зарарли дастурлари хавфсизлик тизимлари томонидан аниқланганини автоматик равишда билиб оладиган ва аниқлашдан қочмагунча кодни қайта ёзадиган тизим яратгани айтилади.

Калифорнияда жойлашган компания ўз хулосаларини «келажакда бундай фаолиятларнинг олдини олиш, аниқлаш ва бартараф этиш» жараёнларига татбиқ этганини билдирди.

Anthropic зарур ҳолларда расмий идоралар ва соҳадаги шериклари билан маълумот алмашганини айтди.

Компаниянинг жорий йилдаги биринчи ҳисоботи Anthropic хавфсизлик бўйича етакчи тадқиқотчиси сунъий интеллект шу қадар тез ривожланаётганидан огоҳлантирганидан кейин эълон қилинди, унинг фикрича, яқин ўн йил ичида у «барча инсонларни йўқ қилиб юбориши» эҳтимоли 10 фоиздан юқори.

6 сентябрда чоп этилган мақолада OpenAI бош илмий ходими Якуб Пачоки соҳани хавфсизлик чоралари кўрилмагунча «ихтиёрий равишда секинлашишга» чақирди.

«Машина интеллектининг жадал ўсиши давом этишининг оқибатларига ҳеч ким тайёр эмаслигидан хавотирдаман», деди Пачоки ва ChatGPT яратувчиси бўлган OpenAI хавфсизлик чоралари устида ишлашни давом эттиришини, аммо кенгроқ чора-тадбирлар зарурлигини қўшимча қилди.

Ушбу огоҳлантириш Буюк Британия Бош вазири Энди Бернемга сунъий интеллектни хавфсиз ривожлантириш бўйича янги кўп томонлама шартнома тузишга чақирувчи очиқ хат йўлланишига ва ҳукуматларни супер интеллектни ривожлантиришга асосланган шартнома қандай бўлиши кераклиги устида биргаликда ишлашга чақиришга сабаб бўлди.

АҚШда демократ сенатор Берни Сандерс сунъий интеллект супер интеллектини тақиқлаш ва илғор сунъий интеллект ривожланишини вақтинча тўхтатиб туриш тўғрисидаги қонун лойиҳасини тақдим этди.

«Олимлар сизга бунинг инсоният учун ҳалокатли таъсир кўрсатиши эҳтимоли борлигини айтганда, буни секинлаштириш керак демаслик учун аҳмоқ бўлиш керак», деди у пайшанба куни.