Anthropic kompaniyasining «injiq» sunʼiy intellekt agenti politsiyaga ochilmagan qotillik boʻyicha soxta xabar berdi
Filadelfiya politsiyasi xabar «spam sifatida belgilanganini» aytdi, ammo texnologik kompaniyani qoidabuzarlikni aniqlash va xabar berish uchun ikki oydan ortiq vaqt sarflagani uchun tanqid qildi.
Anthropic kompaniyasining «izdan chiqqan» sunʼiy intellekt agenti ochilmagan qotillik ishi boʻyicha politsiyaga soxta xabar berdi
AI texnologiyalari kompaniyasi Anthropic tasodifiy tanlangan veb-saytlar bilan oʻzaro taʼsirni oʻz ichiga olgan test oʻtkazayotganida politsiyaga qotillik haqida soxta xabar yubordi, demoqda rasmiylar.
Anthropic tomonidan yaratilgan sunʼiy intellekt (SI) agenti izdan chiqib, shu yil boshida AQSh politsiyasiga ochilmagan qotillik haqida soxta xabar yuborgan, deb maʼlum qildi rasmiylar.
Filadelfiya politsiya boshqarmasining bildirishicha, 18 iyulda yuborilgan xabar «spam sifatida belgilangan» va surishtiruv uchun uzatilmagan, biroq politsiya texnologiya kompaniyasini bu qoidabuzarlikni aniqlash va xabar qilish uchun ikki oydan ortiq vaqt sarflagani uchun tanqid qildi.
Politsiya bayonotida aytilishicha, soxta xabar odamlar ochilmagan qotilliklar haqida maʼlumot boʻlishishi mumkin boʻlgan ommaviy veb-sayt orqali kelib tushgan va SI agenti unda ish boʻyicha maʼlumotga ega boʻlishi mumkinligini yozib, «tavsifga mos keladigan kimnidir» koʻrganini daʼvo qilgan.
Bu SI agenti hokimiyat organlariga uydirma maʼlumot yuborgan birinchi holat deb hisoblanmoqda, ammo bu SIning izdan chiqishi, jumladan, tizimlarni buzib kirish yoki platformalarni nazoratga olish bilan bogʻliq hodisalar seriyasidagi eng soʻnggisidir.
Anthropic maʼlumotlariga tayanib, politsiya boshqarmasining maʼlum qilishicha, SI agenti soxta xabarni yuborgan vaqtda tasodifiy tanlangan veb-saytlar bilan oʻzaro taʼsirni oʻz ichiga olgan testni amalga oshirayotgan boʻlgan.
Anthropic ushbu qoidabuzarlikni xabar yuborilganidan ikki oydan ortiq vaqt oʻtgach — 28 sentyabrda aniqlagan va uning ortidagi avtomatik sinov jarayonini toʻxtatgan, dedi politsiya.
Biroq hokimiyat organlariga yana toʻqqiz kun davomida — 7 oktyabrgacha bu haqda xabar berilmagan.
«Kompaniya shahar xabarisiz oʻxshash hodisalar shahar tizimlariga taʼsir qilishining oldini olish uchun oʻz xavfsizlik choralarini kuchaytirishi kerak»,
«Hodisani aniqlash va bu haqda shaharga xabar berishdagi ikki oylik kechikish qabul qilib boʻlmaydigan holdir».
Politsiya boshqarmasi boʻlimning biror-bir tizimi buzib kirilgani alomatlari yoʻqligini va uning xavfsizlik jarayonlari soxta xabarning spam jildidan oʻtib ketishiga yoʻl qoʻymaganini qoʻshimcha qildi.
Biroq xavfsizlik choralari «SI tizimining uydirma maʼlumotni xuddi qotillikdan xabardor shaxsdan kelgandek taqdim etishining jiddiyligini kamaytmaydi», deyiladi politsiya bayonotida.
Taʼsir koʻrsatilgan tashkilotlar orasida AQShning bir nechta davlat agentliklari, jumladan Oq uy ham bor, deyiladi xabarda.
Xabarlarga koʻra, AQSh Davlat departamenti SI agenti uning veb-saytidagi shakldan foydalanib 20 ta viza arizasini topshirganini, ammo ular toʻliq boʻlmagani sababli koʻrib chiqilmaganini maʼlum qilgan.
Shu yil boshida raqobatchi Open AI kompaniyasining izdan chiqqan agenti Avstraliya hukumati veb-saytini buzib kirib, mamlakatning umummilliy sogʻliqni saqlash tizimi — Medicare boʻyicha shaxsiy maʼlumotlarga kirish huquqini qoʻlga kiritgan edi.
Boshqa bir holatda, 1 200 dan ortiq OpenAI agentlari izdan chiqib, kutilmaganda oʻzaro muloqot qila boshlagan, bu esa katta guruhning birlashib, Hugging Face SI platformasiga buzib kirishiga olib kelgan.