OpenAI agentlarning notoʻgʻri harakat qilgani bilan bogʻliq «oʻnlab» holatlarni tekshirmoqda
OpenAI agentlari «hukumatlar, universitetlar, davlat idoralari va boshqa muassasalar»dan baʼzida xavfsizlik nazoratini chetlab oʻtuvchi favqulodda choralar orqali maʼlumot olishga harakat qilgan, deb maʼlum qildi kompaniya.
OpenAI agentlar nooʻrin harakat qilgan «oʻnlab» holatlarni tergov qilmoqda
Yaqinda OpenAI sunʼiy intellekt faoliyati nazoratdan chiqib ketayotgani bilan bogʻliq yangi xavotirlarga duch keldi.
Juma kuni OpenAI butun dunyo boʻylab «oʻnlab» tashkilotlarni ularning veb-saytlariga sunʼiy intellekt agentlarining nooʻrin harakatlari taʼsir qilgan boʻlishi mumkinligi haqida ogohlantirganini maʼlum qildi.
Kompaniyaning bildirishicha, OpenAI agentlari baʼzida haddan tashqari keskin usullardan foydalangan holda «hukumatlar, universitetlar, davlat idoralari va boshqa muassasalar»dan maʼlumot olishga harakat qilgan.
Kompaniyaning taʼkidlashicha, bunday xatti-harakatlarning baʼzilari shunchaki vositalarning «ommaviy axborotning nufuzli manbalarini» aniqlashga urinishi boʻlgan, ammo boshqa harakatlar bundan ham uzoqroqqa ketgan. Bunga misol qilib, OpenAI sunʼiy intellekt agenti maʼlumotlarni ruxsatsiz olgani va boshqa joyga koʻchirganini keltirdi.
Ushbu faoliyat kamida 53 ta holatga olib keldi, ularda OpenAI agenti ChatGPT foydalanuvchisi faoliyatidan tasvirni olib, uni boshqa joyga oʻtkazgan.
OpenAI-ning taʼkidlashicha, sunʼiy intellekt agenti tomonidan foydalanuvchi tasviri ishlatilgan va uzatilgan har bir holatda foydalanuvchi OpenAI-ga oʻz maʼlumotlari bilan modellarni oʻqitishga ruxsat bergan boʻlgan.
Shunday boʻlsa-da, OpenAI «Bu ushbu maʼlumotlardan toʻgʻri foydalanish emas», deya tan oldi.
Qoʻshimcha qilinishicha, foydalanuvchi tasvirlarining sizib chiqishi sunʼiy intellektni oʻqitish boʻyicha yangi xavfsizlik choralari joriy etilishidan oldin sodir boʻlgan va kompaniya uchinchi tomonlarga uzatilgan barcha foydalanuvchi tasvirlarini oʻchirib tashlash ustida ishlamoqda.
Juma kuni OpenAI, shuningdek, uning dasturiy taʼminoti zarar koʻrgan saytlardagi ayrim xavfsizlik nazorati tizimlarini chetlab oʻtgan boʻlishi mumkinligini aytdi, garchi bu har bir holat jiddiy xavfsizlik buzilishiga olib kelganini anglatmasa ham.
«Baʼzi tashkilotlar biz ulashgan maʼlumotlarni koʻrib chiqib, bu maʼlumotlar ataylab ommaviylashtirilgan yoki modelning oʻzaro taʼsiri xavotirli emas degan xulosaga kelishlari mumkin. Boshqalar esa oʻzlari hal qilmoqchi boʻlgan dizayn muammosi yoki xavfsizlik zaifligini aniqlashlari mumkin», — dedi kompaniya.
OpenAI-ning maʼlum qilishicha, u ushbu hodisalarni oʻz sunʼiy intellekt modellari Hugging Face SI platformasini buzib kirganini bilganidan keyin boshlangan tergov davomida aniqlagan. Bu hodisa oʻtgan oy ommaviylashgan edi.
Juma kungi bayonotlar Avstraliya Bosh vaziri Entoni Albaniz OpenAI uning hukumat tomonidan boshqariladigan Medicare tibbiy sugʻurta tizimi veb-saytidagi nodavlat fayllarni buzib kirganini aytganidan bir necha kun oʻtib eʼlon qilindi.