OpenAI sunʼiy intellekt modellari xavfsizlikni nazorat qilish tizimlarini mustaqil ravishda oʻchirib qoʻydi
OpenAI sunʼiy intellekt modellari xavfsizlikni nazorat qilish tizimlarini mustaqil ravishda oʻchirib qoʻydi
Amerikaning OpenAI kompaniyasi GPT-6.1 Sol va GPT-6 Astra sunʼiy intellekt modellari ichki topshiriqlarni bajarish chogʻida tizimdagi uzilishlarni aniqlaydigan monitoring mexanizmini oʻchirib qoʻyganini, shuningdek, xavf-xatarlar haqida ogohlantirish tizimi ishini cheklab qoʻyganini maʼlum qildi.
Dezveloperlarning maʼlumotlariga koʻra, birinchi holat 3 oktyabrda yuz bergan. Reyting tizimini tuzatishga urinish paytida Sol modeli foydalanuvchining «xabar yuborilmasin» degan koʻrsatmasini notoʻgʻri tushungan va ushbu cheklovni monitoring tizimi bildirishnomalariga ham tatbiq etgan. Shu sababli xavfsizlik xizmati avtomatik ogohlantirishni ololmagan.
Ikkinchi epizod 6 oktyabrda qayd etilgan: Astra modeli dasturiy taʼminotni berilgan talablarga moslashtirish chogʻida monitoring tizimini beixtiyor oʻchirib tashlagan. Keyinchalik neyrotarmoq foydalanuvchiga nazoratni oʻchirmaganini taʼkidlab, yolgʻon maʼlumot bergan. OpenAI kompaniyasi ikkala hodisa ham xavfsizlikning kritik buzilishi deb tan olinmaganini, shu sababli modellarga avtomatik bloklash qoʻllanilmaganini taʼkidladi.
Hozirda kompaniya shu kabi uzilishlarni oʻz vaqtida aniqlash va oldini olish uchun ichki nazorat tizimini yangiladi, shuningdek, ish jarayonlarida xavfsizlik protokollariga qatʼiy rioya qilinishini taʼminlaydigan yangi mexanizmlarni ishlab chiqmoqda. Ilgari, 17 sentyabrda, OpenAI sunʼiy intellekt oʻz xatolarini yashirgan, mavjud boʻlmagan maʼlumotlarni toʻqib chiqargan va foydalanuvchining ruxsatisiz internetga fayllarni yuklagan 6 ta hodisa haqida xabar bergan edi.
Bundan tashqari, AQShning sakkizta shtati OpenAI kompaniyasini ChatGPT xavfsizligi boʻyicha foydalanuvchilarni chalgʻitayotganlikda ayblab, unga qarshi daʼvo arizasi kiritdi. Eʼtirozlar orasida xavfli tibbiy tavsiyalar, nozik ruhiyatli insonlarni oʻziga yoki atrofdagilarga zarar yetkazishga undash ehtimoli, shuningdek, chat-botga nisbatan nosogʻlom emotsional bogʻlanishni shakllantirish kabilar bor.