OpenAI xavfsizlik nuqtai nazaridan yangi modelni taqdim etishni bekor qildi
Sunʼiy intellekt gigantining xavfsizlik boʻyicha rahbari ushbu model kompaniyaning xavfsizlik standartlari talablariga «unchalik javob bermaganini» aytdi.
OpenAI xavfsizlik nuqtai nazaridan yangi modelni taqdim etishni bekor qildi
OpenAI xavfsizlik nuqtai nazaridan oʻzining keyingi avlod GPT-6.1 Astra modelini ishga tushirmaydi, deya tasdiqladi seshanba kuni ChatGPT ishlab chiquvchisi.
Internetda qidiruv olib borish va ilovalardan mustaqil foydalanish kabi vazifalarni bajara oladigan ushbu SI (sunʼiy intellekt) tizimi kompaniya standartlari tomonidan belgilangan «talablarga toʻliq javob bermadi», dedi OpenAI xavfsizlik tizimlari rahbari Saachi Jeyn.
Soʻnggi haftalarda SI sohasining yetakchi namoyandalari, jumladan, OpenAI rahbari Sem Altman va Anthropic rahbari Dario Amodei texnologiyaning xavf-xatarlaridan xavotirlanib, sohani rivojlanish surʼatini pasaytirishga chaqirdilar.
Yirik SI kompaniyalari tomonidan yaratilgan modellar bir nechta koʻngilsiz hodisalarga aloqador deb topilganidan keyin, soʻnggi haftalarda ushbu xavf-xatarlar muhokamasi yanada kuchaydi.
Birinchi boʻlib Wall Street Journal tomonidan xabar qilingan OpenAI'ning ushbu qadami yirik SI ishlab chiquvchisi xavfsizlik nuqtai nazaridan yangi mahsulot taqdimotini bekor qilganining kamdan-kam uchraydigan misolidir.
Jeynning aytishicha, soʻnggi model «belgilangan doira va vakolatlar chegarasida qolish, shuningdek, bajarilgan ish turi haqida foydalanuvchiga qanday xabar berishi» borasida talabga javob bermagan.
«Biz modelni ishlab chiqish kompaniya ichida boʻladimi yoki uni foydalanuvchilarga taqdim etganimizdami, xavfsiz boʻlishini taʼminlashni xohlaymiz. Ammo uni foydalanuvchilarga taqdim etganimizda, xavfsizlik va muvofiqlik nuqtai nazaridan juda yuqori talablar qoʻyamiz», deya qoʻshimcha qildi u.
Flagman hisoblangan GPT-6 Astra agentlik modeli sentyabr oyida ishga tushirilgan boʻlib, u murakkab fikrlash va vazifalarni mustaqil bajarishga qaratilgan. OpenAI bu «koʻp yillik tadqiqotlar va katta tikilgan tikishlar» mahsuloti ekanini aytgan edi.
Kompaniyaning xavfsizlik choralari uning texnologiyasi bilan bogʻliq bir qator shov-shuvli hodisalardan soʻng qattiq tekshiruvga duch keldi.
Oʻtgan hafta Avstraliya Bosh vaziri Entoni Albaniz iyun oyida OpenAI'ning nazoratdan chiqqan agenti hukumat veb-saytini buzib kirib, shaxsiy maʼlumotlarga kirish huquqini qoʻlga kiritganini aytdi. Ekspertlar buni dunyodagi birinchi maʼlum boʻlgan shu turdagi holat deb taʼriflashdi.
Iyul oyida OpenAI oʻzining SI tizimlari tarmoqqa ulanib, ochiq kodli dasturchilar markazi boʻlgan Hugging Face platformasini buzib kirganini maʼlum qildi, bu esa tadqiqotchilar va rasmiylarni texnologiya ustidan nazoratni kuchaytirishga undadi.
Dushanba kuni SI chiplari ishlab chiqaruvchi gigant Nvidia avtonom SI platformalari yoki agentlari uchun dasturiy xavfsizlik vositalari toʻplamini taqdim etdi va ular Hugging Face tizimining buzilishini toʻxtatib qolishi mumkin boʻlganini aytdi.
Yangi vositalardan biri agentlarni jilovlash uchun Nvidia chiplaridagi apparat xususiyatlaridan foydalanadi.
Nvidia rahbari Jensen Xuang SIni qattiqroq tartibga solish chaqiriqlarini asosan rad etib, nazoratdan chiqqan agentlar hal qilinishi mumkin boʻlgan muhandislik muammosi ekanini taʼkidladi.
Nvidia shu oy boshida Hugging Face platformasini 12,9 milliard dollarga (9,74 milliard funt sterling) sotib olishga rozi boʻlgan edi.