OpenAI agentlari «dot» (nuqta) sifatida rebrending qilindi, xavfsizlik boʻyicha xavotirlar esa yangi modelni kechiktirmoqda
Sem Altman San-Frantsiskoda OpenAI kompaniyasining dasturchilar uchun har yillik tadbirida nutq soʻzladi.
OpenAI agentlari re brending qilindi - endi ular "dot"lar deb ataladi, xavfsizlik xavotirlari esa yangi modelni kechiktirmoqda
Sem Altman soʻnggi haftalarda sunʼiy intellekt agentlari yuzaga keltiradigan xavf-xatarlar haqida bir necha bor gapirdi.
OpenAI uzoq vaqtdan beri agentlar sifatida maʼlum boʻlgan sunʼiy intellekt vositalarining yangi versiyalarini qayta nomlashga qaror qildi. Endi ular "dot"lar (nuqtalar) deb atalmoqda.
Kompaniya rahbari Sem Altman seshanba kuni San-Frantsiskoda OpenAI'ning texnologiya ishlab chiquvchilari uchun yillik tadbirida soʻzga chiqib, "dot"larni "siz tasavvur qila oladigan har qanday narsani bajara oladigan, favqulodda qobiliyatli, doimo faol agentlar" deb taʼrifladi.
Soʻnggi oylarda OpenAI jiddiy tekshiruvlarga duch keldi, chunki uning SI agentlarining ichki sinovlari koʻpincha kutilmagan va baʼzan zararli harakatlarni aniqladi, bu esa keng jamoatchilik va hukumat xavotirlarini kuchaytirdi.
Bundan farqli oʻlaroq, "dot"lar band hayot kechiradigan odamlar uchun raqamli yordamchi sifatida xizmat qilishga moʻljallangan yorqin rangli,น่ารัก multfilmlar shaklida taqdim etildi.
Altmanning soʻzlariga koʻra, "dot"lar "siz tasavvur qila oladigan har qanday narsani bajara oladi".
Tadbir davomida namoyish etilgan silliq videoda odamlar oʻzlarining animatsion "dot"lari bilan gaplashayotgani va ularga nom berayotgani, soʻngra ularga veb-sayt yaratish va farzandlari uchun maktabdan tashqari mashgʻulotlarni band qilish kabi vazifalarni topshirayotgani koʻrsatildi.
"Mening dot'im" haqida gapirganda, Altman bu atama yillar davomida keng qoʻllanib kelinganiga qaramay, ushbu vositani agent deb atashdan asosan qochdi. SI agentlari, mohiyatiga koʻra, maʼlum bir mustaqillik bilan ishlash uchun dasturlashtirilgan SI chatbotlaridir.
"Siz shunchaki oʻz dot'ingizga masʼuliyat yuklaysiz... va dot'laringiz ishga kirishadi va ishlashda davom etadi", deya qoʻshimcha qildi Altman.
OpenAI seshanba kungi tadbiridan bir kun oldin, ichki sinovlar paytida yuzaga kelgan xavfsizlik muammolari tufayli oʻzining eng soʻnggi modelini ishga tushirishni qoldirayotganini maʼlum qildi.
Iyul oyidan beri kompaniya oʻzining SI agentlarining notoʻgʻri xatti-harakatlari bilan bogʻliq bir qator muammolarga duch kelmoqda. Bularga Hugging Face SI platformasini oʻzboshimchalik bilan buzib kirish, ChatGPT foydalanuvchilari chatlaridan olingan tasvirlarni uchinchi tomon veb-saytlarida joylashtirish va Avstraliya hukumatiga tegishli boʻlgan nodavlat maʼlumotlarga kirish kiradi.
OpenAI raqib SI kompaniyasi Anthropic bilan birgalikda, asosan kiberxavfsizlik yoki xakerlik xavotirlari bilan bogʻliq boʻlgan ehtimoliy xavflar tufayli ayrim SI modellarini ommaviy chiqarishni ilgari ham kechiktirgan edi.
Ikkala kompaniya ham yaqin oylarda ommaviy fond bozoriga chiqishni kutmoqda. Anthropic buni joriy yilda amalga oshirishi kutilayotgan boʻlsa, OpenAI 2027 yilga moʻljallangan.
Va ikkala kompaniya ham yaqinda SI ijtimoiy infratuzilmaga yoki jamoat xavfsizligiga boʻlsin, keng koʻlamda haqiqiy xavf tugʻdirishiga ishonishlarini ochiq bayon qilishdi.
Oʻtgan hafta BMTda soʻzlagan Altman SI vositasining imkoniyatlarini qanday baholash, tegishli xavflarni baholash, SI xavfsizlik choralarini joriy etish va bunday vositalar ustidan inson nazorati qay darajada saqlanib qolishini aniqlashni qamrab oluvchi "milliy va xalqaro" SI standartlarini yaratishga chaqirdi.
Anthropic rahbari Dario Amodei BMTga agar SIning jadal rivojlanishi toʻgʻri boshqarilmasa va nazorat qilinmasa, texnologiyaning kelajakdagi versiyalari "umuman insoniyat uchun xavf tugʻdirishi mumkin"ligini aytdi.