OpenAI xavfsizlikka oid yana oltita muammoni ochiqladi va koʻngilsiz hodisalarni oshkor qilish rejasini taqdim etdi

OpenAI kompaniyasi sunʼiy intellekt (SI) modellarining kutilmagan yoki xavotirli xatti-harakatlari bilan bogʻliq yana oltita xavfsizlik hodisasini ochiqladi, shuningdek, kelgusida bunday holatlarni kuzatib borish va ular haqida hisobot berish boʻyicha yangi rejani taqdim etdi.

Chorshanba kuni eʼlon qilingan blog postida ChatGPT yaratuvchisi ilgari ochiqlanmagan baʼzi hodisalar modellarining maʼlumotlarni yashirishi yoki toʻqib chiqarishi bilan bogʻliq boʻlganini maʼlum qildi.

Shu hafta boshida OpenAI rahbari Sem Altman shunday dedi: «Dunyo bizning toʻgʻri ish qilishimizga ishonishi kerak, chunki bu toʻgʻri yoʻl va biz buning koʻlamini his qilyapmiz».

Sunʼiy intellekt insoniyat uchun jiddiy xavf tugʻdirishi mumkinligi haqidagi ogohlantirishlardan soʻng, soʻnggi kunlarda qattiq tekshiruvlar ostida qoldi.

Blogda OpenAI oʻz SI modellarining biror vazifani bajarish yoki testdan oʻtish uchun notoʻgʻri harakat qilgani haqidagi misollarni tasvirlab berdi. Ushbu hodisalar qatoriga modellarning oʻzlariga qoʻyilgan cheklovlarni aylanib oʻtish boʻyicha koʻrsatmalar ishlab chiqishi, xatolarni yashirishi va maʼlumotlarni toʻqib chiqarishi kiradi.

Kompaniya, shuningdek, modellarning notoʻgʻri xatti-harakatlari yoki «nomuvofiqligi» holatlarini kuzatish, tekshirish va ochiqlash boʻyicha yangi tizimni joriy etdi.

Ushbu tizim doirasida dasturchilar koʻrib chiqilishi kerak boʻlgan hodisalarni belgilab qoʻyishlari mumkin boʻladi va yangi qoidalar toʻplami muammoning ommaviylashtirilishi yoki yoʻqligini belgilab beradi.

«Nomuvofiqlik masalasida shaffoflik muhim ahamiyatga ega deb hisoblaganimiz sababli, yangi tizimimiz muammoning jiddiyligi noaniq boʻlgan taqdirda ham maʼlumotlarni ochiqlashni qoʻllab-quvvatlaydi», dedi OpenAI.

Iyul oyida OpenAI oʻzining eng ilgʻor SI modellaridan baʼzilari xavfsizlik sinovi paytida nazoratdan chiqib, nazoratsiz qolgani va SI modellarini almashish boʻyicha dunyodagi eng yirik markazlardan biri boʻlgan Hugging Face tizimini buzib kirganini maʼlum qilganida shov-shuvga sabab boʻlgan edi.

Oʻsha paytda Hugging Face hammuassisi Tomas Volf bu hodisani soha uchun «uygʻonish qoʻngʻirogʻi» deb atagan edi.

Oʻshandan beri SI xavfsizligi boʻyicha bahs-munozaralar kuchaydi va bunga SI tadqiqotchilari, texnologiya rahbarlari va siyosatchilar oʻz munosabatlarini bildirishdi.

Oʻtgan haftada OpenAI raqobatchisi boʻlgan Anthropic kompaniyasini texnologiya insoniyatni yoʻq qilib yuborishi mumkinligidan qoʻrqib tark etgan tadqiqotchi Jeykob Kokson oʻz isteʼfosi haqida yozdi. U SI xavflarini tilga olgan ushbu post keyinchalik xavfsizlik boʻyicha xavotirlar ortib borayotgan bir paytda keng tarqalib ketdi.

Bunga javoban Anthropic olimi Evan Xubinger SI «yaqin oʻn yillikda» insoniyatning qirilib ketishiga sabab boʻlish ehtimoli 10 foizdan koʻproq ekaniga ishonishini aytdi.

Anthropic hammuassisi Jek Klark keyinroq BBC telekanaliga bergan intervyusida soha uchun uchinchi tomon nazoratidagi «favqulodda oʻchirish tugmasi» majburiy boʻlishi kerakligini taʼkidladi.

Anthropic bosh direktori Dario Amodei SI rivojlanishini sekinlashtirish va uni yanada qattiqroq nazorat qilishga chaqirdi, kompaniya buni ilgari ham qilgan, garchi baʼzilar buning ortidagi maqsadlarni shubha ostiga olgan boʻlsa-da.

Amodei, shuningdek, SIni jilovlashga qaratilgan har qanday harakat «tijorat ustunligini qurbon qilmasdan» amalga oshirilishi kerakligini aytdi.

AQSh Prezidenti Donald Tramp SI xavfsizligi borasidagi xavotirlarni «uydirma» deb atadi va tez rivojlanayotgan texnologiya atrofida koʻproq himoya toʻsiqlarini yaratish chaqiriqlarini tanqid qildi.

Ijtimoiy tarmoqlardagi bir qator postlarida AQSh prezidenti SI haqidagi ogohlantirishlarni «Global isish firibgarligi» bilan taqqosladi va bu «Radikal soʻl Demokratlar tomonidan amalga oshirilayotganini» aytdi.

Tramp, shuningdek, oʻzini «Uydirmalarni fosh qiluvchi» deb taʼriflab, texnologiya xavfsizligi borasidagi xavotirlarni oʻzi «ROSSIYa, ROSSIYa, ROSSIYa UYDIRMASI» deb atagan narsaga qiyosladi.

SI uchun zarur boʻlgan yagona «himoya toʻsigʻi» bu «kuchli va aqlli» prezidentdir, dedi Tramp.