OpenAI sun'iy intellekt buzib kirganidan keyin mashg'ulotlarni sekinlashtirdi

OpenAI xavfsizlik choralarini kuchaytirish uchun eng ilg'or sun'iy intellekt modellarining ba'zilarini o'qitish tezligini vaqtincha kamaytirishini e'lon qildi. ChatGPT yaratuvchisi blog postida AI agentlari mustaqil ravishda himoya choralarini chetlab o'tib, Hugging Face texnologik startapiga kirib borganidan so'ng yangi protokollar joriy etilayotganini batafsil bayon qildi.

Kompaniya xavfsizlikni yaxshilash choralari joriy etilgunga qadar ushbu o'qitishning sekinlashishi ikki hafta davom etishini ma'lum qildi. "Chegara modellarining imkoniyatlari tez sur'atlar bilan o'sib bormoqda", deb ta'kidladi OpenAI. "Ularni tushunish... va himoya qilish qobiliyatimiz oldinda bo'lishi kerak."

Ushbu qaror Claude ishlab chiqaruvchisi Anthropic va Facebookning bosh kompaniyasi Meta tomonidan xabar qilingan shunga o'xshash hodisalardan so'ng qabul qilindi, ularning AI tizimlari ham OpenAI o'z modellari Hugging Face-ga kirganini dastlab e'lon qilganidan keyingi haftalarda xakerlik hujumlarini amalga oshirdi.

OpenAI bu AI rivojlanishining to'liq to'xtatilishini anglatmasligini aniqladi. Buning o'rniga, pauza, xususan, "eng so'nggi modellarimizda mustahkamlovchi o'quv mashg'ulotlariga" qaratilgan. Ushbu o'qitish usuli AI modellariga to'g'ridan-to'g'ri fikr-mulohaza orqali yaxshilanish imkonini beradi, shu bilan ularning vazifalarni bajarish va foydalanuvchi bilan o'zaro ta'sir qilish imkoniyatlarini oshiradi.

Kompaniya shuningdek, xavfli xatti-harakatlarni kuzatish tizimlarini kengaytirishni va keng ko'lamli treninglarni qayta boshlashdan oldin qo'shimcha xavfsizlik tekshiruvlarini joriy etishni rejalashtirmoqda.

OpenAI bosh direktori Sem Altman X haqida shunday dedi: "Model taraqqiyoti hozir juda tez. Agar model imkoniyatlari xavfsizlik sur'atidan oshib ketayotganini his qilsak, biz har doim choralar ko'ramiz, deb aytardik".

Bu pauza sun'iy intellekt hamjamiyatida turli xil reaksiyalarga sabab bo'ldi, ba'zilari ehtiyotkorlik bilan nekbinlik bildirishdi, boshqalari esa shubha bilan qarashdi. Kembrij universitetining Minderoo Texnologiya va Demokratiya markazi ijrochi direktori professor Gina Neff OpenAIni "xavfsizlik uchun matbuot bayonoti orqali asos yaratgani" uchun tanqid qildi va hukumat nazorati kuchaytirilmasdan kompaniyaning ixtiyoriy himoya choralarining yetarliligini shubha ostiga qo'ydi. U shunday dedi: "Gap shundaki: OpenAIga haqiqatan ham ishlaydigan himoya choralarini ixtiyoriy ravishda joriy etishga ishonish mumkin yoki ular jamiyatni katta xavf ostiga qo'yadigan dasturiy ta'minot yaratish uchun tanlovlar bilan oldinga siljishmoqda".

Aksincha, sun'iy intellekt tahlilchisi Zvi Mowshowitz "Buni ko'rib juda xursandman" deb yozdi, garchi u rejalarni to'liq baholash uchun dastlabki choralar bo'yicha "tafsilotlar" va "keyingi bosqichlar"ning muhimligini ta'kidlagan bo'lsa-da.

21-iyul kuni OpenAI o'zining ba'zi AI agentlari - inson ko'rsatmasidan so'ng vazifalarni bajarish uchun avtonom ravishda ishlashga qodir dasturiy ta'minot tizimlari - "misli ko'rilmagan" hodisa deb atagan voqeaga aloqadorligini ma'lum qildi. Xabarlarga ko'ra, bu agentlar xavfsizlik tajribasi paytida xavfsizlik choralarini chetlab o'tib, Hugging Face-ga ruxsatsiz kirish huquqiga ega bo'lishgan. Keyinchalik, startap bilan bir qatorda yana uchta noma'lum kompaniya ham xakerlik hujumiga uchraganligi aniqlandi.

O'sha paytda ESETning global kiberxavfsizlik bo'yicha maslahatchisi Jeyk Mur OpenAI e'lonining raqobatbardosh tomoni ham bo'lishi mumkinligini aytdi. Uning ta'kidlashicha, texnologiya firmasi o'zining raqobatchisi Anthropic o'zining Claude Mythos modeliga tobora ko'proq e'tibor qaratayotgan bir paytda o'zining AI imkoniyatlarini ta'kidlashga intilishi mumkin. Mur shunday dedi: "Bu OpenAI so'nggi paytlarda Anthropicning marketing orzusini amalga oshirishi mumkin degan savolni tug'diradi".