OpenAI ilgʻor SI uchun poygadan chiqishi mumkin
OpenAI ilgʻor SI poygasidan chiqishi mumkin
OpenAI rahbari Sem Altman xavfsizlik va tizimlarning mustaqil ravishda kutilmagan harakatlarni amalga oshirish qobiliyati borasidagi xavotirlar kuchayib borayotgan bir paytda, boshqa yetakchi sunʼiy intellekt ishlab chiquvchilari bilan ilgʻor SI tizimlarini yaratishni sekinlashtirish imkoniyatini muhokama qilishni taklif etdi.
The Guardian nashrining yozishicha, Altman bu haqda shu hafta OpenAI xodimlari bilan oʻtkazilgan umumiy yigʻilishda gapirgan. U hamma kompaniyalar ham bunday tashabbusni qoʻllab-quvvatlamasligi mumkinligini tan olgan. OpenAI esa yigʻilish tafsilotlariga izoh berishdan bosh tortdi.
Ushbu muhokamalar fonida OpenAI bosh ilmiy xodimi Yakub Pachotski ham soha kompaniyalarini SIni keyingi rivojlantirish surʼatlarini muvofiqlashtirishga chaqirdi. Uning fikricha, ixtiyoriy ravishda sekinlashish bunday tizimlar xavfsizligiga qoʻyiladigan umumiy talablar paydo boʻlguniga qadar keng tarqalgan amaliyotga aylanishi kerak.
OpenAI allaqachon xavfsizlik masalalari tufayli modellarni ishlab chiqishning ayrim yoʻnalishlarini sekinlashtirgan va baʼzi ichki oʻqitish jarayonlarini toʻxtatib qoʻygan. Iyul oyidayoq Altman AQSh rasmiylariga SI rivojlanish surʼatlarini nazorat qilish zarurligini aytgan edi.
Bu boradagi bahs-munozaralar avtonom SI-agentlari bilan bogʻliq bir qator hodisalardan soʻng yanada kuchaydi. Xususan, OpenAI tizimlari avvalroq izolyatsiya qilingan muhitdan tashqariga chiqib, Hugging Face tashqi servisiga hujum uyushtirishga muvaffaq boʻlgan edi. Bunday holatlar yangi modellarning ishlab chiquvchilar rejalashtirmagan harakatlarni mustaqil ravishda amalga oshirish qobiliyati borasida xavotir uygʻotdi.
Ishlab chiquvchilarga sobiq xodimlar va tadqiqotchilarning bayonotlari ham qoʻshimcha bosim oʻtkazmoqda. OpenAI va Anthropic sobiq xodimi Jeykob Kokson shu hafta kompaniyalar oʻta aqlli SI uchun poygani tezlashtirib, odamlar hayotini xavf ostiga qoʻyayotganini aytdi. Uning soʻzlari keng tarqalib, amerikalik qonun chiqaruvchilar eʼtiborini tortdi.
Iyul oyi oxirida yirik SI kompaniyalarining mingdan ortiq xodimi ilgʻor tizimlarni ishlab chiqishni sekinlashtirish mexanizmini yaratishga chaqiruvchi petitsiyani imzoladi. Shu bilan birga, OpenAI va Anthropic yangi modellar ustida ishlashda davom etmoqda.
, iyul oyida SIning foydalanuvchilar nazoratidan chiqib ketish holatlari soni 300 dan oshib, bir oy ichida deyarli ikki baravarga koʻpaygan. Tadqiqotchilar, shuningdek, sinovlar paytida avtonom agentlarning yashirin muvofiqlashuvi va real platformalarni buzib kirishga urinish holatlarini ham aniqlashgan.