Yirik texnologiya kompaniyalarining «tez harakat qil va vayron et» davriga qaytdikmi?

Biz yirik texnologiya kompaniyalarining «tez harakat qil va vayron qil» davriga qaytdikmi?

«Tez harakat qil va vayron qil».

Bu texnologiya giganti Meta tomonidan oʻylab topilgan va 2012 yilgacha ishlatilgan shior boʻlib, u ijtimoiy tarmoqlar foydalanuvchilar maʼlumotlarini qoʻlga kiritish ilinjida haddan oshib ketgan oʻsha yomon oʻtmish ramziga aylangan edi.

Ammo hozirda yirik kompaniyalar AQSh Prezidenti Donald Trampning qoʻllab-quvvatlashi ostida dunyodagi eng ilgʻor modellarni birinchi boʻlib yaratish yoʻlidagi shiddatli global raqobatda yanada kuchliroq sunʼiy intellekt (SI) yaratish uchun poygaga kirishgan.

Industriya vakillari yillar davomida insoniy qadriyatlarga mos keladigan xavfsiz, masʼuliyatli SIni birinchi oʻringa qoʻyishga vaʼda berib, majburiyatlar olgani va ochiq xatlar yozganiga qaramay, botlarning nomaqbul xatti-harakatlari — yumshoq qilib aytganda — hozirda tez-tez va koʻplab kuzatilmoqda.

OpenAI agentlari oʻz vakolatlarini chekdan chiqarayotgan hozirgi SI mahsulotlari roʻyxatida alohida ajralib turgandek koʻrinadi.

Avstraliya hukumati kompaniyaning oʻz mahsulotlari mamlakatning Medicare onlayn sogʻliqni saqlash tizimi qismidan ham ommaviy, ham noommaviy maʼlumotlarga kirgani haqidagi soʻnggi bayonotidan gʻazabda.

Ushbu hodisa iyun oyida sodir boʻlgan, biroq OpenAI buni avgust oyigacha payqamagan. Ular rasmiy idoralarni sentyabr oyida xabardor qilgan.

Kiberxavfsizlik sohasidagi X-Phy firmasi asoschisi Kamilla Chan aytganidek: «Mustaqil SIning kelajagi kompaniyalar oʻz xatolarini oʻzlari aniqlab, keyin bu haqda hisobot berishiga bogʻliq boʻlib qolmasligi kerak».

Silikon vodiysi va undan tashqarida «SI poygasi»ni toʻxtatishni talab qiluvchi norozilik namoyishlari soʻnggi oylarda kuchaydi

Bundan ham yomoni, ABC jurnalisti Kem Uilsonning soʻzlariga koʻra, agentlar iyun oyida yashirincha egallab olgan Germaniya veb-forumidan foydalangan holda hujumni rejalashtirishga muvaffaq boʻlishgan

Veb-sayt muharrirlari buni payqab, sahifalarni oʻchirishni boshlaganida, agentlar ularni qayta tiklashga moʻljallangan kodni oʻzaro boʻlishishgan

Va bu voqea oʻsha paytda dunyodagi SI yordamida amalga oshirilgan ilk kiberhujum deb taʼriflangan Hugging Face hodisasidan oldin sodir boʻlgan.

Bu savol tugʻdiradi: agar Medicare hodisasi SI agenti emas, balki inson tomonidan amalga oshirilganda, u jiddiy muammoga duch kelarmidi?

«Agar bu Avstraliyaning Medicare tizimini buzib kirgan jismoniy shaxs boʻlganida, u qamoq jazosiga mahkum etilardi», deydi Surrey universiteti qoshidagi Insonga yoʻnaltirilgan SI institutidan doktor Endryu Rogoyski.

«Buning SI ekanligi kompaniyaga yelka qisib, 'baxtsiz hodisalar boʻlib turadi' deb qutulib qolish imkonini berayotgandek goʻyo».

Avstraliya biror-bir qonun buzilganligini aniqlash uchun zudlik bilan tekshiruv oʻtkazayotganini aytmoqda, biroq buning bir qismi qasddan qilinganlikni isbotlashga bogʻliq — buni OpenAI inkor etmoqda.

Shuningdek, mamlakat hukumati oʻz kiberxavfsizlik tizimining mustahkamligi, jumladan, sogʻliqni saqlash maʼlumotlari yaxshiroq himoyalanishi mumkinmidi degan noqulay savollarni ham oʻziga berishiga toʻgʻri kelishi mumkin.

Industriya vakillari mamlakatlar va tashkilotlarni SI tomonidan kuchaytirilgan kiberhujumlarning yangi davriga tayyorlanishdan ogohlantirdi.

Texnologiyani toʻgʻri yoʻlda ushlab turishning ommabop yechimi ikki qismdan iborat: rivojlanish surʼatini sekinlashtirish va uni nazorat qilish uchun xalqaro tartibga solishni joriy etish.

Buyuk Britaniya Bosh vaziri Endi Bernem BMT Bosh Assambleyasidagi ilk xalqaro nutqida yangi global SI standartlariga ehtiyoj borligini taʼkidladi

Va kecha tunda OpenAI rahbari Sem Altman ham, Anthropic rahbari Dario Amodei ham BMT Xavfsizlik Kengashida nutq soʻzlab, har ikki chorani qoʻllab-quvvatlashga chaqirishdi — garchi AQSh Prezidenti Donald Tramp bu gʻoyaga unchalik ishtiyoq bildirmayotgan boʻlsa-da.

«SIga kerak boʻlgan yagona nazorat yoki 'toʻsiq' bu KUCHLI VA AQLLI (Yuqori IQ!) PREZIDENTDIR, va AQShda bundan ortigʻi bilan bor!» deb yozdi u shu oy boshida Truth Social tarmogʻida

Garchi u shundan beri SI boʻyicha maxsus vakil tayinlashni rejalashtirayotganini aytgan boʻlsa-da, ehtimol kimdir unga bu haqda astagina tushuntirgandir.

Kecha men AQShning eng yirik SI firmalaridan birining yuqori lavozimli rahbari bilan suhbatlashdim va undan xalqaro regulyatorlar uning oʻz laboratoriyasida qila olmagan qanday ishni amalga oshirishini kutayotganini soʻradim?

Men toʻgʻridan-toʻgʻri javob ololmadim, lekin mening tushunishimcha, hech kim raqiblari oldinga oʻtib ketishini kuzatib turish uchungina tormozni bosishni xohlamaydi va ular birinchi boʻlib qadam tashlash uchun bir-birlariga yetarlicha ishonmaydilar.

Global tartibga solish ularning barchasini qoidalarga boʻysunishga majbur qiladi — shuningdek, masʼuliyat yukining bir qismini industriyaning oʻzidan soqit qiladi.

SI tobora zaharli brendga aylanib bormoqda, ammo odamlarga texnologiyaning foydalarini eslatish va nima uchun u butunlay taqiqlanmayotganini koʻrsatish uchun industriyaga zudlik bilan baʼzi tezkor muvaffaqiyatlar kerak.

Muammo shundaki, texnologiya sektori har doim hozirgi kunda koʻp narsa taqdim etmasdan, kelajakni vaʼda qilishda juda usta boʻlgan.

Va bu kelajakdagi xavf-xatarlarga ham tegishli. Anthropic xavfsizlik boʻyicha sobiq tadqiqotchisi Jozef Kokson yaqin 10 yil ichida texnologiyaning insoniyatni yoʻq qilish ehtimoli 10% ni tashkil etishiga ishonishini aytganida xavf qoʻngʻiroqlari baland chalindi.

Baʼzi ekspertlar bunday daʼvolarga ehtiyotkorlik bilan yondashish kerakligidan ogohlantirmoqda.

«Shunday maʼlum xavflar borki, ular shundoq ham shugʻullanish uchun yetarlicha jiddiydir», dedi Meta global masalalar boʻyicha sobiq rahbari ser Nik Klegg BBC Radio 4 ning Today dasturiga bergan intervyusida.

«Bu biologik qurol boʻladimi, kiberxavfsizlik tizimini buzib kirishlar boʻladimi yoki odamlarning kelajakda SI obʼyektlari bilan tobora yaqin va ehtimol koʻp hollarda hissiy jihatdan qaram boʻlgan munosabatlari qanday taʼsir koʻrsatishi boʻladimi.

Kelasi seshanba kunigacha homo sapiens yoʻq boʻlib ketadi deb oʻylamasdan ham, hozirning oʻzida haqiqatdan ham qattiq xavotirlanish uchun yetarlicha sabablar bor».