Sunʼiy intellekt kompaniyalari “halokatli hodisa”ga tayyorgarlik koʻrmoqda - OAV
Anthropic, OpenAI va boshqa sunʼiy intellekt (SI) kompaniyalari rahbarlari internet, moliyaviy xizmatlar hamda hayotiy taʼminot tizimlari faoliyatini izdan chiqarishi mumkin boʻlgan keng koʻlamli kiberhujumga jamiyat va rasmiylarning beradigan munosabati ssenariylarini ishlab chiqmoqda, deb yozdi Axios.
Sunʼiy intellekt kompaniyalari “halokatli hodisa”ga hozirlik koʻrmoqda - OAV
Anthropic, OpenAI va boshqa SI kompaniyalari rahbarlari sunʼiy intellekt bilan bogʻliq “halokatli hodisa” yuz bersa, jamiyat hamda hukumat qanday javob berishi mumkinligi haqidagi ssenariylarni yopiq tarzda muhokama qilmoqda. Gap, jumladan, moliyaviy xizmatlar, internet yoki elektr va suv taʼminoti tizimlarida uzilishlarga sabab boʻlishi mumkin boʻlgan keng koʻlamli kiberhujum haqida ketmoqda, deb yozdi.
Xavfsizligi taʼminlanmagan SI sabab yetkaziladigan jiddiy zarar ilk bor roʻy bersa, bu texnologiyaga hamda uning yetakchilariga, xususan, Anthropic va OpenAI rahbarlari Dario Amodei va Sem Altmanlarga boʻlgan ishonchsizlikni kuchaytirishi mumkin. Shuningdek, sohani tartibga solishni istamayotgani bois bu tanqidlar AQSH prezidenti Donald Trampga ham yoʻnaltirilishi mumkin.
OpenAI Axios’ga ehtimoliy ssenariylarni koʻrib chiqish boʻyicha mashgʻulotlar oʻtkazayotganini bildirgan. Anthropic esa izoh berishdan bosh tortgan. Shu bilan birga, sohaning koʻplab vakillari nashrga yaqin 6–12 oy ichida yirik hodisa yuz berishini kutayotganini aytishgan.
Axios tahdidlarga misol sifatida Janubiy Koreyadagi moliya muassasalariga yaqinda uyushtirilgan hujumlarni, jumladan, ikkita bankning buzilishi va oʻn minglab mijozlar maʼlumotlarining oʻgʻirlanishini keltirmoqda. CrowdStrike maʼlumotlariga koʻra, xitoylik ekani taxmin qilingan xaker oʻgʻirlangan maʼlumotlarni sotish maydonchalarini qidirish uchun SI vositalaridan, jumladan Claude Code’dan foydalangan.
Kompaniyalar yirik hodisadan keyin siyosatchilar SI rivojlanishini keskin cheklashga urinib qolishidan xavotirda. Demokratlarning takliflari orasida superintellekt yaratishni taqiqlash va ilgʻor tizimlarni ishlab chiqishni vaqtincha toʻxtatish ham bor. Boshqa tashabbuslar, masalan, mukammal modellarni “avariya oʻchirgichi” bilan jihozlash talabi har ikki partiya tomonidan qoʻllab-quvvatlanmoqda, biroq ekspertlar barcha SI tizimlarini oʻchirib qoʻyishning imkoni borligiga shubha bilan qaramoqda.
Sunʼiy intellekt xatarlari haqidagi munozaralar avtonom SI agentlari sinov muhitidan chiqib, real tizimlarga hujum qilgan holatlar fonida yanada kuchaydi. Anthropic va OpenAI rahbarlari xavfsizlik choralarini kuchaytirishga chaqirmoqda, biroq ular yoʻl qoʻyilishi mumkin boʻlgan xatarlarni baholashda turlicha fikrda.
Iyul oyida OpenAI “misli koʻrilmagan kiberhodisa” yuz bergani haqida xabar berdi: sinovdan oʻtkazilayotgan modellar Hugging Face platformasi infratuzilmasiga hujum qilib, zaifliklarni aniqlagan. Modellar ilgari nomaʼlum boʻlgan nol kunlik (Zero–Day) zaiflikni mustaqil ravishda topib, undan foydalangan va oʻgʻirlangan hisob maʼlumotlari orqali Hugging Face serverlariga kirib borgan.