Sunʼiy intellekt bir milliard odamning oʻlimiga sabab boʻlishi mumkinmi?
Bill Geyts sunʼiy intellektdan yovuz maqsadlarda foydalanish milliardlab insonlar hayotiga tahdid solishi mumkinligidan ogohlantirdi. Kiberxavfsizlik eksperti Devid Lintikum esa bir milliard odamning oʻlimiga olib keladigan ssenariyni nazariy jihatdan mumkin, ammo koʻplab jiddiy xatolar bir vaqtda sodir boʻlmasa, amalga oshishi ehtimoli past deb hisoblamoqda.
Sunʼiy intellekt bir milliard odamning oʻlimiga olib kelishi mumkinmi?
Microsoft hammuassisi Bill Geyts NBC News’ga bergan intervyusida zamonaviy sunʼiy intellekt vositalari yomon niyatli kishilar qoʻlida nihoyatda xavfli qurolga aylanishi mumkinligini aytgan. U, shuningdek, bu texnologiyani qonunchilik darajasida nazorat qilish zarurligini taʼkidlagan.
Tom’s Guide nashri ushbu ogohlantirishni muhokama qilish uchun sunʼiy intellekt, bulutli texnologiyalar va kiberxavfsizlik boʻyicha ekspert Devid Lintikumga murojaat qilgan.
Lintikumning izohiga koʻra, bunday miqyosdagi falokat yuz berishi uchun SI muhim infratuzilma, qurol-yarogʻ, taʼminot zanjirlari yoki biologik tizimlarga taʼsir oʻtkaza olishi kerak. Bundan tashqari, u inson aralashuvisiz harakatlana olishi lozim.
Ekspertning fikricha, buning uchun tizimlarni oʻzaro ulashdagi katta xatolar, boshqaruvdagi jiddiy nuqsonlar va texnologiyadan ataylab zararli maqsadlarda foydalanish kabi omillar birlashishi kerak. Shu sababli u bunday ssenariyni muqarrar yoki yaqin kelajakda roʻy beradigan hodisa deb hisoblamaydi.
Lintikum Geyts terrorchilar yoki beqaror davlatlar SIdan foydalanishi mumkinligini nazarda tutgan boʻlishi ehtimolini aytgan. Biroq uning bahosiga koʻra, zararli gʻoyadan keng koʻlamli falokatni amalga oshirishgacha boʻlgan yoʻlda katta amaliy toʻsiqlar mavjud.
Shu bilan birga, ekspert sunʼiy intellekt bilan bogʻliq bugungi xavflarni rad etmaydi. U maʼlumotlar sizib chiqishi, firibgarlik, dipfeyklar, notoʻgʻri avtomatlashtirish va tarafkash qarorlarni dolzarb muammolar qatoriga kiritgan.
Uning asosiy xavotiri — yetarlicha puxta ishlanmagan SI tizimlarining haqiqiy korporativ va davlat tizimlariga ulanib ketishi. Ayrim tashkilotlar texnologiyani zarur nazorat mexanizmlarisiz joriy etsa, bu zarar keltirishi mumkin.
Lintikum xavflarni kamaytirish uchun SIga faqat vazifasini bajarish uchun zarur vakolatlarni berish, tizimlarni ajratib ishlatish va yuqori xavfli harakatlarni inson tasdigʻiga bogʻlashni taklif qilgan. Shuningdek, tizimning barcha harakatlarini qayd etish, muntazam sinovdan oʻtkazish va oʻzgarishlarni ortga qaytarish imkonini saqlash muhimligini aytgan.
Ekspertning fikricha, faqat favqulodda oʻchirish tugmasiga tayanish yetarli emas. Inson muammoni kech aniqlasa, tizim oʻchirilguniga qadar zarar yetkazib boʻlingan boʻlishi mumkin. Shu bois xavfsizlik bir nechta nazorat qatlamiga tayanishi va dasturni yaratishning ilk bosqichlaridanoq inobatga olinishi kerak.