Сунъий интеллект бир миллиард одамнинг ўлимига сабаб бўлиши мумкинми?
Билл Гейц сунъий интеллектдан ёвуз мақсадларда фойдаланиш миллиардлаб инсонлар ҳаётига таҳдид солиши мумкинлигидан огоҳлантирди. Киберхавфсизлик эксперти Девид Линтикум эса бир миллиард одамнинг ўлимига олиб келадиган ссенарийни назарий жиҳатдан мумкин, аммо кўплаб жиддий хатолар бир вақтда содир бўлмаса, амалга ошиши эҳтимоли паст деб ҳисобламоқда.
Сунъий интеллект бир миллиард одамнинг ўлимига олиб келиши мумкинми?
Мисрософт ҳаммуассиси Билл Гейц НБС Невсъга берган интервюсида замонавий сунъий интеллект воситалари ёмон ниятли кишилар қўлида ниҳоятда хавфли қуролга айланиши мумкинлигини айтган. У, шунингдек, бу технологияни қонунчилик даражасида назорат қилиш зарурлигини таъкидлаган.
Томъс Гуиде нашри ушбу огоҳлантиришни муҳокама қилиш учун сунъий интеллект, булутли технологиялар ва киберхавфсизлик бўйича эксперт Девид Линтикумга мурожаат қилган.
Линтикумнинг изоҳига кўра, бундай миқёсдаги фалокат юз бериши учун СИ муҳим инфратузилма, қурол-яроғ, таъминот занжирлари ёки биологик тизимларга таъсир ўтказа олиши керак. Бундан ташқари, у инсон аралашувисиз ҳаракатлана олиши лозим.
Экспертнинг фикрича, бунинг учун тизимларни ўзаро улашдаги катта хатолар, бошқарувдаги жиддий нуқсонлар ва технологиядан атайлаб зарарли мақсадларда фойдаланиш каби омиллар бирлашиши керак. Шу сабабли у бундай ссенарийни муқаррар ёки яқин келажакда рўй берадиган ҳодиса деб ҳисобламайди.
Линтикум Гейц террорчилар ёки беқарор давлатлар СИдан фойдаланиши мумкинлигини назарда тутган бўлиши эҳтимолини айтган. Бироқ унинг баҳосига кўра, зарарли ғоядан кенг кўламли фалокатни амалга оширишгача бўлган йўлда катта амалий тўсиқлар мавжуд.
Шу билан бирга, эксперт сунъий интеллект билан боғлиқ бугунги хавфларни рад этмайди. У маълумотлар сизиб чиқиши, фирибгарлик, дипфейклар, нотўғри автоматлаштириш ва тарафкаш қарорларни долзарб муаммолар қаторига киритган.
Унинг асосий хавотири — етарлича пухта ишланмаган СИ тизимларининг ҳақиқий корпоратив ва давлат тизимларига уланиб кетиши. Айрим ташкилотлар технологияни зарур назорат механизмларисиз жорий эца, бу зарар келтириши мумкин.
Линтикум хавфларни камайтириш учун СИга фақат вазифасини бажариш учун зарур ваколатларни бериш, тизимларни ажратиб ишлатиш ва юқори хавфли ҳаракатларни инсон тасдиғига боғлашни таклиф қилган. Шунингдек, тизимнинг барча ҳаракатларини қайд этиш, мунтазам синовдан ўтказиш ва ўзгаришларни ортга қайтариш имконини сақлаш муҳимлигини айтган.
Экспертнинг фикрича, фақат фавқулодда ўчириш тугмасига таяниш етарли эмас. Инсон муаммони кеч аниқласа, тизим ўчирилгунига қадар зарар етказиб бўлинган бўлиши мумкин. Шу боис хавфсизлик бир нечта назорат қатламига таяниши ва дастурни яратишнинг илк босқичлариданоқ инобатга олиниши керак.