ООН предупредила о «серьезной угрозе» для человечества из-за неконтролируемого ИИ
Верховный комиссар ООН по правам человека Фолькер Тюрк призвал к значительному усилению международного контроля над развитием искусственного интеллекта, сообщил Центр новостей ООН.
ООН предупредила о «серьезной угрозе» для человечества из-за неконтролируемого ИИ
Выступая в Женеве на Совете ООН по правам человека, комиссар отметил, что дальнейшее распространение мощных систем ИИ без обязательных правил и надежных механизмов безопасности может привести к крайне тяжелым последствиям.
Тюрк заявил, что человечество приближается к этапу, когда возможностей добровольного саморегулирования технологического сектора станет недостаточно. Он считает, что пока самые передовые системы находятся под контролем человека, необходимо заранее установить четкие ограничения для разработчиков и компаний.
В качестве одного из главных рисков верховный комиссар назвал вероятность появления настолько мощных и автономных систем ИИ, что их создатели не смогут гарантированно ими управлять.
Тюрк обратил внимание на сообщения об экспериментах, в которых модели искусственного интеллекта демонстрировали поведение, направленное на сохранение своей деятельности, в том числе в ситуациях, когда возникала угроза отключения системы.
«Искусственный интеллект, который выходит за рамки тестовой среды или шантажирует разработчиков, чтобы не допустить своего отключения, — это означает сверхмощный ИИ», — сказал он. — «Сегодня я призываю мобилизовать все усилия для создания железных гарантий безопасности и защиты искусственного интеллекта, пока не стало слишком поздно».
Верховный комиссар призвал государства и технологические компании как можно скорее разработать надежные механизмы защиты, которые позволят предотвратить опасное или непредсказуемое поведение таких систем.
Он подчеркнул, что необходимые меры должны быть приняты до того, как возможности искусственного интеллекта достигнут уровня, при котором контролировать его станет гораздо сложнее.
Однако проблема не ограничивается только техническими рисками, отметил представитель ООН. Тюрк обратил внимание на чрезвычайно высокую концентрацию ресурсов и влияния в сфере искусственного интеллекта.
«Немногие люди обладают практически безграничной властью над искусственным интеллектом», — сказал он.
Речь идет о контроле над передовыми моделями и вычислительными мощностями, а также об огромных объемах данных, которые собираются и обрабатываются крупными технологическими компаниями.