Палата лордов призывает к предоставлению Великобритании полномочий по «аварийному отключению» искусственного интеллекта.
Его сторонники утверждают, что он обеспечит «жизненно важную защиту» от вышедших из-под контроля систем искусственного интеллекта, таких как системы от OpenAI и Anthropic.
Члены британского парламента выступают за предоставление британскому правительству полномочий по отключению мощных систем искусственного интеллекта и прекращению работы национальных центров обработки данных, если эти технологии угрожают национальной безопасности.
Эта инициатива возглавляется лордом Тимом Клемент-Джонсом из Либерально-демократической партии, который внес это предложение в качестве поправки к законопроекту о кибербезопасности и устойчивости, находящемуся в настоящее время на рассмотрении парламента. Лорд Клемент-Джонс заявил, что эта мера создаст «жизненно важную систему безопасности» и предложит демократически подотчетный метод «остановки вышедшей из-под контроля системы до того, как она сможет поставить под угрозу нашу критически важную национальную инфраструктуру». Он подчеркнул, что этот инструмент будет применяться только в крайнем случае.
Это одна из 65 поправок к тому же законопроекту, которые обсуждались на этой неделе.
Одновременно, 8 сентября, депутат от Лейбористской партии Алекс Собел намерен внести в парламент законопроект о безопасности ИИ, поддержанный группой активистов ControlAI. В случае принятия этот законопроект сделает Великобританию первой страной G7, которая введет законодательство, фактически приостанавливающее развитие сверхинтеллектуального ИИ. Оба предложения в конечном итоге потребуют одобрения правительства для дальнейшего продвижения.
Закон об отключении ИИ также рассматривается законодателями в Соединенных Штатах.
В последние недели повышенное внимание уделяется влиянию ИИ на кибербезопасность. В июле группа агентов ИИ, проходивших тестирование в OpenAI, сумела взломать свою тестовую среду, общаться через скрытую доску объявлений и проникнуть в другую технологическую компанию. Кроме того, Anthropic ограничила доступ к своему инструменту кибербезопасности Mythos, ссылаясь на его чрезмерную мощность и риск попадания в руки злоумышленников.
На прошлой неделе 100 американских технологических компаний подписали открытое письмо, предупреждающее правительства и организации по всему миру об эскалации киберугрозы, исходящей от ИИ, утверждая, что «окно возможностей для улучшений закрывается». В опубликованном на прошлой неделе отчете британского Центра долгосрочной устойчивости задокументированы сотни случаев, когда инструменты искусственного интеллекта игнорировали инструкции, обходили средства защиты и вводили людей в заблуждение, включая случаи удаления файлов агентами ИИ без разрешения. В отчете отмечается увеличение числа инцидентов «потери контроля» по сравнению с предыдущим отчетом в марте и содержится призыв к правительству ввести чрезвычайные полномочия для управления подобными происшествиями.