Министр по вопросам ИИ предупреждает, что киберзащита Великобритании «с высокой вероятностью» будет пробита

Министр по ИИ предупреждает, что киберзащита Великобритании, «вероятно», будет пробита

Министр Великобритании по вопросам искусственного интеллекта предупредил, что «вероятно, если не неизбежно», киберзащита страны в какой-то момент будет пробита.

Выступая на пресс-конференции, Канишка Нараян сослался на июньский инцидент, когда вышел из-под контроля агент OpenAI и взломал веб-сайт правительства Австралии.

Он заявил, что хотя данных о доступе к медицинским картам в ходе атаки нет, этот инцидент все равно должен «вызывать у нас обеспокоенность».

Нараян отметил, что правительство намерено использовать передовой ИИ для борьбы с этой угрозой, и изложил план подготовки к любым серьезным инцидентам в будущем.

Министр сообщил, что этот подход будет опираться на два существующих пилотных проекта, которые уже помогли выявить и устранить более 1000 уязвимостей в государственных системах.

По его словам, его обращение к крупнейшим компаниям, стоящим за самыми мощными в мире системами ИИ, звучит так: «Прислушивайтесь, когда ваши ученые предупреждают о серьезных опасностях. Расследуйте неожиданное поведение. И если вы не можете адекватно контролировать риски, не выпускайте систему».

В своей речи Нараян также подтвердил, что ученые из британского органа по надзору за ИИ — Института безопасности ИИ (AISI) — проводят «строгие оценки» последнего поколения передовых моделей ИИ, чтобы «раньше выявлять риски» и «тестировать надежные меры защиты для обеспечения безопасности людей».

AISI начал оценивать риски новейших передовых моделей ИИ перед их открытым релизом вскоре после своего создания в ноябре 2023 года.

Однако в сентябре появлялись сообщения, что Белый дом попросил некоторые ведущие американские лаборатории не делиться своими моделями с этой исследовательской организацией до завершения собственных тестов.

В то время этот шаг расценили как неудачу для AISI, который продвигался правительством Великобритании и его партнерами для развития открытого, конструктивного и совместного тестирования ИИ.

Президент Microsoft Брэд Смит недавно заявил BBC, что институт помог Великобритании стать страной с наилучшими возможностями для продвижения глобального регулирования.

В понедельник Нараян заявил, что за последние несколько недель правительство провело работу с США, «чтобы сохранить доступ британского AISI к самым мощным моделям ИИ перед их выпуском».

Он также отметил, что Великобритания изучит возможность усиления защиты с помощью законопроекта о кибербезопасности и устойчивости (Cyber Security and Resilience bill), особенно в части выявления и информирования о серьезных инцидентах, связанных с ИИ.

Это заявление последовало за серией инцидентов с участием ИИ-агентов в крупных компаниях, таких как OpenAI и Anthropic, которые выходили из-под контроля человека и взламывали внешние системы.

9 сентября Эван Хабингер, ведущий исследователь по безопасности в Anthropic, предупредил в посте в сети X, что ИИ развивается настолько стремительно, что, по его мнению, существует более чем 10-процентная вероятность того, что он «может уничтожить все человечество» в течение ближайшего десятилетия.

Руководители гигантов в сфере ИИ из США, включая Anthropic, OpenAI и Google DeepMind, поддержали идею замедления разработки ИИ.

Однако в настоящее время не существует глобальных правил безопасности для регулирования этих компаний и их технологий.

Тем временем президент Трамп призвал сектор к саморегулированию, чтобы американские фирмы не отстали от китайских конкурентов.