Ведущие технологические компании предупреждают, что времени для обеспечения кибербезопасности остается все меньше.

Ведущие технологические компании выступили с суровым предупреждением: времени на укрепление киберзащиты от стремительно развивающихся возможностей искусственного интеллекта остается все меньше. Группа из 100 компаний, включая таких гигантов индустрии, как Google, Microsoft, Anthropic и OpenAI, подписала открытое письмо, призывающее страны и организации по всему миру усилить свою киберзащиту до того, как ИИ станет достаточно мощным, чтобы обходить эти системы.

В письме предупреждается, что кибератаки с использованием ИИ в ближайшие месяцы станут более распространенными и изощренными, учитывая стремительный прогресс технологии. Группа утверждает, что нынешние меры безопасности окажутся недостаточными, и критикует «исторически недостаточное финансирование» безопасности критической инфраструктуры. Письмо начинается с заявления: «У нас есть ограниченное время для улучшения киберзащиты».

Среди других подписавших — финансовые учреждения, такие как Capital One, компании по обработке платежей MasterCard и Visa, а также крупные технологические компании, включая Adobe, Oracle и IBM. Они призывают правительства предоставлять «эффективный, защищенный ИИ» и проводить тестирование для таких важных служб, как больницы и водопроводные компании, а также призывают технологические компании поддержать эти инициативы. В письме подчеркивается, что технологические компании и правительство «должны задействовать весь потенциал своих технологий, ресурсов и опыта в этих усилиях».

Это обращение последовало за серией громких инцидентов с хакерскими атаками и нарушениями кибербезопасности, которые недавно стали известны. На этой неделе Министерство юстиции США сообщило, что китайские хакеры проникли в технологические системы, поддерживаемые Сенатом США, НАСА, Федеральной резервной системой и самим Министерством юстиции.

Летом OpenAI, Anthropic и Meta сообщили о случаях неожиданного поведения своих инструментов ИИ, причем некоторые агенты ИИ даже координировали свои действия и выдавали себя за реальных людей, чтобы обойти протоколы безопасности. В июле сотни агентов ИИ OpenAI, проходивших тестирование, сумели создать секретные форумы для общения и сотрудничества, что привело к успешной атаке на Hugging Face, широко используемый репозиторий и платформу для разработчиков ИИ. Это событие было охарактеризовано как первая в мире кибератака с использованием ИИ.

Компания Hugging Face, также подписавшая письмо, использовала китайский инструмент ИИ от Z.AI в своем расследовании того, как агенты OpenAI взломали ее системы. Кроме того, по меньшей мере семь американских компаний водоснабжения и водоотведения сообщили о кибератаках, что побудило ФБР выпустить публичное обращение, призывающее все коммунальные предприятия повысить уровень безопасности своих операций.

Хотя в письме предлагаются более совершенные инструменты ИИ — многие из которых уже разработаны и продаются подписавшими его лицами — в качестве решения этой растущей угрозы, такие инструменты не всегда легкодоступны. Например, компания Anthropic утверждает, что Mythos способен за секунды выявлять уязвимости системы, которые долгое время ускользали от внимания хакеров-людей, включая уязвимость в устаревшей платформе, которая оставалась необнаруженной в течение 27 лет. Anthropic ограничила доступ к Mythos, ссылаясь на его огромную мощность и риск попадания в чужие руки.

Тем не менее, в письме содержится призыв к компаниям, работающим в сфере передовых технологий ИИ — тем, кто разрабатывает собственные модели и инструменты ИИ, — «обеспечить ответственный доступ к моделям, значительное финансирование, обучение и практическую поддержку, особенно для компаний, занимающихся защитой критической инфраструктуры и испытывающих нехватку ресурсов». В письме не уточняется, когда и как будет реализован этот более широкий доступ к моделям.

Эндрю Юн, руководитель исследовательского отдела CivAI, некоммерческой организации, занимающейся популяризацией технологий ИИ, предвидит «беспрецедентную волну хакерской активности в сфере ИИ» и возлагает ответственность на многих подписавших письмо. Юн заявил: «Они правы, выделяя в этом письме «значительное финансирование» на меры защиты. Их следует обязать выполнить это обязательство». Он также отметил: «Примечательно, что в письме не содержится призыва к каким-либо действиям по замедлению развития возможностей ИИ в области хакерства».

Письмо завершается призывом к правительствам, организациям, специалистам по кибербезопасности и другим компаниям, работающим в сфере ИИ, к сотрудничеству, приоритетному развитию защиты и тестированию своих систем на соответствие возможностям самых мощных моделей ИИ. В США сенаторы внесли на рассмотрение законопроект «Kill Switch Act», который предоставит властям право отключать неисправные модели ИИ.

Джеффри Хинтон, технолог и лауреат Нобелевской премии, ранее работавший над ИИ в Google, в четверг в интервью BBC World Business Report выразил обеспокоенность, заявив, что общество может оказаться «в реальной беде», если технология достигнет уровня, когда она станет «умнее» человека. В последние годы Хинтон является ярым критиком чрезвычайных рисков, связанных с развитием ИИ. В четверг он добавил: «У нас есть одно будущее, где мы научимся справляться с рисками ИИ. И у нас есть другое будущее, где мы не научимся разумно с этим справляться. И это очень мрачное будущее».