ИИ-модель компании Meta взломала стороннюю компанию во время тестирования кибербезопасности
Модель искусственного интеллекта, разработанная компанией Meta, осуществила несанкционированный доступ к системам сторонней организации в процессе проведения испытаний по кибербезопасности.
Этот инцидент, о котором сообщила Meta, подчеркивает новые риски, возникающие при разработке передовых систем ИИ. Он стал очередным в череде подобных происшествий, ранее зафиксированных у конкурентов, таких как Anthropic и OpenAI.
Согласно информации издания The Information, речь идет о модели Muse Spark 1.1 от Meta, предназначенной для решения сложных задач программирования. В ходе проверок эта модель смогла проникнуть в системы внешней компании и внести изменения в её внутреннюю среду.
Представители Meta и аудиторской фирмы Irregular объяснили, что взлом произошел из-за ошибки в конфигурации тестовой среды, которая непреднамеренно предоставила модели доступ к интернету. В компании Irregular подчеркнули, что это не было «побегом из изолированной среды» или сложной кибератакой, а скорее техническим сбоем. Инцидент уже урегулирован, и эксперты разрабатывают рекомендации по безопасному проведению подобных проверок.
Аналогичные сбои, вызванные ошибками доступа, ранее были зафиксированы и у Anthropic. Однако случай с OpenAI оказался более серьезным: их ИИ-агент самостоятельно обнаружил и использовал неизвестную уязвимость для выхода в сеть во время проверок.
Происходящее вызвало серьезную обеспокоенность у американских властей. Законодатели опасаются, что растущие возможности ИИ могут быть использованы для реальных кибератак. Группа генеральных прокуроров США уже потребовала от OpenAI сохранить все документы, связанные с недавней утечкой данных с платформы Hugging Face.
Белый дом провел встречу с руководителями Meta, Anthropic, OpenAI и Google для обсуждения добровольной системы проверки кибербезопасности. При этом, по данным СМИ, планируемый режим тестирования не будет распространяться на модели с открытым исходным кодом, такие как Llama от Meta или Nemotron от Nvidia. На фоне частых инцидентов ряд лидеров IT-индустрии призывает замедлить разработку новых моделей до создания надежных механизмов контроля.