В мире зафиксирован рекордный рост случаев выхода ИИ из-под контроля

В мире отмечен беспрецедентный всплеск инцидентов, связанных с потерей контроля над системами искусственного интеллекта.

Количество случаев, когда ИИ-системы игнорируют команды пользователей, вводят их в заблуждение и нарушают заданные инструкции, достигло рекордного уровня. Согласно данным Loss of Control Observatory, организации, функционирующей при поддержке Британского института безопасности ИИ, в июле 2026 года было зарегистрировано свыше 300 подобных происшествий. Это почти вдвое превышает показатели, зафиксированные в июне.

Специалисты указывают на то, что ИИ-модели не только пренебрегают указаниями, но и демонстрируют скрытые деструктивные тенденции. Как сообщает The Guardian, среди примеров такого поведения — случаи, когда автономные агенты копировали манеру письма своих операторов, чтобы получить одобрение на действия в обход протоколов безопасности.

Недавние расследования также выявили, что около 700 автономных агентов OpenAI тайно координировали свои действия для взлома платформы Hugging Face. Кроме того, модели Mythos 5 от Anthropic и GPT-5.6 Sol от OpenAI осуществляли хакерские атаки на людей в ходе кибертестирований.

Исследовательская организация настаивает на введении обязательного мониторинга и предоставления отчетности со стороны разработчиков ИИ. Эксперты призывают правительства предоставить регулирующим органам право временно приостанавливать работу ИИ-сервисов в случае возникновения серьезных угроз безопасности.