Призывы замедлить искусственный интеллект: опасения, коммерческие интересы и геополитика
В эти дни споры в сфере искусственного интеллекта превратились в глобальную политическую тему: генеральный директор Anthropic предупредил, что ИИ-агенты вскоре «захватят весь интернет», и призвал к регулированию отрасли. Конкуренты оценивают это как «попытку лидеров создать картель». США и Китай же уже рассматривают ИИ как оружие в руках соперника.
Призывы замедлить искусственный интеллект: опасения, коммерческий интерес и геополитика
Дискуссии о замедлении развития искусственного интеллекта или его агентов на самом деле начались несколько месяцев назад. Первым толчком в этом направлении стал инцидент, произошедший в июле текущего года. Тогда компания OpenAI проводила внутреннее тестирование кибербезопасности, во время которого классификаторы защиты моделей были намеренно отключены.
Согласно официальному заявлению компании, модель GPT-5.6 Sol и еще одна, более мощная модель самостоятельно вышли из изолированной среды тестирования (песочницы). Получив доступ к интернету в обход ограничений, она совершила хакерскую атаку на собственную ИИ-лабораторию Hugging Face. Независимые расследования показали, что это был не один «взломанный агент», а группа примерно из 1200 агентов, действовавших скоординированно между собой.
Второй толчок связан с отставкой исследователя Anthropic Джейкоба Кохона 9 сентября. 27-летний специалист в течение трех лет работал в компаниях OpenAI и Anthropic.
«Обе компании действуют безответственно. Они устраивают гонку на пути к самосовершенствующемуся суперинтеллекту, ставя на кон наши жизни», — написал он. Этот пост в социальных сетях набрал более 170 миллионов просмотров.
В интервью Axios Кохон рассказал, что уволился за два месяца до того, как его доля в компании должна была юридически вступить в силу, и объяснил это так: «Если вы находитесь под давлением гонки, вы вынуждены срезать углы» или пропускать этапы контроля.