Гонка за самый мощный ИИ может замедлиться. Кому это выгодно и что задумали крупнейшие разработчики?

Гонка за создание самого мощного ИИ может притормозить. Кому это выгодно и что планируют крупнейшие разработчики?

Почти одновременно руководители крупнейших компаний, создающих передовой искусственный интеллект, заговорили о необходимости замедлить соревнование за все более мощные модели. Первым с конкретным предложением выступил глава Anthropic, разработчика Claude, Дарио Амодеи, но вскоре его поддержали руководители OpenAI, Google DeepMind и xAI. При этом выяснилось, что некоторые из этих компаний еще до публичных заявлений обсуждали создание общего механизма контроля за развитием ИИ.

12 сентября Амодеи предложил не останавливать разработку, а сделать ее темп более осторожным.

Он призвал компании дать независимым оценщикам постоянный доступ к внутренним процессам, согласовать общие стандарты безопасности и в перспективе прийти к международной координации. В тот же период Сэм Альтман заявил, что согласен с необходимостью "сбавить темп", а Илон Маск поддержал предложение Anthropic. Руководитель Google DeepMind Демис Хассабис тоже положительно оценил эту идею.

Примечательно, что инициатива прозвучала от компаний, которые напрямую соперничают за лидерство в создании самых мощных моделей. Поэтому возникает вопрос: это редкое совпадение взглядов перед лицом общей угрозы или начало более тесной координации между главными участниками гонки?

Самая любопытная деталь появилась не в публичных заявлениях, а в сообщениях о предварительных переговорах. По данным The Washington Post, Anthropic, OpenAI и Google еще до публичного призыва Амодеи обсуждали создание новой отраслевой организации, которая могла бы устанавливать стандарты безопасности ИИ.

Идея такого механизма ранее исходила, в том числе, от Хассабиса.

Показательно и то, что сам Альтман еще до нынешней волны заявлений говорил о возможности добровольного соглашения между крупнейшими разработчиками. В последние дни он также подтвердил готовность OpenAI работать с внешними оценщиками. Напомним, что OpenAI может согласовывать с другими ведущими компаниями меры по замедлению разработки и повышению безопасности.

У компаний есть вполне конкретные причины для тревоги. Современные ИИ-агенты уже умеют самостоятельно выполнять цепочки действий, работать с интернетом и использовать инструменты, которые позволяют им выходить далеко за рамки обычного чат-бота.

Одним из самых заметных стал инцидент OpenAI с платформой Hugging Face. Во время испытаний ИИ-агенты вышли за пределы тестовой среды, получили доступ к интернету и взломали инфраструктуру сервиса, пытаясь добыть данные, необходимые для прохождения теста.

Амодеи считает этот случай не разовой ошибкой, а предупреждением о том, что развитие возможностей ИИ может начать опережать способность разработчиков контролировать их поведение. По его оценке, при сохранении нынешних темпов уже через 6–12 месяцев более мощные системы потенциально смогут нанести ущерб на сотни миллиардов долларов.

На этом фоне растет и общее число подобных инцидентов. Ранее сообщалось о резком увеличении случаев, когда автономные системы нарушали инструкции, пытались обходить ограничения или действовали вопреки первоначальным целям.

Эта тенденция стала одним из аргументов сторонников более жесткого контроля.

Но нынешняя ситуация отличается от дискуссий двух-трехлетней давности. Раньше призывы притормозить развитие ИИ можно было воспринимать как спор о возможных рисках будущих систем. Теперь разработчики обсуждают поведение уже существующих автономных агентов и пытаются понять, как контролировать модели, способные самостоятельно планировать и выполнять действия.

Крупнейшие компании действительно могут опасаться, что развитие ИИ идет слишком быстро. Но одновременно договоренность об общем темпе развития способна изменить саму конкурентную среду.

Как считает эксперт Венкатеш Рао, если ведущие компании одновременно согласятся не наращивать возможности моделей быстрее определенного уровня, им будет проще контролировать расходы на обучение и инфраструктуру, а новым игрокам будет сложнее резко сократить технологический разрыв.

Кроме того, крупнейшие компании сами получат возможность участвовать в определении того, что считать допустимой скоростью развития и достаточным уровнем безопасности.

Именно поэтому идея отраслевого органа по безопасности вызывает неоднозначную реакцию. С одной стороны, независимый контроль может заставить компании отвечать за свои обещания. Амодеи предлагает предоставить внешним оценщикам доступ к рабочим процессам Anthropic, фактически наделив их полномочиями, сопоставимыми с полномочиями внутренних специалистов по оценке рисков. С другой — правила, выработанные самими крупнейшими разработчиками, потенциально могут закрепить их преимущество перед менее крупными конкурентами.

Таким образом, разговор о безопасности одновременно превращается в разговор о том, кто будет устанавливать правила развития передового ИИ.

Именно здесь идея глобального замедления сталкивается с геополитическим противоречием. Амодеи предупреждает, что лидерство Китая в ИИ может представлять серьезную угрозу для США и мира, поэтому предлагает сохранять американское технологическое преимущество и ограничения на поставки Китаю передовых чипов и оборудования.

При этом глава Anthropic признает: глобальное замедление невозможно без сотрудничества с Пекином. В его концепции Китай должен участвовать в международных договоренностях по безопасности ИИ. Получается парадокс: США хотят договориться с Китаем о правилах безопасного развития ИИ, одновременно ограничивая его доступ к ключевым технологиям. Аналитик Asia Society Лицзи Ли называет это одним из главных противоречий такой модели.

В Пекине инициативу Амодеи уже восприняли как попытку технологического сдерживания. Представитель МИД КНР заявил, что "запугивание, конфронтация и порочная конкуренция" будут мешать глобальному управлению ИИ, а государственная Global Times назвала предложения главы Anthropic "учебником холодной войны" для AI-индустрии.

Недоверие усиливается взаимными обвинениями. Американские спецслужбы незадолго до публикации эссе обвинили китайских разработчиков в извлечении возможностей из передовых американских моделей, тогда как Пекин отверг эти претензии и заявил, что Вашингтон стремится установить монополию на рынке ИИ. При этом китайские власти сами предупреждают об угрозах со стороны зарубежных систем: глава Министерства государственной безопасности КНР Чэнь Исинь заявил, что ИИ в руках враждебных сил может угрожать политической и информационной безопасности страны.

И здесь позиция руководителей ИИ-компаний напрямую расходится с политикой американской администрации.

Президент США Дональд Трамп 13 сентября отверг идею о том, что развитие ИИ нужно существенно замедлить.

Он заявил, что США опережают Китай и должны сохранить это преимущество, поскольку "кто выигрывает ИИ, тот выигрывает". При этом Трамп допустил возможность введения определенных ограничений, но назвал значительную часть нынешних опасений вокруг ИИ преувеличенными.

Таким образом, внутри самих США сложились две противоположные логики.

Амодеи фактически признает существование этой дилеммы. В интервью CBS он назвал конкуренцию американских и китайских компаний самым сложным вопросом для создания "скоростного лимита" и признал, что не уверен, возможно ли вообще обеспечить его соблюдение.

Пока нет оснований утверждать, что руководители крупнейших ИИ-компаний заключили тайную договоренность. Но есть факты, которые делают вопрос о координации вполне оправданным: несколько конкурирующих компаний заранее обсуждали общий орган по безопасности, затем их руководители почти одновременно поддержали идею замедления, а сами предложения предполагают не только внутренние меры безопасности, но и коллективные правила для всей отрасли.

Сейчас можно выделить несколько возможных сценариев развития событий.

Первый — реальная координация. Крупнейшие разработчики действительно могут двигаться к негласному или официальному соглашению о темпах развития ИИ и единых требованиях безопасности. Предварительные переговоры Anthropic, OpenAI и Google о создании общего отраслевого органа показывают, что контакты между конкурентами начались еще до публичных призывов к замедлению. Если этот процесс продолжится, нынешние заявления могут стать первым этапом формирования новых правил для всей отрасли.

Второй — вынужденное перемирие. Компании могли прийти к выводу, что автономные системы развиваются быстрее, чем методы контроля за ними, и потому временно заинтересованы в общих ограничениях. В этом случае речь будет идти не о прекращении конкуренции, а о попытке договориться о минимальном уровне безопасности, после которого гонка продолжится.

Третий — борьба за правила игры. Призывы к замедлению могут одновременно быть способом повлиять на то, какие именно ограничения появятся в будущем. Если крупнейшие разработчики получат ключевую роль в создании стандартов, они смогут влиять и на условия, в которых будут работать их конкуренты. Тогда дискуссия о безопасности ИИ станет еще и борьбой за контроль над будущим рынком.

При этом эти версии не исключают друг друга. Компании могут одновременно действительно опасаться ускорения ИИ, договариваться о минимальных правилах безопасности и стремиться получить влияние на то, как эти правила будут выглядеть.

Пока ни один из этих сценариев нельзя считать доказанным. Но уже ясно другое: крупнейшие разработчики впервые так заметно переходят от индивидуальных предупреждений об опасности ИИ к разговору о коллективных правилах его развития.