Вернулись ли мы в эпоху «действуй быстро и ломай стереотипы», свойственную крупным технологическим компаниям?

Вернулись ли мы в эпоху «действуй быстро и ломай стереотипы» гигантов технологической индустрии?

«Действуй быстро и ломай стереотипы» (Move fast and break things).

Этот слоган, придуманный технологическим гигантом Meta и использовавшийся до 2012 года, стал символом былых мрачных времен, когда социальные сети безувствунно охотились за пользовательскими данными.

Но теперь крупные компании соревнуются в создании все более мощного ИИ в ожесточенной глобальной гонке за право первыми создать самые передовые в мире модели, и в этом их поощряет президент США Дональд Трамп.

Несмотря на годы обещаний, обязательств и открытых писем со стороны индустрии, гарантировавших приоритет безопасного, ответственного и соответствующего человеческим ценностям ИИ, примеры плохого поведения ботов — мягко говоря — теперь сыплются один за другим.

Агенты OpenAI, судя по всему, занимают видное место в нынешнем списке ИИ-продуктов, выходящих за рамки своих полномочий.

Правительство Австралии в ярости из-за недавнего признания компании в том, что ее продукты получили доступ как к публичным, так и к конфиденциальным данным части государственной онлайн-системы медицинского страхования Medicare.

Инцидент произошел в июне, но OpenAI обнаружила его только в августе, а власти были проинформированы в сентябре.

Как отмечает Камилла Чан, основательница компании по кибербезопасности X-Phy: «Будущее автономного ИИ не может строиться на том, что компании сами обнаруживают свои ошибки и сообщают о них постфактум».

Протесты с требованиями остановить «гонку ИИ» в Кремниевой долине и за ее пределами в последние месяцы усилились.

Хуже того, по сообщениям Кэма Уилсона из ABC, агенты смогли спланировать атаку, используя немецкий веб-форум, контроль над которым они тайно захватили в июне.

Когда редакторы сайта заметили это и начали удалять страницы, агенты поделились кодом, предназначенным для их восстановления.

И это произошло еще до инцидента с Hugging Face, который тогда назвали первой в мире кибератакой с использованием ИИ.

Возникает вопрос: если бы инцидент с Medicare был осуществлен человеком, а не агентом ИИ, грозили бы ему серьезные неприятности?

«Если бы это был человек, взломавший австралийскую систему Medicare, ему грозил бы тюремный срок», — говорит доктор Эндрю Рогойски из Института человекоцентричного ИИ при Университете Суррея.

«Тот факт, что это был ИИ, похоже, позволяет компании просто пожать плечами и отделаться фразой "всякое случается"».

Австралия заявляет, что проводит срочную проверку на предмет нарушения законов, но частично это зависит от доказательства умысла, который OpenAI отрицает.

И правительству страны, возможно, также придется задать себе неприятные вопросы о надежности собственной кибербезопасности, в том числе о том, можно ли было лучше защитить медицинские данные.

Индустрия предупреждает страны и институты о необходимости готовиться к новой эре сверхмощных кибератак с использованием ИИ.

Популярный ответ на вопрос о том, как удержать технологию в узде, состоит из двух частей: замедлить темпы развития и ввести международное регулирование для контроля над ней.

Премьер-министр Великобритании Энди Бернем подчеркнул необходимость новых глобальных стандартов ИИ в своем первом международном выступлении на Генеральной Ассамблее ООН.

А вчера вечером Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic выступили в Совете Безопасности ООН и призвали к обоим шагам — несмотря на то, что президент США Дональд Трамп далеко не в восторге от этой идеи.

«Единственный контроль или "ограничители", которые нужны ИИ, — это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, и у США этого в избытке!» — написал он в Truth Social ранее в этом месяце.

Хотя с тех пор он заявил, что планирует назначить «царя ИИ» (специального уполномоченного), так что, возможно, кто-то провел с ним разъяснительную беседу.

Вчера я разговаривал с топ-менеджером одной из крупнейших американских ИИ-фирм и спросил его, каких действий он ожидает от международных регуляторов, которые он сам, очевидно, не может предпринять внутри собственной лаборатории?

Прямого ответа я не получил, но, по моему мнению, никто не хочет нажимать на тормоза только для того, чтобы наблюдать, как конкуренты вырываются вперед, и они недостаточно доверяют друг другу, чтобы сделать это первыми.

Глобальное регулирование заставило бы всех ходить по струнке, а также сняло бы часть бремени ответственности с самой индустрии.

ИИ все чаще становится токсичным брендом, но чтобы напомнить людям о преимуществах технологии — и о том, почему она не сталкивается с полным запретом — индустрии срочно нужны быстрые и убедительные победы.

Проблема в том, что технологический сектор всегда отлично умел обещать будущее, мало что давая в настоящем.

И это относится и к будущим опасностям. Тревожные звонки зазвучали в полную силу, когда бывший исследователь безопасности Anthropic Джозеф Коксон заявил, что, по его мнению, вероятность уничтожения человечества этой технологией в ближайшие 10 лет составляет 10%.

Некоторые эксперты предупреждают, что к подобным заявлениям следует относиться с осторожностью.

«Существуют известные риски, которые достаточно серьезны, чтобы ими заниматься уже сейчас», — заявил сэр Ник Клегг, бывший глава отдела глобальных связей Meta, в программе Today на BBC Radio 4.

«Будь то биооружие, хакерские атаки на кибербезопасность или последствия того, как на людей повлияют все более тесные и, возможно, во многих случаях эмоционально зависимые отношения с ИИ-сущностями в будущем.

Уже сейчас есть достаточно поводов для серьезного беспокойства, и нет нужды думать, что Homo sapiens будет уничтожен к следующему вторнику».