Google сталкивается с волной увольнений в знак протеста против военных контрактов в сфере ИИ

Google столкнулась с недовольством сотрудников из-за военных контрактов в сфере ИИ

Компания Google столкнулась с критикой со стороны некоторых сотрудников из-за использования ее технологий искусственного интеллекта в военных целях.

Би-би-си пообщалась с несколькими IT-специалистами, которые либо недавно уволились из Google DeepMind (компании Google, занимающейся разработками в области ИИ), либо находятся в процессе ухода из-за опасений по поводу военных контрактов фирмы.

Одна из них — София Лигуори, исследовательница-инженер из Лондона. На этой неделе она уволилась из Google DeepMind и, несмотря на контракт, запрещающий ей публичные выступления, эксклюзивно поделилась своими опасениями с Би-би-си.

«Осознание того, что моя компания все больше продвигает ИИ-системы в военных операциях, заставляет меня стыдиться своей работы в Google», — заявила Лигуори, подчеркнув, что выражает личное мнение.

Представитель Google заявил Би-би-си: «Мы сотрудничаем с организациями государственного сектора по всему миру и соблюдаем последовательную процедуру рассмотрения и заключения таких контрактов, включая соответствие нашим правилам допустимого использования и принципам в области ИИ».

«У нас также есть специализированные каналы, по которым сотрудники могут безопасно сообщить о любых опасениях — от деловой этики до нарушений правил, — и действуют строгие внутренние инструкции для предотвращения любых форм преследования».

Google входит в число нескольких технологических компаний, подписавших ранее в этом году контракты с американскими военными на внедрение ИИ в засекреченных военных средах.

Министр обороны США Пит Хегсет сделал интеграцию ИИ в вооруженные силы одним из главных приоритетов, заявив, что администрация Трампа сформирует «боевую мощь, ориентированную в первую очередь на ИИ».

Однако ИИ развивается стремительно, и критики сомневаются, достаточно ли он надежен для ведения боевых действий без более тщательного тестирования, усиленных мер безопасности и человеческого контроля.

Проработав в компании три года, Лигуори сказала, что решила уволиться из-за расширяющегося сотрудничества Google с военными ведомствами США и Израиля. «Я не согласна с этим направлением, и из-за этого я потеряла веру в то, что моя компания верна своим заявленным этическим ценностям», — заявила она.

, включают внедрение ИИ с «человеческим контролем» и приведение технологии в соответствие с «международным правом и правами человека». Однако бывшие и действующие сотрудники компании, а также эксперты, с которыми пообщалась Би-би-си, заявили, что обеспокоены уровнем человеческого контроля в критические моменты.

Министр обороны США Пит Хегсет заявил в январе, что США «сформируют боевую мощь, ориентированную в первую очередь на ИИ»

Специалисты заявили, что их особенно тревожат заключенные в этом году военные сделки в сфере ИИ, поскольку они значительно расширяют спектр целей, для которых Пентагон может использовать эту технологию.

Андреас Кирш, исследователь ИИ, также ушел из Google DeepMind ранее в этом месяце из-за своих опасений.

Кирш заявил Би-би-си, что, по его мнению, «управление и контроль в Google недостаточны и не имеют существенного значения для безопасного и ответственного развертывания ИИ в военных и засекреченных условиях» или «для безопасной разработки суперинтеллекта в будущем».

«Похоже, у Google нет права контролировать или налагать вето на то, как Пентагон использует ее ИИ, а также, судя по всему, нет достаточной прозрачности в отношении того, как он развертывается», — добавил он.

За последние несколько лет американские военные внедрили ряд технологий на базе ИИ для повышения своих боевых возможностей.

Самый известный пример — Maven Smart Systems, основная программная платформа Пентагона для организации разведданных и информации.

Созданная американской оборонной компанией Palantir, она использует ИИ, чтобы помогать личному составу выбирать и идентифицировать цели для нанесения ударов. Palantir интегрировала в Maven технологии нескольких крупных ИИ-компаний, что значительно ускорило некоторые процессы.

Генерал-лейтенант в отставке Джек Шанахан, бывший директор Project Maven, отметил, что «философия», судя по всему, заключается в следующем: «Действовать как можно быстрее, чтобы развернуть [ИИ-технологии] как можно шире, возможно, в ущерб строгости и дисциплине испытаний и оценки».

Пентагон, однако, заявляет, что освоение ИИ-технологий имеет жизненно важное значение для победы в войнах. «В эру ИИ победу определяет скорость», — заявил заместитель министра обороны США Эмиль Майкл в своем заявлении ранее в этом году.

Соглашение предусматривает, что модели ИИ компании Google могут использоваться для «любых законных правительственных целей» и «не должны использоваться для слежки за гражданами внутри страны или для автономного оружия (включая выбор целей) без надлежащего человеческого контроля и управления».

Аналогичные контракты подписали OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia и стартап Reflection, что позволяет использовать ИИ-технологии в различных военных контекстах, таких как транспорт, планирование и операции на поле боя.

По мере того как технология стремительно развивается, растет обеспокоенность по поводу использования ИИ в зонах военных действий.

«ИИ сокращает время, которое есть у оператора на принятие решения, потому что он работает намного быстрее человека, и это особенно рискованно в условиях высокого стресса», — сказала Сара Шокер, бывшая руководительница группы OpenAI по геополитике.

«Когда у вас сотни целей, выбранных ИИ, и мало времени, человеку-оператору практически невозможно полноценно проверить результаты работы ИИ на наличие ошибок».

Сотрудники Google рассказали Би-би-си, что персонал боится открыто говорить о безопасности ИИ и его использовании в военных действиях, поскольку трудовые договоры запрещают им публично критиковать компанию.

«В принципе, мне запрещено критиковать Google до конца жизни», — сказала София Лигуори Би-би-си. Но она решила сделать это, «потому что считает важным, чтобы об этих вещах знали, и кроме того, полагает, что изложение фактов не является критикой».

Лигуори добавила, что в Google «люди боятся мести и риска для своей карьеры. Чувствуешь, что за тобой следят, ты не можешь говорить».

Действующий сотрудник Google DeepMind, попросивший не называть его имени из опасения мести, заявил Би-би-си: «Многие мотивированные сотрудники, пришедшие ради первоначальной миссии [компании], могут уйти — но есть и приток людей в начале карьеры, которые могут занять эти должности. Это может быть сменой караула».

Другой сотрудник Google DeepMind, также пожелавший остаться анонимным, сказал Би-би-си: «Многие люди, задетые этим за живое [тем, как Google DeepMind изменила свою позицию в области этики], ушли из компании».

«Некоторые борются, другие думают: „Это большая компания. Каких изменений вы ждете?“», — добавил сотрудник.

Сделки Google с Израилем также вызвали споры. В 2024 году компания подверглась критике со стороны сотрудников из-за совместного с Amazon контракта стоимостью $1,2 млрд (£960 млн) под названием Project Nimbus, который предоставляет правительству и военным Израиля технологии ИИ и инфраструктуру облачных вычислений. Тогда в Google заявили, что Project Nimbus «не направлен на высокочувствительные, засекреченные или военные задачи, связанные с вооружением или разведкой».

Кроме того, боевые возможности Израиля в сфере ИИ стали предметом дискуссий после того, как они были освещены в недавнем документальном фильме «Наза» (Naza), где рассматривается роль целеуказательных систем на базе ИИ при бомбардировках сектора Газа, приведших к большим жертвам среди гражданского населения. Министр правительства Израиля заявил, что утверждения фильма ложны и искажены.

Бывший сотрудник Google Андреас Кирш заявил, что не считает военные ИИ-технологии готовыми к применению на поле боя. «Существующие модели ИИ недостаточно надежны, и я не думаю, что их обучали для таких задач», — сказал он.