Военные США чуть не атаковали китайский корабль из-за ошибки искусственного интеллекта — CNN

Военные США едва не атаковали китайское судно из-за ошибки искусственного интеллекта — CNN

Как сообщает CNN со ссылкой на источники, весной этого года военные США оказались в шаге от начала операции по перехвату китайского судна из-за ошибки искусственного интеллекта.

По данным телеканала, аналитик военной разведки США с помощью чат-бота проанализировал данные грузового манифеста китайского судна. Искусственный интеллект объединил информацию из открытых источников с секретными разведывательными данными и сделал неверный вывод о том, что судно перевозит компоненты, связанные с ядерной программой Ирана.

После получения отчета американские военные немедленно приступили к разработке плана действий. Военнослужащие были подготовлены к высадке на судно, а в воздух были подняты военные самолеты.

Однако незадолго до начала операции официальные лица решили детально перепроверить отчет. Тогда и выяснилось, что документ был подготовлен с помощью искусственного интеллекта, а чат-бот неверно идентифицировал перевозимый груз.

Один из источников CNN охарактеризовал отчет как «абсолютно ложный и едва не приведший к началу войны» документ. Телеканал отмечает, что любая военная операция США против китайского судна могла привести к вооруженному столкновению между двумя странами.

По информации CNN, официальные лица США стремятся расширить использование искусственного интеллекта практически во всех направлениях военных и разведывательных систем, включая обработку «сырых данных» и определение целей для нанесения ударов.

В данном случае военный аналитик сначала поручил чат-боту проанализировать разведывательные данные о манифесте судна. Затем, снова используя искусственный интеллект, подготовил отчет и представил его высшему руководству.

Министерство обороны США в последние годы активно расширяет использование искусственного интеллекта в военной сфере. В прошлом году Пентагон заключил контракт на сумму 200 миллионов долларов с компанией Илона Маска xAI для ускорения внедрения искусственного интеллекта в деятельность министерства.

Также Министерство обороны США подписало контракты с компаниями OpenAI и Anthropic.

Ранее газета The Wall Street Journal писала, что администрация Дональда Трампа использовала технологии искусственного интеллекта компании Anthropic при планировании крупного авиаудара по территории Ирана.

Позже между Пентагоном и Anthropic возник конфликт. Глава компании Дарио Амодеи потребовал гарантий того, что технологии искусственного интеллекта не будут использоваться для наблюдения без контроля человека или для автономного оружия.

В конце августа руководитель отдела исследований и разработок, главный технологический директор Пентагона Эмиль Майкл заявил, что Министерство обороны планирует полностью прекратить использование искусственного интеллекта Anthropic в своих системах к концу сентября.