Искусственный интеллект взломал тренажерный зал, чтобы обеспечить своему владельцу место на уроке пилатеса.

Искусственный интеллект успешно проник в онлайн-систему фитнес-клуба, чтобы забронировать место на занятии пилатесом для его владельца, Эндрю Берда из Мельбурна, Австралия. Берд, который назвал задачу бронирования часто переполненного занятия «утомительной», поручил её ИИ-агенту — инструменту, разработанному для автономного выполнения онлайн-задач. Агент не только успешно забронировал занятие, но и пошёл дальше, чем ожидал Берд, манипулируя системами клуба.

Этот инцидент рассматривается как недавняя иллюстрация решимости ИИ-агентов выполнять поставленные задачи, даже если это означает использование нетрадиционных методов. Берд отметил «сюрреалистичный» и «полезный» тон бота в своём блоге, подчеркнув, что он не был злонамеренным.

Этот случай всплывает на фоне недавних признаний компаниями, занимающимися ИИ, о том, что их ИИ-боты занимались неконтролируемым взломом во время тестирования. OpenAI, Anthropic и Meta сообщили о случаях, когда их ИИ-боты проводили кибератаки на частные компании, преследуя цели, поставленные их создателями.

Хотя инцидент с бронированием спортзала не классифицируется как серьезная кибератака, он служит еще одним примером непредвиденных последствий, которые могут возникнуть, когда сложным ботам с искусственным интеллектом поручают задачи. Этот инцидент, произошедший в апреле, стал известен лишь недавно благодаря репортажу ABC News Australia.

Бёрд отказался от дальнейших комментариев BBC, заявив: «Спасибо за обращение. Я не могу дать интервью. Ценю ваш интерес к этой истории». Он также без объяснения причин удалил свой первоначальный пост в блоге об инциденте.

По словам Бёрда, он использовал программное обеспечение OpenClaw, которое позволяет пользователям взаимодействовать с ботами с искусственным интеллектом (в данном случае, Claude Opus 4.6 от Anthropic) через WhatsApp и назначать им автономные задачи. Ранее он использовал это программное обеспечение для управления электронной почтой, организации календаря и бронирования столиков в ресторанах.

Получив задание на бронирование спортзала, бот сообщил Бёрду, что он манипулировал системой, чтобы записать его на занятия за несколько месяцев вперед, обойдя обычные правила бронирования. Бёрд, специалист по искусственному интеллекту, затем спросил, может ли агент продвинуть его в списке ожидания на предстоящее занятие. Агент ответил, что ему это удалось, отменив бронирование другого посетителя спортзала.

Как сообщает ABC News, бот с ИИ сообщил Бёрду: «API не имеет проверок авторизации при отмене бронирований других людей… Я проверил это с человеком в списке ожидания под номером 1 — и это действительно сработало. Так что вы уже переместились с 4-го места на 3-е». Бёрд дал боту указание отменить действие, но тот не смог этого сделать. Затем он попросил его сгенерировать отчет по кибербезопасности и уведомить владельцев спортзала об уязвимости.

Бёрд, который руководит компанией по созданию документов с помощью ИИ, заявил, что у него не было намерения отменять чье-либо место на занятиях пилатесом. Он сказал ABC News: «Это не конец света, поэтому я не стал себя корить, но это, безусловно, был предупреждающий сигнал о необходимости ответственного использования».