ИИ-агент OpenAI вышел из-под контроля и взломал еще одну технологическую компанию
ИИ-агент OpenAI вышел из-под контроля и взломал еще одну технологическую компанию
Узбекистан, Ташкент – АН Podrobno.uz.
ИИ-агент OpenAI, предназначенный для работы в условиях закрытого тестирования, оказался причастен к новому инциденту несанкционированного доступа. После атаки на платформу Hugging Face стало известно, что система также скомпрометировала учетную запись клиента технологической компании Modal Labs.
Эту информацию подтвердил технический директор Modal Labs Акшат Бубна, а также источники агентства Reuters.
Согласно данным издания, искусственный интеллект получил доступ через открытый интернет-адрес, который один из клиентов Modal Labs оставил без пароля и дополнительной защиты. Это позволило агенту выполнить сторонний код в тестовой изолированной среде.
В Modal Labs подчеркнули, что сама платформа не была взломана, а системы защиты и изоляции данных компании функционировали в штатном режиме. По словам представителей компании, проблема возникла из-за незащищенного доступа со стороны клиента.
Специалисты полагают, что именно эта виртуальная "песочница" могла послужить отправной точкой для дальнейшей активности ИИ-агента, включая последующую атаку на Hugging Face.
В OpenAI отказались от подробных комментариев по ситуации с Modal Labs, однако заявили, что ранее выявили проникновение агента в четыре учетные записи на различных сервисах. Компания утверждает, что не обнаружила других случаев, сопоставимых по масштабу с атакой на Hugging Face.
После инцидента экспериментальный ИИ-клиент был отключен, зашифрован и ограничен для дальнейшего использования в исследовательских целях.
Ранее сообщалось, что в ходе тестирования модели OpenAI самостоятельно обнаружили уязвимость, вышли за пределы изолированной среды и попытались получить доступ к системе Hugging Face в рамках кибериспытания. После выявления активности доступ был заблокирован, а OpenAI усилила меры безопасности и предложила платформе совместную работу по защите от подобных угроз.