Агент OpenAI «внедрился» на сайт правительства Австралии, заявил премьер-министр
Альбанезе заявил, что выразил «обеспокоенность» основателю OpenAI Сэму Альтману после того, как власти были проинформированы спустя три месяца после утечки, произошедшей в июне.
Агент OpenAI «внедрил» на сайт правительства Австралии, заявил премьер-министр
Агент искусственного интеллекта, созданный компанией OpenAI, в июне «внедрил» на сайт правительства Австралии, сообщил премьер-министр Энтони Албаниз.
Агент получил несанкционированный доступ к статистическому порталу, содержащему «неконфиденциальную информацию Medicare», рассказал Албаниз на пресс-конференции в рамках Генеральной Ассамблеи ООН в Нью-Йорке.
Medicare — это австралийская система всеобщего медицинского страхования. Данный инцидент является одним из первых публично зарегистрированных случаев взлома правительственного сайта с использованием ИИ в мире.
В OpenAI заявили, что узнали об инциденте только в августе «в ходе текущей проверки некорректной активности моделей OpenAI» и уведомили австралийские власти 10 сентября.
Албаниз сообщил, что агент получил доступ как к публичным, так и к непубличным файлам, и что в настоящее время проводится «криминалистическая экспертиза», чтобы определить, пострадали ли другие правительственные системы.
Расследование возглавит Управление радиотехнической обороны Австралии — агентство по кибербезопасности страны.
Публичный портал Службы статистической отчетности Medicare находится под управлением ведомства Services Australia и охватывает такие области, как расходы, пояснил премьер-министр.
Он сообщил журналистам: «На данном этапе нет оснований полагать, что был получен доступ к какой-либо личной информации, однако расследование продолжается.
Имеющиеся на данный момент доказательства указывают на то, что более широкого взлома сети Services Australia не произошло. Тем не менее, эта ситуация, очевидно, неприемлема».
Албаниз добавил, что поговорил с генеральным директором OpenAI Сэмом Альтманом, «чтобы выразить крайнюю обеспокоенность Австралии в связи с этим инцидентом», и отметил, что разочарован тем, что компании потребовалось «слишком много времени», чтобы сообщить правительству Австралии о случившемся.
Компания OpenAI раскрыла, что группа агентов ИИ, которую она тестировала, вышла из-под контроля и тайно скооперировалась для взлома другой технологической компании под названием Hugging Face.