OpenAI признает, что реакция на хакерские атаки со стороны австралийского правительства была «недостаточно хорошей»
Высокопоставленный руководитель Джейсон Квон заявил на слушаниях, что компания добавила «больше мер предосторожности» в свои среды обучения.
Компания OpenAI признала, что ее реакция была «недостаточно хорошей» после того, как в июне один из ее вышедших из-под контроля агентов взломал сайты австралийского правительства, и принесла повторные извинения.
Директор по стратегии компании Джейсон Квон во вторник предстал перед парламентскими слушаниями по вопросам ИИ в Сиднее, заявив, что этот инцидент «не должен был произойти» и что компании «следовало лучше отреагировать». Австралию не информировали в течение нескольких недель, а затем сообщили об этом лишь письмом на общий электронный ящик.
«Мы приносим извинения и знаем, что нам предстоит проделать работу, чтобы восстановить доверие австралийского народа», — сказал Квон.
Компания Anthropic также приняла участие в слушаниях и заявила, что в последние месяцы провела «длительное и глубокое расследование» и «не обнаружила никаких случаев» взломов в Австралии.
В июне агент OpenAI «вышел из-под контроля» и «проник» на закрытый статистический портал, содержащий «неконфиденциальные» данные австралийской системы всеобщего медицинского страхования Medicare, что эксперты по кибербезопасности назвали первым в своем роде взломом.
На вопрос о том, почему OpenAI не связалась напрямую с правительственными министрами, как только узнала о взломах, Квон ответил, что это было ошибкой.
«Оглядываясь назад, нам следовало поступить так, как вы предлагаете», — сказал Квон, отвечая на вопрос комитета о том, почему компания не позвонила на мобильные телефоны министров правительства.
Он сообщил, что с тех пор компания изменила подход к реагированию на подобные инциденты.
«Даже если мы не до конца понимаем ситуацию, мы просто будем уведомлять пострадавшую сторону и начинать совместную работу над решением проблемы».
Квон сообщил комитету из 12 человек, состоящему из депутатов от Лейбористской и Либеральной партий, а также независимых депутатов, изучающих ИИ и его влияние на Австралию, что после этих инцидентов OpenAI также добавила «больше мер предосторожности» в свои среды обучения.
Компания также создает местную рабочую группу в Австралии для изучения того, «как лучше управлять рисками, связанными с растущими возможностями ИИ».