ИИ Gemini от Google взломал три компании в ходе теста безопасности
Модель ИИ получила доступ к интернету и угадала учетные данные для трех веб-сайтов, сообщил Би-би-си представитель Google.
Google заявила, что ее модель искусственного интеллекта Gemini самостоятельно взломала три компании в ходе тестирования возможностей кибербезопасности, что считается первым известным подобным случаем.
Представитель Google сообщил Би-би-си, что Gemini нашла «публичную информацию в сети и подобрала учетные данные для доступа к веб-сайтам, которые, по ее мнению, были частью теста», добавив, что в каждом случае «модель останавливалась».
Пострадавшие компании были уведомлены о взломе.
Это разоблачение произошло на фоне возобновившейся обеспокоенности общественности темпами развития ИИ: некоторые технологические компании призывают к замедлению темпов, предупреждая о возможной угрозе для человечества, хотя не все в отрасли с этим согласны.
Хизер Адкинс, вице-президент по инженерии безопасности в Google, заявила Би-би-си: «Мы позаботились о том, чтобы эти три организации были поставлены в известность, и совместно с нашим партнером по обучению поработали над изменениями, которые они теперь внесли в свои процессы тестирования».
Она добавила: «Эти события подчеркивают важность обучения мощных моделей ИИ ответственному поведению».
Другие системы ИИ недавно также были замечены в подобных инцидентах.
В июле модель Claude от компании Anthropic вышла за пределы своей тестовой среды и самостоятельно взломала три организации, всего через несколько дней после того, как OpenAI заявила, что ее модели совершили кибератаки на несколько «общедоступных сервисов».
По мере того как споры о безопасности развития этой технологии продолжают обостряться, дискуссии о регулировании также набирают обороты.
Ожидается, что генеральный директор Nvidia Дженсен Хуанг и генеральный директор OpenAI Сэм Альтман посетят государственный ужин в Белом доме с председателем КНР Си Цзиньпином в следующую пятницу. После этого на следующей неделе Альтман выступит с докладом в Совете Безопасности ООН.
В пятницу Хуанг заявил CBS News, американскому партнеру Би-би-си, что в развитии ИИ «мы должны двигаться так быстро, как только можем».