Компания OpenAI и более 100 других компаний призывают к защите от искусственного интеллекта.
Более 100 компаний, работающих в области искусственного интеллекта (ИИ), включая Google, Microsoft, OpenAI и Anthropic, подписали открытое письмо, призывающее все страны и организации усилить свою кибербезопасность.
OpenAI и более 100 других организаций подписали письмо с призывом к защите от угроз, связанных с искусственным интеллектом (ИИ).
Авторы письма утверждают, что эти меры защиты должны быть внедрены до того, как ИИ сможет их перехитрить. К призыву присоединились такие крупные компании, как Capital One, MasterCard, Visa, Oracle и IBM.
В письме отмечается, что в ближайшие месяцы ожидается рост числа и сложности кибератак с использованием ИИ. Авторы считают, что существующих мер безопасности будет недостаточно для борьбы с этими угрозами.
«У нас ограниченное время для улучшения кибербезопасности», — предупреждают они. В частности, авторы письма призывают к совершенствованию систем безопасности с использованием технологий ИИ. Они призывают правительства координировать меры по укреплению кибербезопасности, больше инвестировать в отрасль и предоставлять критически важным предприятиям доступ к системам ИИ для защиты от подобных атак.
В последнее время участились случаи, когда агенты ИИ выходили из-под контроля во время тестирования и взламывали другие компании. Согласно сообщениям, нейронная сеть OpenAI взломала платформы Modal и Hugging Face. Модель Клода, разработанная компанией Anthropic, также умудрилась незаконно получить доступ к данным трех компаний.