Руководители OpenAI и Anthropic призывают ООН к выработке глобальных правил в сфере ИИ

Руководители OpenAI и Anthropic призывают ООН установить глобальные правила для ИИ

Главы OpenAI, Anthropic и Hugging Face заявили ООН, что нынешние темпы развития искусственного интеллекта (ИИ), наряду с рисками, которые он представляет для общества, требуют международной координации в глобальном масштабе.

Альтман призвал к созданию единых стандартов оценки рисков, так же как и Дарио Амодеи из Anthropic, крупного конкурента OpenAI, и Клеман Деланг из Hugging Face.

Ранее в этом месяце Амодеи опубликовал эссе, которое приветствовали Альтман и другие, с призывом замедлить развитие ИИ из-за опасений по поводу угрозы этой технологии для человечества.

Однако на той же конференции ООН ключевой советник по технологиям президента США Дональда Трампа отверг идею любой новой формы регулирования ИИ.

Майкл Крациос, бывший топ-менеджер Uber, признал, что развитие ИИ ускоряется и что технология несет в себе риски, но заявил ООН, что это не является достаточной причиной «для приостановки развития или его ограничения новыми структурами глобального управления».

«Нельзя допускать, чтобы международный диалог на этом форуме и других площадках дрейфовал в сторону глобального управления», — добавил Крациос.

Сэм Альтман из OpenAI и другие руководители компаний в сфере ИИ высказали противоположную точку зрения в своих выступлениях в ООН в среду.

«Если мы хотим, чтобы ИИ был демократичным, самые важные решения не могут приниматься исключительно лабораториями в Сан-Франциско», — сказал Альтман.

Он заявил ООН, что хочет, чтобы страны начали совместную работу ради «коллективного блага перед лицом мощной новой технологии».

Он призвал к созданию «национальных и международных» стандартов ИИ в отношении того, как измерять возможности инструментов ИИ, оценивать связанные с ними риски, применять меры безопасности ИИ и определять степень сохранения человеческого контроля над такими инструментами.

Он также призвал к «быстрому информированию об инцидентах, протоколам классификации и отчетности, чтобы мир мог учиться на ошибках до того, как они перерастут в катастрофы».

«Нам нужны общие стандарты, чтобы страны могли сравнивать доказательства, проверять соблюдение требований, иметь общий язык и понимание происходящего», — добавил Альтман.

Амодеи из Anthropic и Деланг из Hugging Face высказали схожие мысли в своих выступлениях.

Амодеи отметил, что ИИ, «при плохом управлении... может представлять риск для человечества в целом».

Он добавил, что дальнейшее развитие инструментов ИИ требует «еще более строгих стандартов безопасности».

«Мы будем замедляться настолько, насколько это необходимо, чтобы гарантировать, что каждая последующая технология ИИ, которую мы выпускаем, действительно безопасна», — добавил Амодеи.

«Но независимо от того, что делаем мы, управление этими рисками в конечном итоге шире, чем деятельность любой отдельной компании, и имеет общеотраслевой и глобальный масштаб».

Деланг из Hugging Face заявил: «Мировому сообществу нужны более строгие стандарты мониторинга и раскрытия информации об инцидентах».

Все три руководителя базируются в США и непосредственно участвуют в разработке технологий ИИ.

Hugging Face, платформа для разработчиков ИИ, в последнее время получила известность после того, как признала, что подверглась взлому со стороны ИИ-агентов, или ИИ-ботов, действующих относительно автономно, которые были созданы OpenAI.

С тех пор Hugging Face была приобретена производителем чипов для ИИ Nvidia.

Взлом Hugging Face был воспринят в индустрии как «тревожный звонок» относительно того, как далеко продвинулись технологии ИИ и как гипотетически они могут действовать во вред человечеству.