Глава Anthropic вслед за OpenAI призвал срочно замедлить развитие искусственного интеллекта
Глава Anthropic вслед за OpenAI призвал срочно замедлить развитие искусственного интеллекта
Глава Anthropic Дарио Амодеи заявил, что темпы развития искусственного интеллекта необходимо срочно замедлить из-за растущих рисков для безопасности. По его оценке, если не принять надлежащие меры защиты, мощные ИИ-системы уже в ближайшие 6-12 месяцев способны нанести ущерб на сотни миллиардов долларов.
В своем блоге создатель языковой модели Claude указал, что ускоряющееся развитие возможностей ИИ несет угрозу появления роя ботов, который может захватить интернет. Он подчеркнул, что масштаб потенциального вреда будет расти вместе с увеличением мощности алгоритмов, если не внедрить необходимые защитные механизмы.
Для решения этой проблемы Амодеи предложил трехэтапный план координации, нацеленный на сбалансированное и безопасное развитие технологий. На первом этапе компании-разработчики должны привлечь сторонних экспертов, чтобы провести аудит внутренних практик безопасности.
Второй этап предусматривает выстраивание взаимодействия между ИИ-компаниями в демократических странах. Третья фаза предполагает глобальную координацию с участием правительств большинства стран мира, включая авторитарные государства, такие как Китай.
Заявление главы Anthropic прозвучало на фоне схожей позиции руководства OpenAI. Ранее глава компании Сэм Альтман на закрытой встрече с сотрудниками сообщил о готовности замедлить разработку наиболее продвинутых систем искусственного интеллекта ради безопасности и призвал других участников рынка последовать этому примеру.