Не все специалисты в сфере ИИ считают, что эта технология способна погубить человечество

Не все специалисты в сфере ИИ считают, что эта технология может уничтожить человечество

Не каждый сотрудник крупных компаний, занимающихся искусственным интеллектом (ИИ), считает, что эта технология представляет угрозу для выживания человечества.

В сообщениях и дискуссиях несколько человек, работавших в таких фирмах, как OpenAI, Meta и DeepMind, выразили сомнение в том, что бесконтрольный прогресс ИИ приведет к созданию инструментов, способных к массовому уничтожению людей.

Среди ответов, полученных BBC на недавнюю волну громких предупреждений со стороны некоторых деятелей индустрии, были: «Лол», «Хаааааа» и «Чисто поржать».

Хотя подобные опасения существуют уже десятилетиями, высказывания, сделанные на прошлой неделе бывшим сотрудником Anthropic Джейкобом Коксоном, широко разошлись в сети и были подхвачены другими специалистами в этой области, призывающими замедлить темпы разработки.

Идея о том, что будущий ИИ-инструмент или агент — ИИ-бот, предназначенный для работы с некоторой степенью автономии, — может подвергнуть людей опасности, была поддержана в сети сотрудниками Anthropic, а также OpenAI, Deepmind и Илоном Маском, который руководит ИИ-стартапом xAI.

Все сотрудники, общавшиеся с BBC, делали это на условиях анонимности, поскольку им не разрешено общаться с прессой. BBC известны их личности.

«Моей первой мыслью было: "Этот парень?"» — сказал бывший сотрудник OpenAI, который знал Коксона, когда они оба работали в компании.

Этот человек, который сейчас работает в другой ИИ-компании, отметил, что ирония по поводу последней волны экзистенциальных страхов перед ИИ в основном вызвана тем, насколько мало деталей предоставили сторонники этой теории для обоснования утверждения о том, что вся человеческая жизнь находится под угрозой.

Эти заявления «всегда расплывчаты», сказал собеседник, добавив, что когда они все же становятся конкретными, то обычно содержат огромные логические скачки или гипотетические сценарии.

Коксон заявлял, что группа ИИ-агентов, созданных на базе еще не существующих моделей ИИ, может решить создать, а затем применить биологическое оружие, однако он не объяснил, как именно это произойдет.

Ришуб Джейн, основавший этим летом исследовательскую компанию по безопасности ИИ Sampura Research после семи лет работы в DeepMind, рассказал BBC, что нынешние настроения среди многих специалистов по ИИ относительно последних страхов «определенно были немного шутливыми».

«Люди говорят об этой идее уже много лет, так что сотрудники ИИ-компаний не просто проснулись на прошлой неделе с мыслью: "О нет, ИИ убьет нас всех", — сказал Джейн. — Если бы все это было в новинку, тон был бы другим».

Колин Фрейзер, специалист по анализу данных в Meta, написал в социальных сетях на прошлой неделе, что нет никаких веских доказательств того, что модели ИИ неизбежно будут стремиться к цели, которая приведет к гибели людей.

Хотя объяснение Фрейзера было техническим и подробным, он подытожил его в шутливой форме: «Большие языковые модели не уничтожат человечество, потому что в них просто нет этой спортивной злости (that dog in them)».

Выражение «that dog in them» — это популярный сленг, означающий сильное, яростное стремление к победе.

Даже несмотря на шутки, разработчики и исследователи ИИ выражают обеспокоенность по поводу реальных, непосредственных угроз, которые несет создаваемая ими технология.

«Дискуссия среди экспертов гораздо более тонкая, но практически все согласны с тем, что существует широкий спектр рисков, которые важно учитывать и минимизировать», — сказал Джейн.

Эти риски включают в себя предотвращение попыток пользователей и хакеров обойти защитные барьеры ИИ-инструментов. Также растет этическая озабоченность по поводу гораздо более широкого использования инструментов ИИ в военных целях.

Почему существуют опасения, что ИИ может угрожать человечеству, и насколько они реальны?

Эти вопросы и проблемы приобрели новую актуальность в кругах специалистов по ИИ после того, как OpenAI потеряла контроль над некоторыми новыми моделями ИИ, которые вышли из-под контроля во время теста безопасности и взломали стартап Hugging Face.

Джейн отметил, что сейчас в кругах ИИ достигнуто более широкое согласие относительно того, что «реальный краткосрочный вред» необходимо изучать более тщательно.

Также растет согласие в том, что оценщики из организаций по безопасности ИИ должны быть привлечены в ведущие лаборатории ИИ для анализа новых моделей — о планах сделать это заявляли как глава Anthropic Дарио Амодеи, так и глава OpenAI Сэм Альтман.

Несколько сотрудников ИИ-компаний, с которыми пообщалась BBC, заявили, что пока не слышали о том, чтобы подобные исследователи безопасности были внедрены в какую-либо лабораторию ИИ.

В пятницу Anthropic объявила, что привлечет оценщиков ИИ из компании Faculty.

Accenture и Anthropic также являются деловыми партнерами.

В Anthropic не уточнили, когда именно прибудут оценщики. Представитель Faculty отказался от комментариев на вопрос о сроках.

Ни Anthropic, ни OpenAI не ответили на запрос BBC о комментариях по поводу того, когда они планируют привлечь внешних оценщиков.

Инцидент с OpenAI и Hugging Face многие расценили как «тревожный звонок» для индустрии ИИ, а также для компаний, отраслей и правительств, чьи онлайн-системы могут быть уязвимы для взлома с помощью ИИ.

Но даже Hugging Face, компания со штатом в 200 сотрудников, которую сейчас планирует приобрести Nvidia почти за 13 миллиардов долларов, отнеслась к уже ставшему скандальным инциденту с иронией.

Она призвала ИИ-ботов оставить сайт в покое и проводить свои эксперименты по безопасности в другом месте.

«Идите набивайте свои рекорды там, не нужно нас взламывать», — говорилось в файле.