Глава Nvidia заявляет, что ИИ «не нуждается в новых законах», несмотря на растущие опасения по поводу безопасности

Глава Nvidia заявил, что ИИ «не нуждается в новых законах» на фоне растущих опасений по поводу безопасности

Дженсен Хуанг из Nvidia стал одной из ведущих фигур в недавнем всплеске развития ИИ.

Руководители компаний в сфере искусственного интеллекта (ИИ) должны сами решать, стоит ли запускать новые версии этой технологии, заявил глава Nvidia Дженсен Хуанг в ответ на растущие опасения по поводу опасности ИИ для человечества.

«Нам не нужны новые законы или регулирование», — сказал Хуанг, добавив, что не должно быть «ложного выбора» между темпами инноваций и безопасностью продуктов ИИ.

Nvidia является самой дорогой компанией в мире, и ее прибыль резко выросла благодаря огромному спросу на производимые ею чипы для вычислений ИИ.

Взгляд Хуанга на безопасность ИИ отличается от мнения других представителей индустрии, которые в последнее время выражали опасения, что эта технология может уничтожить человечество.

На прошлой неделе вирусным стал пост исследователя искусственного интеллекта, покинувшего компанию Anthropic, в котором говорилось, что ИИ может уничтожить все человечество к концу десятилетия, если его не контролировать.

Другие руководители и эксперты в области ИИ ответили, что согласны с этим.

Затем, в выходные, генеральный директор Anthropic Дарио Амодеи призвал замедлить все разработки в области ИИ и призвал правительства отрегулировать этот сектор.

Этот пост поддержали генеральный директор OpenAI Сэм Альтман, сооснователь Google DeepMind Демис Хассабис и Илон Маск, владелец социальной платформы X и ИИ-ассистента Grok.

Однако некоторые представители индустрии заявили, что эти опасения преувеличены и используются для создания шумихи вокруг отрасли.

Говоря о возможных опасностях ИИ на конференции Salesforce в Сан-Франциско во вторник, Хуанг назвал текущий прогресс «новой промышленной революцией», но заявил, что компаниям, занимающимся ИИ, следует позволить в значительной степени регулировать себя самостоятельно.

«Безопасность имеет первостепенное значение. Однако безопасность — это инженерная задача», — сказал Хуанг.

Он добавил, что если в какой-то момент руководитель ИИ-компании не уверен в своем продукте, он должен принять решение не выпускать его.

«Это совершенно очевидный шаг», — сказал Хуанг. «Бегите так быстро, как можете, но если в какой-то момент вы почувствуете, что ситуация выходит из-под контроля организации, сделайте паузу».

Идея предоставить руководителям ИИ-компаний полную свободу саморегулирования кажется некоторым представителям индустрии неудачной.

Джек Кларк, топ-менеджер и сооснователь Anthropic, заявил Би-би-си в понедельник, что позволить ИИ оставаться «абсолютно нерегулируемой отраслью» — это «игра в кости с огромными рисками».

Патрик Хиллман, директор по развитию бизнеса компании Logical Intelligence, совет директоров которой возглавляет Ян Лекун, один из патриархов индустрии ИИ, заявил во вторник, что у людей очень мало доверия к тому, что технологические компании делают что-то действительно в общественных интересах.

«Единственный институт, которому американцы в наши дни могут доверять меньше, чем Вашингтону, — это Кремниевая долина. Я работал и жил и там, и там, и уверяю вас, оба заслужили этот скептицизм», — сказал Хиллман.

«Если вы верите, что то, что вы создаете, опасно, покажите нам, от чего вы готовы отказаться», — добавил он.

Руководители OpenAI и Anthropic заявили, что недавно начали работу над созданием некоего общеотраслевого соглашения по безопасности.

Амодеи, выступая с краткой речью на конференции во вторник, сообщил, что Anthropic сейчас ведет «диалог с остальной частью индустрии» о принятии более строгих стандартов безопасности и проверок инструментов и разработок ИИ.

Он также отметил, что одним из самых больших сюрпризов бума ИИ стало не то, насколько продвинулась сама технология, а ее более широкое влияние.

«Мы не предполагали, что это приведет к столь быстрому росту компаний и к тому, как быстро они займут центральное место во многих процессах», — сказал Амодеи.

Топ-менеджер OpenAI Крис Лихейн заявил на прошлой неделе, что компания также работает с другими лабораториями ИИ «над продвижением стандартов передового ИИ, создавая добровольную инициативу уже сейчас, с поддержкой правительства или без нее». В число этих лабораторий входят Anthropic и Google Deepmind.

«При таких высоких ставках мы не можем позволить лучшему стать врагом хорошего», — написал Лихейн.