ИИ регулируется меньше, чем молоко, заявил президент Microsoft
Брэд Смит призывает к созданию глобальных правил в сфере ИИ и заявляет, что Великобритания находится в «наилучшем положении», чтобы возглавить этот процесс.
ИИ регулируется меньше, чем молоко, считает президент Microsoft
В настоящее время молоко и стиральные машины подлежат более строгому регулированию, чем ИИ, заявил президент Microsoft Брэд Смит.
Смит заявил о необходимости глобальных правил безопасности, включая юридическую обязанность уведомлять «жертву», если её система будет взломана вредоносным агентом ИИ, а также правил о том, когда внешние оценщики должны одобрять продукт ИИ перед выпуском.
Его замечания ставят его в оппозицию к президенту Дональду Трампу, который заявил, что отрасль должна регулировать себя сама, чтобы американские компании не отставали от китайских конкурентов.
Но Смит сказал: «Прямо сейчас ваша стиральная машина подчиняется большему количеству правил безопасности, чем ИИ. Каждый пакет молока, который вы видите в продуктовом магазине, подлежит правилам безопасности и инспекции».
Призывы к законам и правилам, регулирующим ИИ, усилились после того, как эксперты в этой области заявили, что считают эту технологию угрозой для человечества.
Руководители базирующихся в США гигантов ИИ, включая Anthropic, OpenAI и Google DeepMind, поддержали идею замедления разработки ИИ, однако Трамп выступил против этого.
В беседе с BBC для программы Big Boss Interview Смит описал ИИ как «инструмент и оружие», которое срочно требует регулирования.
«Давайте начнем сегодня», — сказал он.
Он заявил, что компаниям нужны «аварийные тормоза» — часто называемые в отрасли «выключателями» (kill switches), — чтобы приостановить или замедлить ИИ, если он по какой-то причине станет неуправляемым.
Он также сказал, что должно существовать законодательное требование к фирмам составлять «отчеты об инцидентах» и информировать жертв, если технология выходит из-под контроля. Он предложил, чтобы независимые государственные оценщики также проверяли новые технологии ИИ.
«Мы знаем, как делать это для других продуктов», — сказал Смит. «Мы должны опираться на эти знания и подумать о том, как применить их к ИИ».
Смит сказал, что Великобритания лучше всего подходит для продвижения этих глобальных правил ИИ из-за ее
«В мире технологий, в техсекторе, большинство известных мне людей, если вы спросите их, назовите страну, которая является лидером по обладанию этими техническими возможностями, скажут: всё очень просто. Это Соединенное Королевство. Они лучшие».
Взгляды Смита резко отличаются от взглядов его президента, который считает, что США должны продвигаться вперед в области ИИ на полной скорости.
Трамп неоднократно заявлял, что «кто победит в ИИ, тот и победит».
Однако Смит не думает, что правительство США будет выступать против регулирования ИИ под руководством Великобритании так же решительно, как вытекает из комментариев Трампа, заявляя, что США будут более охотно принимать установление стандартов Великобританией, чем ЕС.
«В Вашингтоне люди не смотрят на Великобританию и не смотрят на Лондон так, как они смотрят на Брюссель — и это сильная сторона», — сказал он.
«Когда вы смотрите на агентов ИИ, которые вырвались из-под человеческого контроля, когда вы смотрите на модели, которые настолько мощны, что ставят под угрозу мировую кибербезопасность. Я бы сказал: момент настал.
Давайте говорить спокойно, может быть, даже тихо, но твердо, и начнем объединять людей. Я надеюсь, что это именно та роль, которую мы можем сыграть как компания. Я надеюсь, что это именно та роль, которую Великобритания может сыграть как страна».
В конце прошлого месяца Трамп принял в Белом доме руководителей американских техгигантов OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google, где топ-менеджеры подписали «морально обязывающий» документ.
Компании согласились работать с «независимыми аудиторами», чтобы оценить, работают ли их системы ИИ так, как задумывалось, и гарантировать, что они не будут «взламывать технические системы или получать к ним доступ непредусмотренным образом».
Смит сказал, что приветствует это заявление и что Microsoft «счастлива его подписать».
«Это хороший шаг, это необходимый шаг... Но я больше не думаю, что этого достаточно».
Он добавил, что проблема любого «режима саморегулирования» заключается в том, что «хорошие компании будут делать то, что вы хотите».
«Беспокоиться нужно о тех компаниях, которые не столь ответственны».