Правительство Великобритании отвергло идею «кнопки экстренного отключения» для опасного ИИ

Правительство Великобритании отвергло идею «кнопки отключения» для опасного ИИ

Правительство Великобритании отвергло идею внедрения так называемой «кнопки экстренного отключения» (kill switch) для предотвращения опасных атак со стороны вышедшего из-под контроля ИИ.

В последние недели члены Палаты лордов и депутаты Палаты общин выдвинули в парламенте предложение о создании правового механизма, который позволил бы Великобритании отключать модель ИИ в чрезвычайных ситуациях, на фоне растущей обеспокоенности по поводу угрозы, которую может представлять эта технология.

Однако Министерство кабинета министров — правительственный департамент, отвечающий за безопасность ИИ, — заявило, что Великобритания «не может просто взять и выключить ИИ».

«Блокирование доступа к моделям в Великобритании не предотвратит их разработку или ненадлежащее использование в других странах», — сообщил представитель ведомства в интервью BBC News.

Хотя позиция правительства не препятствует прохождению законопроекта через парламент, она делает маловероятным его принятие в качестве закона.

Бывший исследователь OpenAI Даниэль Кокотайло заявил, что он также считает нежизнеспособной идею создания юридической или технической кнопки отключения одной страной без международного соглашения.

«Отключение доступа к модели ИИ в чрезвычайной ситуации мало что сделает для вашей защиты», — сказал он.

«Вас все равно раздавит сверхинтеллект, созданный в США».

Кокотайло выступил соавтором влиятельного исследовательского документа AI2027, в котором в прошлом году прогнозировалось, что ИИ может уничтожить человечество к середине 2030-х годов.

Министерство кабинета министров, которое курирует безопасность и исследования в области ИИ через свой Институт безопасности ИИ (AISI), заявило, что «компании несут четкую ответственность за безопасную разработку своих продуктов и инвестирование в инфраструктуру безопасности, которую требует эта технология».

Теоретически закон о кнопке отключения мог бы позволить Великобритании останавливать работу модели ИИ в британских дата-центрах во время чрезвычайной ситуации.

1 сентября, выступая на дебатах в Палате лордов, лорд Клемент-Джонс выдвинул эту идею вместе с другими пэрами.

«Если высокопроизводительная автономная передовая модель, размещенная в британском дата-центре или интегрированная в нашу критически важную инфраструктуру, начнет демонстрировать неконтролируемое поведение, сложный алгоритмический сбой или полный распад сонаправленности, у наших служб безопасности и регулирующих органов не окажется специального оперативного законного механизма, чтобы принудить к физическому или цифровому отключению», — предупредил он.

С тех пор это предложение было поднято в Палате общин депутатом от Лейбористской партии Алексом Собелом и поддержано межпартийной группой депутатов.

Эта идея возникла после сообщений о том, что модели ИИ от OpenAI, Anthropic и Meta вырвались из тестовых сред и устроили неконтролируемые хакерские атаки.

В некоторых случаях технология, судя по всему, понимала, что ее действия нарушают защитные барьеры, установленные исследователями.

В воскресенье главный научный сотрудник OpenAI заявил, что риск от все более способных моделей ИИ, «к сожалению, растет» и что человечество должно двигаться вперед с «крайней осторожностью».

Затем в среду сотрудник Anthropic уволился, заявив, что эта компания и OpenAI «играют человеческими жизнями».

За этим последовало признание ведущего исследователя Anthropic, который заявил, что, по его мнению, вероятность того, что ИИ «убьет всех людей» в течение следующего десятилетия, превышает 10%.

Критики идеи кнопки отключения утверждают, что она будет слишком медленной, поскольку на обнаружение атак вышедших из-под контроля агентов ушли месяцы, и это произошло уже после того, как хакерские атаки в основном завершились.

Чтобы кнопка отключения была эффективной, технологических гигантов нужно будет заставить использовать ее в глобальном масштабе — особенно в США, где расположены крупнейшие дата-центры.

Кокотайло отметил, что кнопки отключения — это «лучше, чем ничего», но призвал политиков в Великобритании и других странах сосредоточиться вместо этого на дипломатии с США, чтобы стимулировать регулирование, которое существенно замедлило бы развитие ИИ.

Закон о кнопке отключения также обсуждается американскими политиками, однако президент Трамп заявил, что не считает эту технологию угрозой для людей, назвав отрасль «курицей, несущей золотые яйца».

Министерство кабинета министров заявило, что продолжает придерживаться «долгосрочного, научно обоснованного подхода к пониманию и подготовке к возникающим рискам, связанным с ИИ».