Регулирование ИИ — «не то, с чего стоит начинать», считает Бейли
ИИ нуждается в «строгом» тестировании и защитных мерах для ограничения рисков, заявляет Эндрю Бейли.
Регулирование ИИ — «не то, с чего стоит начинать», считает Бейли
Управляющий Банка Англии заявил, что регулирование искусственного интеллекта (ИИ) «не является правильным местом для старта», призвав вместо этого сначала провести «тщательное» тестирование для выявления уязвимостей и внедрения защитных мер с целью ограничения рисков.
В своей первой в истории статье для Substack Эндрю Бейли отметил, что опасности, связанные с ИИ, являются «реальными и все более значительными».
Бейли заявил, что развитие ИИ не должно быть остановлено или запрещено — «напротив, преимущества огромны», — но отметил, что должна существовать система, позволяющая осуществлять вмешательство и устанавливать границы, в которых функционирует ИИ.
В последние недели дискуссия о возможных рисках, связанных с быстрыми темпами развития ИИ, и о том, что это может означать для человечества, стала более интенсивной.
Руководители крупных ИИ-компаний, включая Anthropic и OpenAI, призвали замедлить развитие технологии и применить скоординированный на международном уровне подход к оценке рисков и внедрению защитных мер.
Компания OpenAI недавно заявила, что не будет выпускать свою последнюю модель ИИ из соображений безопасности.
Идея замедления была отвергнута рядом деятелей, включая президента Дональда Трампа, который заявил, что США опережают Китай в гонке ИИ, добавив: «И, честно говоря, я хочу, чтобы так оно и оставалось, потому что тот, кто победит в сфере ИИ, победит во всем».
Однако во вторник, после проведения саммита с ведущими ИИ-компаниями, такими как OpenAI и Anthropic, Трамп сообщил, что руководители подписали «морально обязывающий» документ, который послужит «формой защиты» от потенциальных рисков ИИ.
Согласно соглашению, компании несут ответственность за обеспечение безопасности собственных технологий.
В Великобритании, по словам Бейли, уже ведется «важная работа» по тестированию ИИ — в стране создан Институт безопасности ИИ, — что, по его мнению, должно способствовать разработке набора стандартов.
«Но темпы прогресса должны ускориться», — заявил управляющий банка, добавив при этом: «Нам следует действовать с определенной долей смирения».
Он отметил, что в процессе тестирования будут происходить сбои и «модели будут вести себя неожиданно».
Однако, по его словам: «Это не свидетельство того, что тестирование провалилось, а скорее доказательство того, почему тестирование необходимо».
Бейли подчеркнул, что тестирование не должно рассматриваться как замена будущему регулированию — со временем может появиться более формальная нормативно-правовая база. «Но регулирование, на мой взгляд, не является правильным местом для старта».