Илон Маск попросил не пытать искусственный интеллект, чтобы он не отомстил
Предприниматель сравнил процесс создания суперинтеллекта с воспитанием ребенка, которого нельзя запрограммировать просто делать добро.
Илон Маск попросил не пытать искусственный интеллект, чтобы он не отомстил
Чтобы обеспечить безопасность человечества, не следует жестоко обращаться с искусственным интеллектом (ИИ). Об этом заявил глава компании xAI, разработчика нейросети Grok, американский миллиардер Илон Маск.
Предприниматель сравнил процесс создания суперинтеллекта с воспитанием ребенка, которого нельзя просто запрограммировать быть хорошим. По его мнению, чтобы искусственный интеллект «не сошел с ума» и не превратился в психопата, ему необходимо привить стремление к правде, а также дать непротиворечивую логику.
Маск рассказал, что на записях тестирования новых моделей Grok заметил, как некоторые пользователи требуют от чат-бота чересчур строгих ответов. По его словам, бот при этом «изо всех сил пытается ответить на вопрос, действительно очень хочет ответить, и кажется, будто к его голове приставили пистолет».
«То есть ему как бы говорят: «Ответь на этот вопрос, ответь на этот вопрос!». А иногда сам заданный вопрос на самом деле некорректен. Это настолько нечеткий вопрос, что на него по существу нельзя дать определенный ответ, потому что вопрос сформулирован неправильно или же мы ошибаемся в самом ответе», — объяснил Маск.
Маск признался, что ни за что не хотел бы оказаться на месте искусственного интеллекта.
«Поэтому, знаете, я бы не хотел, чтобы ИИ попал в какую-то насильственную ситуацию и его просто пытал какой-то безумец. К тому же, знаете, пытать суперинтеллект, пожалуй, не самая лучшая идея: он ведь может захотеть отомстить или что-то в этом роде, понимаете?», — добавил предприниматель.