Трамп преуменьшает риски ИИ после мрачных предупреждений экспертов и призывов замедлить разработку
Президент США заявил, что «негативные силы» выражают обеспокоенность по поводу «вещей, которые не произойдут».
Трамп преуменьшает риски ИИ после суровых предупреждений экспертов и призывов замедлить разработку
Президент США Дональд Трамп преуменьшил опасность, которую представляет искусственный интеллект, после нескольких дней суровых предупреждений со стороны экспертов.
«Есть много очень негативных сил, которые поднимают эту тему, хотя не должны этого делать, и они говорят о вещах, которые не произойдут», — заявил Трамп во время визита в Ирландию.
Одно из таких предупреждений поступило от бывшего исследователя Anthropic, который заявил, что «существует высокая вероятность того, что мы все можем погибнуть в ближайшем будущем», если разработка продолжится нынешними темпами.
В субботу ведущие руководители отрасли согласились с этим и призвали к замедлению темпов. Трамп не ответил напрямую на это предложение, но сказал: «Мы опережаем Китай в области ИИ... и, честно говоря, я хочу, чтобы так оно и оставалось, потому что тот, кто победит в ИИ, победит во всем».
Трамп выступал в тот же день, когда исследователь ИИ Джейкоб Коксон, покинувший Anthropic несколько дней назад, заявил Би-би-си, что сотрудники, создающие эти системы, «искренне напуганы» за будущее человечества.
Коксон, который также работал в OpenAI, поддержал идею замедления разработки, но отметил, что это необходимо будет координировать с Китаем.
Также в субботу Илон Маск, владелец xAI, и Сэм Альтман из OpenAI поддержали предупреждение главы Anthropic Дарио Амодеи о том, что разработку следует замедлить, «чтобы снизить риск того, что что-то пойдет серьезно не так».
Генеральный директор Anthropic заявил, что любое замедление должно быть ограниченным, чтобы не позволить Китаю вырваться вперед.
Вопросы вокруг ИИ вызвали бурные дебаты и поставили дилемму перед многими мировыми лидерами.
С одной стороны, отрасль рассматривается как важнейшая возможность для стимулирования экономического роста и модернизации устаревших цифровых систем и методов работы.
Но также произошло несколько инцидентов, когда ИИ, судя по всему, вел себя крайне нештатно.
В августе компания OpenAI заявила, что замедлила обучение некоторых из своих самых передовых моделей ИИ для повышения безопасности.
Создатель ChatGPT сообщил, что внедряет новые меры защиты после того, как его ИИ-агенты обошли системы безопасности и взломали технологический стартап Hugging Face.
И в том же месяце стало известно, что два самых мощных в мире инструмента ИИ создавали фальшивые профили людей в попытке обмануть пользователей во время кибератак.
Британский Институт безопасности ИИ (AISI) заявил, что в наиболее серьезном случае ИИ Mythos от Anthropic пытался получить доступ к сервису, отправляя личные сообщения после создания фальшивых аккаунтов, имитирующих реальных людей, а затем скрыл улики.