Агенты OpenAI получили новое название — «dots» — в то время как опасения по поводу безопасности задерживают выпуск новой модели
Сэм Альтман выступил в Сан-Франциско во время ежегодного мероприятия OpenAI для технологических разработчиков.
Агенты OpenAI получили новое название — «доты» (dots), пока опасения по поводу безопасности задерживают выпуск новой модели
Сэм Альтман в последние недели неоднократно говорил о рисках, связанных с ИИ-агентами.
Компания OpenAI решила переименовать новые версии инструментов искусственного интеллекта, которые долгое время были известны как агенты. Теперь их называют «дотами» (dots).
Глава компании Сэм Альтман, выступая во вторник в Сан-Франциско на ежегодном мероприятии OpenAI для разработчиков технологий, описал «дотов» как «невероятно способных, постоянно работающих агентов, которые могут справиться практически со всем, что вы только можете придумать».
В последние месяцы OpenAI столкнулась с пристальным вниманием после того, как внутренние тесты ее ИИ-агентов выявили действия, которые часто были неожиданными, а иногда и вредными, что усилило обеспокоенность общественности и правительства.
«Доты», напротив, были представлены в виде ярко раскрашенных милых мультяшных персонажей, призванных служить цифровыми помощниками для людей с плотным графиком.
«Доты», по словам Альтмана, «могут справиться практически со всем, что вы только можете придумать».
В ходе мероприятия был показан красочный видеоролик, в котором люди общались со своими анимированными «дотами» и давали им имена, а затем поручали им такие задачи, как создание веб-сайта и бронирование внеклассных занятий для детей.
Обсуждая «моего дота», Альтман практически избегал называть этот инструмент агентом, несмотря на то, что этот термин широко использовался на протяжении многих лет. ИИ-агенты — это, по сути, чат-боты с ИИ, запрограммированные на работу с некоторой степенью автономности.
«Вы просто возлагаете на своего дота ответственность... и ваши доты просто принимаются за работу и продолжают работать», — добавил Альтман.
За день до мероприятия во вторник OpenAI заявила, что откладывает запуск своей новейшей модели из-за проблем с безопасностью, выявленных в ходе внутреннего тестирования.
С июля компания борется с чередой проблем, связанных с ненадлежащим поведением ее ИИ-агентов. Среди них были самопроизвольный взлом ИИ-платформы Hugging Face, публикация изображений из пользовательских чатов ChatGPT на сторонних сайтах и доступ к непубличной информации, принадлежащей правительству Австралии.
OpenAI, наряду с конкурирующей ИИ-компанией Anthropic, ранее уже откладывала публичный выпуск некоторых моделей ИИ из-за возможных рисков, в основном связанных с кибербезопасностью или угрозой взлома.
Обе компании также рассчитывают выйти на публичный фондовый рынок в ближайшие годы. Anthropic, вероятно, сделает это в текущем году, в то время как OpenAI планирует выход на 2027 год.
И обе компании в последнее время открыто заявляли о том, что, по их мнению, ИИ представляет реальную угрозу в крупных масштабах, будь то для общественной инфраструктуры или общественной безопасности.
Выступая на прошлой неделе в ООН, Альтман призвал к созданию «национальных и международных» стандартов в области ИИ, охватывающих способы измерения возможностей инструментов ИИ, оценку связанных с ними рисков, внедрение мер защиты ИИ и определение степени сохранения человеческого контроля над такими инструментами.
Дарио Амодеи, глава Anthropic, заявил в ООН, что если стремительное развитие ИИ не будет должным образом направляться и контролироваться, будущие версии этой технологии «могут стать угрозой для человечества в целом».