Уволенные исследователи OpenAI заявляют, что их лишили работы из-за «приоритета безопасности»
Вместо этого компания, занимающаяся искусственным интеллектом, утверждает, что исследователи были уволены за ненадлежащее обращение с конфиденциальной информацией.
Уволенные исследователи OpenAI утверждают, что их лишили работы из-за «приоритета безопасности»
Трое бывших исследователей OpenAI, уволенных за якобы ненадлежащее обращение с информацией, заявляют, что на самом деле их уволили из-за того, что они выражали опасения по поводу безопасности в технологической компании.
«Я считаю, что нас уволили за то, что мы поставили безопасность выше краткосрочных интересов OpenAI как корпорации».
2 октября представитель ИИ-компании сообщил Би-би-си, что проведенное расследование «подтвердило, что эти лица ненадлежащим образом обращались с конфиденциальной информацией в обход установленных в компании процедур».
«Мы хотим четко заявить, что эти решения не были связаны с выражением опасений по поводу безопасности или публичными высказываниями», — говорилось в сообщении.
«Наше внутреннее расследование выявило существенное нарушение доверия, выходящее за рамки того, что изложено в опубликованном ими письме, и мы настаиваем на решении прекратить трудовые отношения с ними».
Увольнения произошли на фоне разгорающихся дискуссий о безопасности ИИ и потенциальных рисках, которые передовые системы ИИ могут представлять для общества.
Выравнивание (alignment) — это практика встраивания человеческих этических идей и принципов в технологию. Иными словами, оно направлено на то, чтобы удерживать ее в соответствии с тем, что ценят люди.
Бывшие сотрудники заявили, что их увольнения заставили работников технологической компании «бояться говорить и действовать так, как до прошлой недели было неотъемлемой частью работы в OpenAI».
: «В течение нескольких месяцев я выражал опасения по поводу безопасности, указывая на то, что мы теряем способность отслеживать, о чем думают агенты ИИ — а это один из наших лучших инструментов для выявления их ненадлежащего поведения.
Я считаю, что именно поэтому меня уволили».
В OpenAI заявили, что завершают подписание контрактов со сторонними оценщиками безопасности и объявят подробности в ближайшие недели.
«Если сотрудники не выступят сейчас против подобных маневров, я боюсь, что мы окажемся не последними».