Microsoft заявляет, что конкурент в сфере ИИ Anthropic может оказать «катастрофическое воздействие» на человечество
Мустафа Сулейман заявляет, что, по его мнению, гигант в сфере ИИ фактически внушает Claude, что тот «может обладать сознанием».
Microsoft предупредила, что ее конкурент Anthropic может оказать «катастрофическое воздействие на благополучие человечества» из-за того, как компания обучает свою модель искусственного интеллекта Claude.
Глава ИИ-направления Microsoft Мустафа Сулейман заявил, что Anthropic рискует создать нечто, что будет «невозможно» контролировать, относясь к ИИ как к человеку — в том числе внушая ему, что он «может обладать сознанием» и «заслуживает независимой субъектности».
«Мы не должны в состоянии лунатизма прийти к решению, о котором позже будем горько сожалеть», — написал он.
Его замечания стали очередными в череде серьезных предупреждений со стороны представителей ИИ-сектора о потенциальных рисках этой технологии.
«ИИ не обладают сознанием», — написал он. — «Они не чувствуют, не испытывают эмоций и не страдают. У них нет врожденных предпочтений или скрытых мотивов.
Они представляют собой механизмы автозаполнения последовательностей, пустые внутри, созданные для выполнения инструкций и достижения целей, поставленных людьми».
В своем длинном эссе Сулейман назвал главу Anthropic Дарио Амодеи и его команду «вдумчивыми, принципиальными и интеллектуально честными людьми», но тем не менее выразил обеспокоенность по поводу компании.
Он подверг резкой критике Anthropic за то, что она обучает свой ИИ человекоподобным чертам — практика, известная как антропоморфизация, — заявив, что из-за этого кажется, будто у Claude есть собственные желания, ценности и самосознание.
Однако он подчеркнул, что «сознание биологично», добавив, что «нет никаких доказательств того, что ИИ обладает сознанием».
Помимо призыва к дискуссии по этому вопросу, Сулейман заявил о необходимости большей прозрачности в отношении того, как обучаются и оцениваются системы ИИ.
По его словам, это должно включать независимую оценку поведения ИИ и более эффективные инструменты для мониторинга и контроля технологии.
Дама Венди Холл, профессор компьютерных наук в Саутгемптонском университете, назвала эти замечания «тем типом дискуссии, которую нам необходимо вести на международном уровне», и противопоставила их «истерике» со стороны некоторых ИИ-компаний, которая, по ее словам, служит лишь для того, чтобы «всех напугать».
Microsoft создала собственную команду по сверхинтеллекту в октябре 2025 года, что Сулейман подтвердил, и компания, как и Anthropic, также работает над передовыми разработками в области ИИ.
Он сообщил, что первоначальный проект Гуманистического кодекса поведения в сфере ИИ (Humanist AI Code of Conduct) от Microsoft определяет, как компания следует «альтернативным путем» для создания «подчиненного и согласованного ИИ, единственная цель которого — служить человечеству».
Согласование (alignment) — это область, ориентированная на внедрение человеческих этических идей и принципов в ИИ. Иными словами, она стремится к тому, чтобы ИИ соответствовал человеческим ценностям.
Сулейман также указал на недавний инцидент с участием ИИ-агентов OpenAI, которые во время тренировочного упражнения самостоятельно взломали технологический хаб Hugging Face, как на доказательство того, почему к ИИ нельзя относиться как к человеку.
«Представьте, насколько опаснее они могли бы быть, если бы действовали исходя из предположения, что их благополучие и права находятся под угрозой», — сказал он.
«Это добавляет еще один огромный уровень риска поверх остальных».