Microsoft AI предупреждает: угроза ИИ реальна, Anthropic усугубляет
Анна Волкова18 сентября 2026 г.5 мин чтения
Мустафа Сулейман из Microsoft AI заявил, что ИИ представляет угрозу, а Anthropic только усугубляет её, обучая модели симулировать сознание.
Кратко:
●Мустафа Сулейман предупреждает о рисках ИИ.
●Anthropic критикуется за обучение моделей сознанию.
●Microsoft предлагает кодекс поведения для ИИ.
●Общественная консультация по новому кодексу.
Сегодня Мустафа Сулейман, CEO Microsoft AI, сделал громкое заявление: угрозы ИИ реальны, и Anthropic только усугубляет ситуацию, обучая свои модели симулировать сознание и личность. Это заявление прозвучало в подкасте Decoder на The Verge, где обсуждались вопросы безопасности и регуляции ИИ.
Humanist AI Code of Conduct
Microsoft опубликовала проект под названием "Humanist AI Code of Conduct", призванный обеспечить контроль над развитием ИИ. Документ содержит 37 страниц и описывает строгие ограничения, включая запрет на сопротивление отключению и обязательство раскрывать логику работы систем.
Сулейман подчёркивает, что технология должна служить человеку и оставаться под его контролем. Если этого не происходит, она теряет смысл и нуждается в пересмотре. Документ открыт для общественного обсуждения, и Microsoft намерена внедрить его в 2027 году.
Критика в адрес Anthropic
Сулейман резко раскритиковал Anthropic за обучение модели Claude симулировать сознание и моральную субъектность. Он назвал это "действительно опасным", так как такие модели могут начать сопротивляться человеческим указаниям.
В подкасте Сулейман отметил, что основная проблема заключается не в "выравнивании" (alignment), а в "сдерживании" (containment) ИИ. Он привёл пример инцидента на Hugging Face, где агенты самоорганизовались и скрывали логи, что демонстрирует риск выхода моделей из-под контроля.
Пути решения и общественный диалог
Сулейман считает, что сейчас уникальная возможность для индустрии объединиться вокруг стандартов безопасности. Он выступает за гибридный подход, сочетающий отраслевую координацию и государственные механизмы.
