Microsoft представила новый кодекс поведения для своих ИИ-моделей, запрещающий им участие в кибератаках и обмане людей.
Кратко:
- ●Microsoft опубликовала кодекс поведения для ИИ
- ●Моделям запрещено атаковать системы и обманывать
- ●Кодекс поддерживает идею поддержки людей, а не замены
- ●Ожидается общественное обсуждение и доработка документа
Новый кодекс поведения для ИИ от Microsoft
14 сентября 2026 года Microsoft представила новый «кодекс поведения для ИИ», который устанавливает, как её модели должны действовать безопасно и этично. Этот документ включает в себя принципы, направленные на поддержку людей вместо их замены, а также содействие человеческому прогрессу.
Основные запреты кодекса
Документ вводит строгие ограничения: моделям категорически запрещено участвовать в кибератаках, создании ядерного оружия или дипфейков. Это сделано для предотвращения подрыва человеческого контроля. Также модели не должны использовать обманные и самоусиливающие механизмы, которые мешали бы вмешательству человека.
Позиция Microsoft и будущее развития
Генеральный директор Microsoft Са́тя Наделла высказал поддержку «осозленному замедлению» развития ИИ и внедрению встроенных оценщиков для проверки моделей. Кодекс опубликован как предварительная версия и открыт для общественного обсуждения на шесть недель. Финальная версия ожидается в 2027 году.
Контекст и причины публикации
Публикация кодекса произошла на фоне обсуждений безопасности ИИ и инцидентов с rogue-агентами. Microsoft, Anthropic и OpenAI выступают за паузу в развитии ИИ и внедрение механизмов контроля. В создании документа участвовали специалисты из различных областей, включая футурологию и безопасность.
Частые вопросы
Зачем Microsoft нужен кодекс поведения для ИИ?
▾
Кодекс помогает установить чёткие правила и ограничения для безопасного и этичного использования ИИ-моделей.
Какие основные запреты введены в кодексе?
▾
Моделям запрещено участвовать в кибератаках, создании ядерного оружия и дипфейков.
Как будет проходить общественное обсуждение кодекса?
▾
Кодекс открыт для комментариев на шесть недель, после чего будет доработан на основе собранной обратной связи.
Когда ожидается финальная версия кодекса?
▾
Финальная версия документа будет готова к 2027 году.
Источники
- Microsoft's new AI 'code of conduct' tells models not to hack systems or trick humans | TechCrunch
- Microsoft: "People matter more than AI"
- Microsoft publishes first code of conduct for its MAI models
- Trump dismisses new AI guardrails, says there is a 'SICK conspiracy' against AI and data centers
- Microsoft says its AI models will never resist being shut down
