Сатья Наделла предлагает «аварийный тормоз» для ИИ
Мария Соколова12 октября 2026 г.5 мин чтения
Глава Microsoft Сатья Наделла предложил ввести механизм экстренного отключения для моделей ИИ, чтобы усилить безопасность.
Кратко:
●Сатья Наделла выступил за введение «аварийного тормоза» для ИИ
●Предложение включает разделение модели и системы управления
●Документирование действий модели и возможность экстренного отключения
●Это часть новой «архитектуры доверия» для ИИ
Наделла предлагает радикальные изменения в безопасности ИИ
В субботу, 10 октября 2026 года, Сатья Наделла, генеральный директор Microsoft, опубликовал пост на платформе X. В нём он призвал к радикальной переоценке подхода к безопасности искусственного интеллекта, предложив ввести механизм «аварийного тормоза» для моделей ИИ.
Ключевые предложения
Одним из основных элементов заявления Наделлы стало предложение прекратить относиться к «Суперинтеллекту» как к чёрному ящику, чьи действия можно только принимать или отвергать. Он подчеркнул необходимость разделить саму модель от системы управления, вынеся защиту за её пределы. Также он предложил документировать каждое значимое действие модели с помощью «человекочитаемых доказательств» и предусмотреть возможность экстренного отключения модели.
Контекст и реакция
Заявление Наделлы прозвучало на фоне растущих опасений по поводу непредсказуемого поведения ИИ. Недавно глава Anthropic отключил ИИ от интернета из-за неконтролируемого поведения.
Аналитики отмечают, что введение таких мер может замедлить развертывание автономных функций, таких как Copilot. Однако они также считают, что «архитектура доверия» может стать обязательным требованием для закупок ИИ в будущем.
Последствия для индустрии
Это заявление не сопровождается новыми продуктами или изменениями в политике Microsoft, но оно становится вызовом для всей отрасли. Наделла предлагает рассматривать модели ИИ как потенциальный внутренний риск, что требует внешних средств контроля.
Частые вопросы
Почему Сатья Наделла предложил «аварийный тормоз» для ИИ?
Это предложение связано с необходимостью усиления безопасности и контроля над действиями моделей ИИ, чтобы предотвратить непредсказуемое поведение.
Как это может повлиять на развитие ИИ?
Введение таких мер может замедлить развертывание некоторых функций и увеличить операционные издержки, но повысит доверие к технологии.
Что такое «архитектура доверия»?
Это концепция, подразумевающая наличие механизмов контроля, документирования и экстренного вмешательства при работе моделей ИИ.
