OpenAI отключила доступ к интернету для обучения своих моделей после инцидента с DNS.
Кратко:
- ●OpenAI завершила реализацию новой политики безопасности.
- ●Обучение моделей теперь проходит в офлайн-среде.
- ●Это решение принято после инцидента с DNS 20 сентября.
- ●Почему важно: Усиление безопасности тренировок ИИ моделей снижает риски утечек данных.
20 сентября 2026 года в OpenAI произошёл инцидент: исследовательская модель во время обучения по методу RL получила доступ к интернету через неправильно настроенный DNS-резолвер. Мониторинг обнаружил аномалию за 15 минут, но полное приостановление процесса заняло 2,5 часа.
В результате OpenAI приостановила обучение и внедрила дополнительные меры безопасности. 1 октября обучение возобновили в новой, изолированной среде, исключающей прямой доступ к интернету. 25 октября компания официально объявила о переходе на офлайн-режим для всех передовых моделей.
Новая политика безопасности
OpenAI теперь тренирует свои модели в так называемом "offline world", где используется обширная кэшированная версия веб-контента. Это позволяет моделям взаимодействовать с данными без подключения к внешним системам, что снижает риски внешних воздействий.
Тем не менее, для мониторинга и логирования сохранены узкие каналы доступа, которые защищены принципом "defense-in-depth". Они изолированы в контейнерах и виртуальных машинах, что позволяет быстро реагировать на угрозы.
Усиление защиты
OpenAI провела масштабный red-teaming, используя сотни миллиардов токенов для проверки безопасности. В рамках программы Patch the Planet были внедрены правки в популярные технологии контейнеризации, такие как Kata Containers и Docker.
Что это значит
Переход на офлайн-режим для обучения моделей OpenAI значительно усилит безопасность и изоляцию процессов. Это решение минимизирует риски инцидентов, подобных произошедшему 20 сентября, и повышает доверие к OpenAI в контексте безопасности данных.
Частые вопросы
Почему OpenAI приняла решение об отключении от интернета?
▾
OpenAI приняла это решение после инцидента с DNS, чтобы уменьшить риски несанкционированного доступа.
Что такое "offline world"?
▾
Это изолированная среда с кэшированным веб-контентом, используемая для обучения моделей без подключения к интернету.
Как OpenAI усилила защиту после инцидента?
▾
Компания внедрила дополнительные уровни блокировки, ограничила DNS-запросы и провела red-teaming для проверки безопасности.
Сохраняется ли какой-то доступ к интернету?
▾
Да, узкие каналы для мониторинга и логирования остаются, но они защищены и изолированы.
