OpenAI представляет gpt-oss-safeguard для безопасной классификации

29 октября 2025 года OpenAI представила превью-версию новой модели gpt-oss-safeguard, предназначенной для классификации безопасности. Это открытые reasoning-модели, доступные под лицензией Apache 2.0, что позволяет их модификацию и распространение.

Что такое gpt-oss-safeguard

Эти модели представлены в двух вариантах: gpt-oss-safeguard-120b и gpt-oss-safeguard-20b. Первая из них, обладая около 117 миллиардами параметров, может работать на одной 80 ГБ GPU, например, NVIDIA H100. Вторая модель с 21 миллиардом параметров ориентирована на более простые и ускоренные окружения.

Преимущества и особенности

Одним из ключевых преимуществ является механизм «bring your own policy», который позволяет разработчикам применять свои политики на этапе вывода. Это значительно упрощает адаптацию модели без необходимости её переобучения. Модель также поддерживает вывод цепочки рассуждений (chain-of-thought), что делает процесс принятия решений более прозрачным и доступным для аудита.

Модели gpt-oss-safeguard позволяют настроить усилие рассуждения (low/medium/high), обеспечивая баланс между временем отклика и качеством оценки. Внутренние тесты показали, что они превосходят gpt-5-thinking и базовые gpt-oss модели по точности при выполнении нескольких политик одновременно.

Производительность и ограничения

На наборе 2022 moderation dataset gpt-oss-safeguard показал себя немного лучше других моделей, хотя статистически значимого преимущества не было. На более простых задачах, таких как ToxicChat, другие модели, например, gpt-5-thinking, иногда демонстрировали лучшие результаты из-за меньших размеров моделей gpt-oss-safeguard.

Специализированные классификаторы, обученные на большом объёме аннотированных примеров, зачастую превосходят gpt-oss-safeguard в сложных сценариях. Модели также требуют значительных вычислительных ресурсов, что может усложнить их масштабирование.

Сообщество и развитие

Модель разрабатывалась совместно с сообществом ROOST, в которое входят специалисты из SafetyKit, ROOST, Tomoro и Discord. CTO ROOST отметил, что gpt-oss-safeguard — первая open-source модель reasoning, которая умело применяет различные политики и объясняет свои решения.

OpenAI запустила ROOST Model Community (RMC) для совместного улучшения инструментов безопасности. На GitHub доступны ресурсы с примерами и документацией.

Частые вопросы