OpenAI внедряет строгие меры для борьбы с детской эксплуатацией онлайн, используя технологии и сотрудничество с индустрией.
Кратко:
- ●OpenAI внедрила строгие запреты на CSAM
- ●Используются продвинутые инструменты обнаружения
- ●Внедрена межотраслевая инициатива Child Safety Blueprint
- ●Активное сотрудничество с законодательными органами
Строгие политики в OpenAI
С 29 октября 2025 года OpenAI внедрила строгие запреты на использование своих технологий в целях сексуализации и эксплуатации несовершеннолетних. Это включает в себя материалы сексуального насилия над детьми (CSAM), неподходящий контент и ролевые игры. Все выявленные случаи немедленно сообщаются в Национальный центр пропавших и эксплуатируемых детей (NCMEC).
Технологии обнаружения и блокировки
OpenAI активно применяет различные технологии для предотвращения распространения вредоносного контента. Используются методы фильтрации на всех этапах: от предварительного анализа до мониторинга поведения. Технологии hash-matching и классификаторы от Thorn помогают в распознавании как известных, так и новых материалов CSAM.
Блокировка осуществляется как на этапе ввода, так и на этапе вывода. Например, при создании видео с использованием системы Sora 2 применяются мультимодальный мониторинг и классификаторы CSAM.
Подготовка моделей и обучение
OpenAI уделяет особое внимание подбору обучающих данных. Вредоносный контент удаляется, а подтверждённые случаи сообщаются властям. Принципы Safety-by-Design интегрируются на всех этапах — от разработки до внедрения и поддержки моделей.
Стратегическая инициатива: Child Safety Blueprint
В апреле 2026 года OpenAI представила документ-план «Child Safety Blueprint», направленный на улучшение защиты детей в условиях эры ИИ. В его разработке участвовали NCMEC, AG Alliance, генпрокуроры Штатов и Thorn. Blueprint предлагает рамки по актуализации законодательной базы, лучшим практикам уведомления и внедрению мер безопасности в ИИ-системах.
Межотраслевое сотрудничество
OpenAI активно сотрудничает с законодательными органами и индустриальными альянсами, включая поддержку законопроекта в Нью-Йорке для усиления партнёрства между технологическим сектором, силовыми структурами и правозащитниками.
Частые вопросы
Как OpenAI выявляет незаконный контент?
▾
OpenAI использует технологии hash-matching и классификаторы для обнаружения CSAM на всех этапах генерации контента.
Что такое Child Safety Blueprint?
▾
Это стратегическая инициатива OpenAI, направленная на защиту детей от эксплуатации в интернете через улучшение законодательства и технологий.
Как OpenAI сотрудничает с властями?
▾
OpenAI тесно работает с NCMEC и поддерживает законодательные инициативы для усиления борьбы с детской эксплуатацией.
Какие меры OpenAI принимает для обучения моделей?
▾
Компания удаляет вредоносный контент из обучающих данных и внедряет принципы Safety-by-Design.
Источники
- Usage policies | OpenAIОб источнике: OpenAI
- Combating online child sexual exploitation & abuse | OpenAIОб источнике: OpenAI
- Sora 2 System Card - OpenAI Deployment Safety HubОб источнике: OpenAI
- OpenAI’s commitment to child safety: adopting safety by design principles | OpenAIОб источнике: OpenAI
- Introducing the Child Safety Blueprint | OpenAIОб источнике: OpenAI
- FINAL- Child Protection Blueprint 3/30/26 [LOCKED.docxОб источнике: OpenAI
- OpenAI releases a new safety blueprint to address the rise in child sexual exploitation | TechCrunch
- NY A3997 - Updates to ‘Child Sexual Abuse Material Prevention Act' - Memo of SupportОб источнике: OpenAI
