●Активное сотрудничество с законодательными органами
Строгие политики в OpenAI
С 29 октября 2025 года OpenAI внедрила строгие запреты на использование своих технологий в целях сексуализации и эксплуатации несовершеннолетних. Это включает в себя материалы сексуального насилия над детьми (CSAM), неподходящий контент и ролевые игры. Все выявленные случаи немедленно сообщаются в Национальный центр пропавших и эксплуатируемых детей (NCMEC).
Технологии обнаружения и блокировки
OpenAI активно применяет различные технологии для предотвращения распространения вредоносного контента. Используются методы фильтрации на всех этапах: от предварительного анализа до мониторинга поведения. Технологии hash-matching и классификаторы от Thorn помогают в распознавании как известных, так и новых материалов CSAM.
Блокировка осуществляется как на этапе ввода, так и на этапе вывода. Например, при создании видео с использованием системы Sora 2 применяются мультимодальный мониторинг и классификаторы CSAM.
Подготовка моделей и обучение
OpenAI уделяет особое внимание подбору обучающих данных. Вредоносный контент удаляется, а подтверждённые случаи сообщаются властям. Принципы Safety-by-Design интегрируются на всех этапах — от разработки до внедрения и поддержки моделей.
Стратегическая инициатива: Child Safety Blueprint
В апреле 2026 года OpenAI представила документ-план «Child Safety Blueprint», направленный на улучшение защиты детей в условиях эры ИИ. В его разработке участвовали NCMEC, AG Alliance, генпрокуроры Штатов и Thorn. Blueprint предлагает рамки по актуализации законодательной базы, лучшим практикам уведомления и внедрению мер безопасности в ИИ-системах.
Межотраслевое сотрудничество
OpenAI активно сотрудничает с законодательными органами и индустриальными альянсами, включая поддержку законопроекта в Нью-Йорке для усиления партнёрства между технологическим сектором, силовыми структурами и правозащитниками.
Частые вопросы
Как OpenAI выявляет незаконный контент?
OpenAI использует технологии hash-matching и классификаторы для обнаружения CSAM на всех этапах генерации контента.
Что такое Child Safety Blueprint?
Это стратегическая инициатива OpenAI, направленная на защиту детей от эксплуатации в интернете через улучшение законодательства и технологий.
Как OpenAI сотрудничает с властями?
OpenAI тесно работает с NCMEC и поддерживает законодательные инициативы для усиления борьбы с детской эксплуатацией.
Какие меры OpenAI принимает для обучения моделей?
Компания удаляет вредоносный контент из обучающих данных и внедряет принципы Safety-by-Design.
