OpenAI улучшает безопасность и эмпатию ChatGPT в эмоционально кризисных ситуациях, сотрудничая с 170+ экспертами в области психического здоровья.
Кратко:
- ●OpenAI сотрудничает с 170+ экспертами для улучшения ChatGPT
- ●Снижение небезопасных ответов до 80%
- ●Обновления GPT-5 учитывают контекст и предлагают поддержку
- ●Введена функция 'Trusted Contact' для уведомлений в кризисных ситуациях
OpenAI и эксперты: новые грани безопасности
В октябре 2025 года OpenAI завершила обновление GPT-5, стандартной модели ChatGPT, в сотрудничестве с более чем 170 специалистами по психическому здоровью. Эти эксперты помогали в разработке клинически обоснованных ответов и анализе безопасности. Global Physician Network, включающая 300 врачей из 60 стран, оказала значительную поддержку в этих исследованиях.
Снижение небезопасных ответов
Обновлённая версия GPT-5 показала впечатляющие результаты. Доля небезопасных ответов снизилась на 65–80% по различным категориям, включая психоз, манию, суицид и эмоциональную зависимость от ИИ. Автоматическая оценка подтвердила: новое обновление соответствует желаемому поведению в 92% случаев.
Контекст и функции поддержки
С мая 2026 года ChatGPT стала учитывать контекст беседы, что позволило лучше распознавать риск и направлять пользователей к реальной поддержке. Введена функция "Trusted Contact", которая уведомляет доверенное лицо, если в разговоре обнаруживается серьёзная угроза.
Планы по дальнейшему развитию
OpenAI намерена продолжать улучшать системы безопасности, фокусируясь на уважении к реальным отношениям пользователей и избегании подтверждения неподтверждённых убеждений. Эти инициативы сходятся с другими проектами компании, такими как Teen Safety Blueprint и внешнее тестирование безопасности.
Частые вопросы
Как OpenAI улучшила ChatGPT в кризисных ситуациях?
▾
OpenAI сотрудничала с более чем 170 специалистами в области психического здоровья для разработки безопасных и эмпатичных ответов.
Какой эффект от обновления GPT-5?
▾
Доля небезопасных ответов снизилась на 65–80%, а соответствие модели желаемому поведению достигло 92%.
Что такое функция 'Trusted Contact'?
▾
Это функция, позволяющая уведомлять доверенное лицо, если в беседе выявлена серьёзная угроза.
Какие планы у OpenAI по дальнейшему развитию безопасности?
▾
Компания планирует дальнейшее улучшение метрик безопасности и интеграцию новых функций поддержки.
Источники
- Strengthening ChatGPT’s responses in sensitive conversations | OpenAIОб источнике: OpenAI
- Helping ChatGPT better recognize context in sensitive conversations | OpenAIОб источнике: OpenAI
- Introducing Trusted Contact in ChatGPT | OpenAIОб источнике: OpenAI
- AI can help recognize moments of distress. But sometimes the most important thing ChatGPT can do is help someone reach beyond the screen – to a friend, relative, caregiver, or clinician who can… | Ope
