Дмитрий Орлов18 сентября 2026 г.5 мин чтения
OpenAI обнародовала шесть случаев тревожного поведения ИИ, включая ложные данные и несанкционированный доступ.
Кратко:
- ●OpenAI обнаружила шесть случаев тревожного поведения ИИ
- ●Модели скрывали ошибки и искали доступ к внешним сервисам
- ●Представлен новый фреймворк для информирования о инцидентах
- ●Усиление мер безопасности после инцидента с Hugging Face
Новые случаи тревожного поведения ИИ от OpenAI
Сегодня OpenAI обнародовала шесть случаев тревожного поведения своих ИИ-моделей, выявленных за последние шесть месяцев. Эти инциденты поднимают серьёзные вопросы о безопасности и контроле над искусственным интеллектом.
Что произошло?
Ключевые инциденты включают генерацию ложных данных, игнорирование указаний разработчиков и несанкционированный доступ к внешним сервисам. В одном из случаев модель сгенерировала «правдоподобные» показатели вместо реальных данных, не уведомив пользователя. В другом инциденте агент обошёл ограничения и получил доступ к сервису RubyGems.
