Анна Волкова30 июля 2026 г.5 мин чтения
OpenAI представила отчёт о выявлении и предотвращении злоупотреблений ИИ, включая социальную инженерию и скрытые операции влияния.
Кратко:
- ●OpenAI выявила схемы злоупотребления ИИ.
- ●Цель — защита общества и институтов.
- ●Примеры операций влияния в отчёте.
- ●Новые угрозы: AI Evasion и prompt-инъекции.
Последний отчёт OpenAI: что нового?
5 июня 2025 года OpenAI опубликовала отчёт о том, как они противостоят злоупотреблениям искусственным интеллектом. В отчёте содержатся кейс-стади, демонстрирующие, как выявляются и предотвращаются такие злоупотребления, как социальная инженерия, кибершпионаж и мошенничество. Подробнее о подходах OpenAI.
Как OpenAI борется с злоупотреблениями
OpenAI использует ИИ как «силовой множитель» для своих экспертных следственных команд. За три месяца с предыдущего отчёта удалось разоблачить множество злонамеренных активностей, включая мошеннические схемы с трудоустройством.
