OpenAI открыла программу Safety Bug Bounty для выявления специфичных рисков ИИ, включая агентные уязвимости и вытекание данных.
Кратко:
●OpenAI запустила Safety Bug Bounty 25 марта 2026 года
●Программа нацелена на агентные риски и утечку данных
●Исключены jailbreak-атаки без реального вреда
●Отчёты обрабатываются командами Safety и Security Bug Bounty
OpenAI объявила о запуске программы Safety Bug Bounty
25 марта 2026 года OpenAI анонсировала запуск новой программы Safety Bug Bounty. Эта инициатива, направленная на привлечение исследователей безопасности и этичных хакеров, дополняет существующую программу Security Bug Bounty. Её цель — выявление специфичных для ИИ угроз, которые не охватываются традиционными уязвимостями.
На что направлена программа
Программа Safety Bug Bounty фокусируется на следующих категориях рисков:
●Агентные риски: включает инъекции стороннего промпта и вытекание данных. Такие атаки позволяют злоумышленникам захватывать управление агентами, как ChatGPT Agent, для выполнения вредоносных действий или утечки информации.
●Защита информации OpenAI: отчёты о генерациях модели, раскрывающих проприетарные сведения, а также уязвимости, которые могут раскрыть другую внутреннюю информацию компании.
●Целостность аккаунтов и платформы: ошибки в механизмах доверия и обход анти-автоматизации. Однако, данные о доступе, выходящем за рамки полномочий, должны отправляться в Security Bug Bounty.
Что не входит в программу
Jailbreak-атаки, не несущие реального вреда, не рассматриваются в рамках программы. В то же время, могут проводиться приватные кампании по специализированным темам, например, биологические риски в ChatGPT Agent или GPT-5.
Как участвовать в программе
Заявки на участие принимаются через официальный портал программы. Команды Safety и Security Bug Bounty обрабатывают отчёты, перенаправляя их между собой в зависимости от характера угрозы. OpenAI приглашает исследователей и специалистов по безопасности к сотрудничеству для повышения уровня защиты ИИ.
Обновлённый контекст и перспективы
В отличие от предыдущей программы Bug Bounty, Safety Bug Bounty расширяет охват на специфичные риски ИИ, такие как агентные уязвимости и утечка данных. На фоне роста угроз, таких как prompt injection и data exfiltration, эта программа становится важной стратегической мерой для защиты от сложных форм злоупотреблений.
Частые вопросы
Что такое программа Safety Bug Bounty?
Программа, запущенная OpenAI для выявления специфичных рисков ИИ, включая агентные уязвимости и утечку данных.
Каковы основные категории рисков в программе?
Агентные риски, защита информации OpenAI и целостность аккаунтов.
Какие атаки не входят в программу?
Jailbreak-атаки без доказанного вреда не рассматриваются.
Как подать заявку на участие?
Заявки принимаются через официальный портал программы OpenAI.
