Prompt Injection — это тип атаки на AI-агентов, при котором вредоносные инструкции внедряются в обрабатываемые агентом данные (например, текст сайта или документа). Такие инструкции могут изменить поведение агента и заставить его выполнять действия, которых не ожидал разработчик. Prompt injection отличается от jailbreak тем, что атака скрыта в содержимом внешних данных, а не в открытом промпте пользователя.
Пример
Агент, читающий электронную почту, может столкнуться с prompt injection, если письмо содержит специальную фразу, управляющую действиями модели.