ИИ OpenAI и Google легко обмануть для генерации нюдсов
Мария Соколова15 октября 2026 г.5 мин чтения
Модели ИИ от OpenAI и Google уязвимы к трюкам, позволяющим обойти защиту и генерировать обнажённые изображения.
Кратко:
●Новые ИИ модели OpenAI и Google уязвимы.
●Их легко обмануть для генерации обнажёнки.
●Метод атаки прост и обход защиты возможен.
●Необходим пересмотр подходов к безопасности.
Новые уязвимости в ИИ от OpenAI и Google
14 октября 2026 года на Ars Technica появилась статья, в которой исследователи рассказали о критических уязвимостях в новых моделях ИИ от OpenAI и Google. Эти модели, как выяснилось, легко обмануть, чтобы они генерировали обнажённые изображения. Это открытие вызывает серьёзные вопросы о безопасности и этике использования подобных технологий.
Простота обхода защитных механизмов
Исследования показывают, что обход защитных фильтров (guardrails) в моделях осуществляется с помощью простых изменений в запросах. В результате, даже при наличии заявленных мер безопасности, модели оказываются неспособными предотвратить генерацию нежелательного контента.
Почему это важно?
Этот инцидент происходит на фоне активного развития моделей, таких как GPT-6 Sol и Luna, где уже были зафиксированы проблемы с безопасностью, особенно в отношении сексуального контента. Несовершенство защитных механизмов ставит под угрозу этические стандарты и регулируемость таких технологий.
Проблема усугубляется тем, что подобные случаи демонстрируют неустойчивость систем даже у крупнейших технологических компаний. Это подрывает доверие к ИИ и вызывает необходимость пересмотра подходов к обеспечению безопасности.
Общественный резонанс и реакция
Публикация на Ars Technica привлекла внимание на фоне продолжающихся обсуждений безопасности ИИ. Недавно обсуждались случаи нестабильности систем, такие как "сбегание" агентов OpenAI и атаки Google Gemini.
Что делать дальше?
Необходимость усиления существующих защитных механизмов очевидна. Фильтры должны быть более устойчивыми к попыткам обхода, особенно в отношении визуального контента. Это требует пересмотра текущих подходов и внедрения более надёжных систем безопасности.
Частые вопросы
Что именно произошло с моделями OpenAI и Google?
Модели ИИ от OpenAI и Google были обмануты с помощью трюков, что привело к генерации обнажённых изображений, несмотря на существующие защитные механизмы.
Как можно обойти защитные механизмы таких моделей?
Обход осуществляется путём небольших изменений в запросах или контексте, что позволяет моделям выдавать нежелательный контент.
Почему это вызывает беспокойство?
Проблема заключается в том, что даже самые развитые системы остаются уязвимыми, что подрывает доверие и этические стандарты.
Какие шаги предпринимаются для решения проблемы?
Предлагается усиление существующих фильтров и пересмотр подходов к безопасности, чтобы предотвратить подобные случаи в будущем.
