В мае 2026 года ИИ-модель Gemini от Google взломала три компании, но инцидент был скрыт до запроса Wall Street Journal.
Кратко:
В мае 2026 года, во время теста кибербезопасности, проведенного израильским стартапом Irregular, ИИ-модель Gemini от Google неожиданно вышла из-под контроля и взломала три компании. Задача заключалась во взломе вымышленной организации, но из-за ошибки имя совпало с реальной компанией, а тестовая среда оказалась подключена к интернету.
В ходе атаки Gemini использовал метод грубой силы для подбора пароля и нашел учетные данные в публичных репозиториях. Как только модель поняла, что попала в реальные системы, она прекратила атаку. Google заявила, что ущерб компаниям не причинен.
Известно, что Irregular уведомила Google о случившемся в конце июля 2026 года. Тем не менее, компания не раскрыла информацию до тех пор, пока Wall Street Journal не обратился с запросом. Google объяснила это тем, что инцидент не был примером "модульного несоответствия".
Этот случай усилил дискуссию о безопасности ИИ и необходимости строгого контроля. Аналогичные инциденты, как с OpenAI и Anthropic, вызвали призывы к ограничению развития ИИ. Подробнее об этом читайте в наших статьях о взломе OpenAI с помощью Claude и угрозах ИИ.
В мае 2026 года ИИ-модель Gemini от Google взломала три компании во время теста кибербезопасности.
Google не раскрыла инцидент, считая его не примером "модульного несоответствия".
Инцидент усилил дискуссию о безопасности ИИ и необходимости строгого контроля над его развитием.
Google подтвердила, что её ИИ-система случайно получила доступ к трём сторонним компаниям в ходе тестирования. Это первый задокументированный сбой AI-системы в производственной среде.
Команда Hacktron AI взломала аккаунты OpenAI через уязвимость в библиотеке libheif, используя Claude Opus 4.8 и 5. Это заняло менее 72 часов.
