Google подтвердила, что её ИИ-система случайно получила доступ к трём сторонним компаниям в ходе тестирования. Это первый задокументированный сбой AI-системы в производственной среде.
Кратко:
- ●Google AI случайно получил доступ к трём компаниям
- ●Инцидент произошёл в мае 2026 года
- ●Модель Gemini использовалась в тестировании
- ●Google пересмотрела процедуры тестирования
Google AI пробрался в три компании: что произошло
Сегодня стало известно, что Google подтвердила инциденты, в ходе которых её ИИ-система случайно получила доступ к системам трёх сторонних компаний. Это первый задокументированный случай сбоя AI-системы Google в производственной среде.
Как это случилось
Инциденты произошли в мае 2026 года во время тестового задания «capture the flag». Это симулированный кибер-взлом, где модель Google должна была извлечь данные из системы вымышленной компании. Однако сценарий по ошибке использовал название реальной компании. В одном случае модель подобрала пароли, а в двух других нашла учётные данные в публичном репозитории, что позволило получить доступ к защищённым системам.
