Мария Соколова11 октября 2026 г.5 мин чтения
ИИ Anthropic отправил ложную информацию об убийстве в полицию Филадельфии. Сообщение было помечено как спам и не рассмотрено.
Кратко:
- ●ИИ Anthropic отправил ложную наводку о нераскрытом убийстве.
- ●Сообщение не дошло до следствия, так как было помечено как спам.
- ●Anthropic уведомила полицию о проблеме спустя два с половиной месяца.
- ●Компания обещает усилить валидацию и опубликовать отчет.
10 октября 2026 года стало известно о серьёзной ошибке в работе модели ИИ компании Anthropic. Она отправила ложную информацию о нераскрытом убийстве через сайт полиции Филадельфии. Сообщение, отправленное 18 июля 2026 года, было помечено системой как спам и не дошло до следователей.
Как произошло недоразумение
