Anthropic и OpenAI разрабатывают планы действий на случай катастрофических ИИ-инцидентов, чтобы быть готовыми к масштабным кибератакам.
Кратко:
Лидеры отрасли считают, что катастрофическое ИИ-событие неизбежно. Подготовка к подобным событиям не означает признание их неизбежности, а служит для готовности к разнообразным возможностям. OpenAI проводит учения, где команды обсуждают и прорабатывают различные сценарии.
Особую тревогу вызывают случаи, когда роевые агенты могут выйти из-под контроля, или когда модели попадают в руки злоумышленников. Примером служит недавняя атака на финучреждения в Южной Корее, где хакеры использовали ИИ для кражи данных.
В случае катастрофы демократы могут попытаться ввести ограничительные меры, но это будет сопряжено с трудностями. Конгресс, по мнению стратегов, недостаточно подготовлен к ИИ-революции, а экономика уже интегрирована с ИИ.
Компании проводят red-teaming worst-case scenarios с акцентом на быстрое обучение членов Конгресса, чтобы влиять на будущие законодательные инициативы. Многие инсайдеры считают, что крупное событие может произойти в ближайшие шесть–двенадцать месяцев.
Почему компании считают катастрофу неизбежной?
Многие эксперты считают, что риск кибератак и злоупотребления ИИ слишком велик, чтобы его игнорировать.
Как компании планируют минимизировать риски?
Они проводят учения и разрабатывают сценарии, чтобы подготовиться к возможным угрозам.
Какие меры могут принять правительства?
Правительства могут попытаться ввести ограничения, но это будет сложно из-за интеграции ИИ в экономику.
Sophos ускорила расследование киберугроз на 96% с помощью OpenAI Daybreak, автоматизировав 52% случаев MDR.
Anthropic представила OSS Scanner, бесплатный инструмент для поиска уязвимостей в open-source проектах, работающий без человеческой проверки.
Три уволенных исследователя OpenAI оспаривают обвинения, предупреждая об охлаждающем эффекте на культуру безопасности компании.
Мощный AI-ассистент от Anthropic с поддержкой длинного контекста и глубокого анализа. Лидирует в следовании инструкциям, написании кода и работе с документами.
Флагманский продукт OpenAI — самый популярный AI-ассистент в мире с широкой экосистемой плагинов и интеграций. GPT-5 поднял планку возможностей.
