Anthropic открыли исходники FlashProve для доказуемого инференса

FlashProve: новый шаг к прозрачности ИИ

Anthropic выпустили FlashProve — опенсорс инструмент для доказуемого инференса, который позволит проверяющим убедиться в подлинности ответов ИИ-моделей без раскрытия их весов. Исходный код и документация доступны на GitHub под лицензией Apache 2.0.

Как работает FlashProve

FlashProve использует zkSNARK (zero-knowledge succinct argument), позволяя провайдеру публиковать короткий отпечаток, связывающийся с набором весов модели. Это позволяет генерировать криптографическое доказательство, что конкретный вывод действительно получен от заявленной модели, сохраняя веса скрытыми.

На тестовой модели Llama 4 Maverick с 400 миллиардов параметров, один GPU NVIDIA H100 генерирует доказательства со скоростью около 110 токенов в секунду. Размер каждого proof составляет около 19 МБ на запрос в 1024 токена. Хотя это в 70–95 раз медленнее обычного инференса, доказательство можно верифицировать на CPU за десятки секунд.

Применение и значимость

FlashProve нацелен на повышение доверия в AI-сервисах. Он позволяет предотвратить подмену модели и дает возможность независимым аудиторам удостовериться, что тестируемая модель действительно соответствует заявленной. Инструмент может быть полезен регуляторам, клиентам и аудиторам для подтверждения обязательств и темпов развития ИИ.

Кто участвовал в разработке

FlashProve был создан Anthropic в сотрудничестве с EPFL, MIT и StarkWare. Среди участников проекта: Roy Rinberg, Alex Allain (Anthropic), Alessandro Chiesa, Giacomo Fenzi, Guy Weissenberg (EPFL & StarkWare), Miranda Christ, Ben Mayer (MIT), Rahul Dalal (Succinct).

Что это значит

Anthropic сделали важный шаг к прозрачности и аудиту ИИ-систем. FlashProve позволяет проверять подлинность ответов ИИ без раскрытия весов модели, что может изменить подход к разработке и проверке AI-технологий. Это открывает новые возможности для регуляторов и разработчиков ИИ в обеспечении надежности и прозрачности их систем.

Частые вопросы