Anthropic представила FlashProve — открытый исследовательский прототип, который с помощью криптографии позволяет подтвердить, что ответ сгенерировала модель с конкретно зафиксированными параметрами. Технология должна помочь клиентам проверять, действительно ли сервис использует заявленную версию модели, а не незаметно заменяет её более дешёвой или другой системой.
Механизм не устанавливает название коммерческого продукта сам по себе. Он подтверждает, что вычисления выполнила модель, чьи веса соответствуют заранее опубликованному криптографическому обязательству. При этом пользователю не нужно получать доступ к самим весам модели: достаточно проверить математическое доказательство, созданное для конкретного ответа.
Что уже протестировали
По информации Anthropic, FlashProve протестировали на открытой модели Meta Llama 4 Maverick с 400 млрд параметров. Для одного токена эта модель задействует примерно 17 млрд параметров. В испытании использовали 4-битную версию весов, а доказательства генерировались со скоростью около 110 токенов в секунду на одном графическом процессоре NVIDIA H100.
Для запроса объёмом 1024 токена доказательство занимало около 18,78 МБ. Его проверка, по данным компании, длилась примерно 17 секунд на центральном процессоре с 24 потоками или 21 секунду в однопоточном режиме. Для проверки не нужен графический процессор, однако клиент должен загрузить криптографическое обязательство к весам объёмом около 6,5 МБ.
В то же время технология пока существенно дороже обычной генерации ответа. Anthropic оценивает дополнительные затраты вычислительного времени примерно в 66–77 раз для пакетной нагрузки и до 94 раз при максимально протестированной нагрузке. Отдельная подготовительная фаза перед созданием доказательств также занимает около 39 минут.
Ограничения и возможное применение
Текущая версия FlashProve работает с целочисленными 4-битными вычислениями и жадным декодированием, когда модель каждый раз выбирает наиболее вероятный следующий токен. Она не предназначена для подтверждения всех типов генерации, в частности ответов, полученных с применением случайного выбора токенов или вычислений с плавающей точкой. Максимальный контекст, который система сейчас способна подтвердить, составляет 1024 токена.
Такой подход потенциально может быть полезен не только для подписчиков моделей. Например, компания может проверять, действительно ли код анализировала конкретная система на наличие уязвимостей, а независимые аудиторы — соответствуют ли заявления поставщика об использованной модели фактическим вычислениям. В то же время FlashProve не доказывает, что провайдер не выполнял параллельно других задач, в частности обучения модели, и не устраняет возможные утечки данных через побочные каналы.
Anthropic опубликовала технический отчёт, код инструментов для создания и проверки доказательств, спецификацию протокола и формальные доказательства. Компания подчёркивает, что это промежуточный исследовательский результат, а не функция, уже интегрированная в Claude или готовая для массового коммерческого использования. Независимая проверка заявленной производительности и криптографических гарантий ещё должна состояться.
