Anthropic представила FlashProve — відкритий дослідницький прототип, який за допомогою криптографії дає змогу підтвердити, що відповідь згенерувала модель із конкретно зафіксованими параметрами. Технологія має допомогти клієнтам перевіряти, чи справді сервіс використовує заявлену версію моделі, а не непомітно замінює її дешевшою або іншою системою.
Механізм не встановлює назву комерційного продукту сам по собі. Він підтверджує, що обчислення виконала модель, чиї ваги відповідають заздалегідь оприлюдненому криптографічному зобов’язанню. При цьому користувачеві не потрібно отримувати доступ до самих ваг моделі: достатньо перевірити математичний доказ, створений для конкретної відповіді.
Що вже протестували
За інформацією Anthropic, FlashProve протестували на відкритій моделі Meta Llama 4 Maverick із 400 млрд параметрів. Для одного токена ця модель залучає приблизно 17 млрд параметрів. У випробуванні використовували 4-бітну версію ваг, а докази генерувалися зі швидкістю близько 110 токенів за секунду на одному графічному процесорі NVIDIA H100.
Для запиту обсягом 1024 токени доказ займав близько 18,78 МБ. Його перевірка, за даними компанії, тривала приблизно 17 секунд на центральному процесорі з 24 потоками або 21 секунду в однопотоковому режимі. Для перевірки не потрібен графічний процесор, однак клієнт має завантажити криптографічне зобов’язання до ваг обсягом близько 6,5 МБ.
Водночас технологія поки що суттєво дорожча за звичайну генерацію відповіді. Anthropic оцінює додаткові витрати обчислювального часу приблизно у 66–77 разів для пакетного навантаження та до 94 разів за максимально протестованого навантаження. Окрема підготовча фаза перед створенням доказів також займає близько 39 хвилин.
Обмеження та можливе застосування
Поточна версія FlashProve працює з цілочисельними 4-бітними обчисленнями та жадібним декодуванням, коли модель щоразу обирає найбільш імовірний наступний токен. Вона не призначена для підтвердження всіх типів генерації, зокрема відповідей, отриманих із застосуванням випадкового вибору токенів або обчислень із рухомою комою. Максимальний контекст, який система наразі здатна підтвердити, становить 1024 токени.
Такий підхід потенційно може бути корисним не лише для передплатників моделей. Наприклад, компанія може перевіряти, чи код справді аналізувала конкретна система на наявність вразливостей, а незалежні аудитори — чи відповідають заяви постачальника про використану модель фактичним обчисленням. Водночас FlashProve не доводить, що провайдер не виконував паралельно інших завдань, зокрема навчання моделі, і не усуває можливих витоків даних через побічні канали.
Anthropic опублікувала технічний звіт, код інструментів для створення та перевірки доказів, специфікацію протоколу й формальні доведення. Компанія наголошує, що це проміжний дослідницький результат, а не функція, вже інтегрована до Claude або готова для масового комерційного використання. Незалежна перевірка заявленої продуктивності та криптографічних гарантій ще має відбутися.
