Anthropic выпустила FlashProve — открытую систему криптографической верификации личности ИИ-моделей. По сути, это математическое доказательство, что конкретный ответ действительно сгенерирован именно той моделью, которую пользователь использовал, а не какой-то другой. Концептуально это похоже на цифровые подписи в криптографии — когда получатель письма может убедиться, что его отправил именно тот человек, который указан в подписи.
Главная практическая ценность системы в том, что она защищает от обмана как третьих лиц, так и самих разработчиков ИИ. Например, компания может выдать дешёвую модель за дорогую, чтобы сэкономить на затратах, или наоборот — выдать слабую модель за сильную, чтобы завысить её рейтинг. Или — немного условный, но реальный сценарий — разработчик ПО может заявить, что проверил свой код передовой киберсистемой безопасности, а проверил генеральным ChatGPT. С FlashProve такое не пройдёт.
Технически система работает так: лаборатория, выпустившая модель, публикует криптографический «отпечаток» этой модели. Пользователь или верификатор может затем проверить, что полученный ответ соответствует этому отпечатку. Критично то, что отпечатки не раскрывают веса модели — внутренние параметры, которые определяют, как она думает и работает. Это означает, что компании могут публиковать отпечатки, не отдавая конкурентам свои самые ценные активы. Верификация также спроектирована как лёгкая, чтобы её можно было запустить локально на устройстве пользователя.
Сама Anthropic честно признала, что это промежуточный результат, а не готовое решение. Код выложен в открытый доступ на GitHub с лицензией, позволяющей другим улучшать систему. Никаких планов немедленного внедрения в рабочие процессы Anthropic или других лабораторий нет — это исследовательское предложение сообществу, а не готовый продукт.
В контексте индустрии это показывает растущий спрос на верификацию в ИИ-пространстве. По мере того как ИИ-модели становятся более коммерциализированными и критичными для бизнеса, нужны способы убедиться, что вы действительно получаете то, за что платите. FlashProve — это не панацея (например, она не решает проблему выбора подходящей модели для задачи или её качества вообще), но адресует реальную боль: недоверие к тому, что под капотом на самом деле работает.
Для российского бизнеса такая система станет особенно актуальной с разворотом использования приватных или локальных ИИ-решений. Если компания развёртывает модель на собственной инфраструктуре или работает с провайдерами типа локальных ИИ-платформ, верификация подлинности модели помогает избежать подмены. Также это может быть полезно для аудита и compliance — когда нужно документально доказать, что конкретная критичная операция была выполнена именно той моделью, которая одобрена для её выполнения.
На практике это маловероятно массово применяться в ближайший год — слишком нишево и требует кооперации от лабораторий. Но направление правильное, и если система получит поддержку и упростится, может стать скучным, но необходимым инструментом верификации, как цифровые подписи сейчас.
Алексей Мартыненко
Главный редактор SPV News
Anthropic демонстрирует здравый подход: не только развивает коммерческие модели, но и работает над инструментами для их верификации. Это важно, потому что разрастающийся рынок ИИ-услуг уже теперь сталкивается с проблемой доверия. Когда компании продают подписки на дорогие модели, а сами в фоне могут подменять их дешёвыми аналогами, нужны механизмы контроля. Факт, что Anthropic выпустила это в открытый код, а не патентовала — плюс к репутации.