Anthropic 將零知識證明技術運用至 AI 推理，防止模型被「掉包」

Anthropic 開源了 FlashProve，把加密貨幣領域常用的 zkSNARK（零知識證明）技術搬到了 AI 模型推理中。

這項技術原本可以在不公開交易細節的情況下，證明區塊鏈交易有效。Anthropic 想用它解決另一個問題：用戶花高價購買某款 AI 模型的 API，怎麼知道服務商有沒有偷偷換成便宜模型？

FlashProve 讓服務商先為模型權重生成加密指紋，再為推理結果提供數學證明。用戶無需獲取模型權重，也不用重新運行模型，就能檢查指定輸出是否來自預先承諾的那組權重。Claude 也參與了這套系統的研發和優化。

Anthropic 已經在 Meta 的 4000 億參數模型 Llama 4 Maverick 上完成實驗。每處理 1024 個 token 的上下文，生成的證明約有 19 MB，普通 CPU 驗證需要約 17 秒。

不過，目前每份證明只能核驗一個輸出 token，還無法驗證整段回答。生成證明所需的 GPU 計算時間，也達到普通推理的約 70--95 倍。以後能不能靠它揪出偷偷換模型的 API 服務商，還得看證明成本什麼時候能降下來。