谷歌 Gemini Decision 1 發布:不做逐字生成,一次請求判 1000 個問題

2026-11-12 09:16:51

作者|冬梅(AI前線)

當整個 AI 行業還在比拼誰能生成更多 Token、誰的推理能力更強時,谷歌卻推出了一款不靠逐字生成答案的新模型。

剛剛,谷歌正式發布 Gemini Decision 1,同時推出由該模型驅動的 Gemini Decisions API。與傳統生成式大模型不同,這款模型專門用於快速決策,不需要逐個 Token 生成文字,而是通過單次前向傳播,對預先設定的候選答案進行評分。

谷歌 CEO Sundar Pichai 也在 X 平台發文介紹了 Gemini Decision 1 的主要能力。他寫道:

今天,我們在 Google AI Studio 中正式推出 Gemini Decisions API,由全新的 Gemini Decision 1 模型提供支持。

與傳統模型逐個 Token 生成文本不同,這款模型專門為封閉選項集中的決策任務而設計。它可以在單次處理過程中,對文本、圖像、音頻、視頻以及 PDF 中的最多 1000 個問題進行評分。

以下是幾個值得關注的細節:

· 支持三種決策類型:是 / 否判斷、多項選擇(最多 255 個選項),以及基於評分標準的打分;

· 每百萬輸入 Token 的價格僅為 0.10 美元,輸出 Token 費用為零,成本約為 Flash-Lite 的五分之一;

· 在多項基準評測中處於領先位置,同時具有最低的校準誤差。

谷歌內部團隊已經開始使用這項技術。

過去,當開發者希望 AI 判斷一封郵件是否屬於垃圾郵件,或者決定某項任務應該交給哪個 Agent 時,往往需要調用生成式大模型,再從模型生成的文本中提取結果。Gemini Decision 1 則省去了逐字解碼的環節。

開發者只需要提供輸入內容、待判斷的問題以及候選選項,模型就可以直接返回對應的判斷結果、概率和置信度。

這意味著,對於本來只需要一個分類、評分或選擇結果的任務,AI 不必再完成一整套文本生成流程。

按照谷歌公布的數據,Gemini Decision 1 可以在一次請求中處理最多 1000 個獨立問題,支持文本、圖像、音頻、視頻和 PDF 等多模態輸入,端到端延遲僅為 150~250 毫秒。

價格也比較激進:每百萬輸入 Token 僅需 0.10 美元,輸出 Token 不收費。在谷歌公布的同一組基準測試中,其調用成本較 Gemini 3.5 Flash-Lite 低近 5 倍。

更值得注意的是,這並不只是一款用於回答選擇題的模型。谷歌已經將其用於 AI 模型路由、Agent 工具選擇、產品設計以及安全檢測等場景,試圖讓它成為 AI 系統中專門負責判斷與決策的底層組件。

一次處理 1000 個問題,最多 255 個選項

根據 Google 發布的技術介紹,Gemini Decision 1 提供三類核心決策能力。

第一類是 Yes/No(二元判斷)。例如,判斷圖片中是否存在安全隱患,或者一段文本是否違反既定規則。模型會給出相應條件成立的概率。

第二類是 Multiple Choice(多項選擇)。開發者可以預設 2~255 個候選選項,模型不僅會選出最符合條件的答案,還會返回每個候選項經過歸一化處理的概率。

第三類是 Ordered Rubric(有序標準評分)。開發者可以自行定義不同等級的評分標準,讓模型對輸入內容進行評價,並返回連續加權分數及各等級的概率。

三種任務還可以在一次請求中混合執行。

谷歌提供了一個簡單的示例:給模型上傳一張辦公室茶水間台面的照片,並附上一段文字說明,要求它同時判斷桌面是否存在液體灑漏、應該採取何種清理措施,以及現場的嚴重程度。

傳統方式可能需要設計多個分類器,或者通過生成式大模型執行不同的提示詞任務。Gemini Decision 1 則可以在一次請求中完成這些判斷。

此外,模型支持最高 256K Token 的多模態輸入上下文。對於企業場景,這意味著開發者可以將通話錄音與客戶資料放在一起分析,或者結合保險索賠文件與現場照片作出判斷。

每項決策都會提供 0~1 的置信度,方便系統將不確定的結果交給其他模型或者人工審核。

Gemini Decision 1 的另一個競爭力,是速度與成本。

根據谷歌官方介紹,在涵蓋 Agent 路由、推理、排序和多模態理解的基準評測中,Gemini Decision 1 表現領先,並取得了最低的校準誤差。

在不超過 16K Token 的測試上下文中,其模型計算階段的中位延遲保持在 50~100 毫秒,端到端延遲約為 150~250 毫秒。即使單次請求包含的問題數量從 1 個增加到 100 個,延遲也基本保持平穩。

在官方使用的共同基準測試集上,Gemini Decisions API 的成本較通過 Interactions API 調用 Gemini 3.5 Flash-Lite 低近 5 倍。

9 項測試拿下 7 項第一,準確率最高 92.2%

谷歌此次發布 Gemini Decision 1,還公布了一份頗具看點的模型對比成績單。

與通常將通用大模型放在一起比較不同,谷歌此次選擇了三款競爭產品:OpenAI 的 GPT-6 Luna、專門面向分類決策的 TypeSafe Jev 1.14,以及自家的 Gemini 3.5 Flash-Lite。

從結果來看,Gemini Decision 1 在 9 項基準測試中拿下 7 項第一,在概率校準方面同樣領先,但在另外兩項測試以及總調用成本上,仍然存在競爭對手表現更好的情況。

在 JevBench 測試中,Gemini Decision 1 取得 92.2% 的準確率,超過 GPT-6 Luna 的 90.9%、TypeSafe Jev 1.14 的 90.0%,以及 Gemini 3.5 Flash-Lite 的 86.6%。

在 Amazon ESCI 商品搜索相關性測試中,Gemini Decision 1 取得 58.7% 的 Macro-F1 分數,比 GPT-6 Luna 高出 4 個百分點,比 Flash-Lite 高出 11.5 個百分點。

而在 New Yorker Caption 測試中,差距進一步拉大。Gemini Decision 1 取得 79.7% 的成績,GPT-6 Luna 為 68.4%,兩者相差 11.3 個百分點。該測試涉及對漫畫配文的理解和選擇,考驗模型的語境理解與候選內容判斷能力。

在醫學問答測試 PubMedQA 中,Gemini Decision 1 同樣排名第一,得分為 79.8%,高於 GPT-6 Luna 的 74.4%。

多語言測試 Global-MMLU-Lite 的結果也類似。Gemini Decision 1 取得 86.0%,GPT-6 Luna 為 79.6%,兩者相差 6.4 個百分點。

不過,谷歌並未實現全面領先。

在 Mind2Web Multimodal 測試中,TypeSafe Jev 1.14 以 86.8% 的成績排名第一,Gemini Decision 1 為 86.2%,落後 0.6 個百分點。

在考驗工具調用判斷能力的 When2Call 測試中,TypeSafe Jev 1.14 的優勢更加明顯,得分為 82.0%,Gemini Decision 1 為 79.9%。

這項結果尤其值得關注。工具選擇和調用時機判斷是 Gemini Decision 1 重點面向的 Agent 應用場景之一,但在這項測試中,專用決策模型 TypeSafe Jev 依然保持領先。

另外,在音頻理解測試 MMAU 和視頻理解測試 Video-MME 中,Gemini Decision 1 分別取得 71.8% 和 69.1%,均高於 Flash-Lite。

比準確率更值得關注的,是谷歌此次特別強調的概率校準能力。

在 Top-1 ECE(Expected Calibration Error,預期校準誤差)測試中,Gemini Decision 1 的校準誤差僅為 0.0250,而 GPT-6 Luna 為 0.0721,TypeSafe Jev 1.14 為 0.0494,Flash-Lite 則達到 0.2104。

換句話說,在這組評測中,Gemini Decision 1 的校準誤差比 GPT-6 Luna 低約 65%,比 Flash-Lite 低約 88%。

這項指標對 Agent 系統尤其重要。

例如,當一個 Agent 需要判斷某段代碼是否存在安全漏洞時,模型給出的不僅是"存在"或"不存在"的結果,還可能包含一個概率值。系統可以根據概率與實際正確率之間的關係,決定是否自動採取行動,或者交給人工進一步核查。

谷歌已經用上:Agent 路由延遲最高降低 40%

與一些僅展示基準成績的新模型不同,谷歌此次還披露了 Gemini Decisions API 在內部產品中的應用案例。

其中最值得關注的是 Gemini Notebook。

谷歌正在利用 Decisions API 充當實時模型路由器,根據用戶請求的複雜程度,選擇合適的模型檔位和思考強度。面對日常簡單問題,系統可以優先調用成本較低、響應更快的模型;遇到複雜推理任務,再將請求交給能力更強的模型。

谷歌稱,借助這種動態路由方式,日常查詢的延遲最多可以降低 40%。

這種設計與當前 Agent 系統的發展趨勢密切相關。一個 Agent 完成任務時,往往需要不斷判斷下一步動作,例如選擇哪個工具、調用哪個模型,或者決定是否需要人工介入。

如果每一個簡單決策都要交給大型生成式模型處理,系統就需要承擔額外的延遲和成本。專門的決策模型則提供了另一種選擇:將相對簡單、選項明確的判斷交給低延遲模型處理,把複雜任務留給通用大模型。

除了 Gemini Notebook,谷歌還披露了另外三個應用方向。

在 Google Stitch 中,新推出的 Rapid Canvas 實驗功能利用 Decisions API,在幾秒鐘內形成可互動的產品流程線框圖,並快速響應用戶通過語音或點擊發出的修改指令。用戶確認設計方向後,可以將頁面轉入完整的 Stitch 工作流進一步完善。

在 Google Labs 的 CC 產品中,Decisions API 被用於從超過 200 個 Emoji 選項中快速選擇合適的表情反應。在 Google Search 內部,谷歌還利用這一 API 構建 MCP 工具的安全檢測層,識別潛在的對抗性行為及內容。

參考鏈接:Gemini Decisions API 官方博客

最近融資

查看更多
$11M11-10
$47.5M11-10

近期發行Token

查看更多
12-31
12-31
SSaturnSTRN
12-31

𝕏 最新關注

查看更多
LLaura Shin關注了Den
11-11
11-11
11-11