一句話結論
公司想讓 AI 代理接上 ERP、CRM、客服、請假系統一大堆工具,最大的問題不是「接不上」,而是接太多之後它會選錯、變慢、變貴。Google 這次的 Tool Retrieval,就是讓 AI 先看目錄,要用哪個工具再把說明書拿出來。目前是預覽版,不另外收費,官方沒給成效數字。
發生什麼事
Google 在 11/19(美國時間)於官方部落格宣布:Gemini API 的 Interactions API 推出 Tool Retrieval(工具檢索),目前是預覽版。
官方點出的問題很實際:當 AI 代理可以用的工具有幾十個、甚至上百個,每次對話都把所有工具的完整參數說明塞給模型,會讓輸入 token 變多、回應變慢,而且候選工具越多,選對工具的準確度越低。
它怎麼運作(白話版)
想像你給新進同事一本 300 頁的公司系統操作手冊,叫他每次接電話前先全部讀一遍。這就是現在很多 AI 代理的做法。
Tool Retrieval 改成:
- 先給目錄:模型看得到每個工具的「名稱和用途說明」,但看不到詳細參數。
- 要用才翻那一頁:模型判斷需要「退款」工具時,按名稱要求,系統才載入那個工具的完整說明。
- 同一次請求內完成:查工具、載入說明、呼叫工具,都在一次 API 請求裡跑完,不用自己蓋搜尋索引,Google 在伺服器端處理。
開發者要做的事很少:在工具清單加一個 tool_search,把不常用的工具標成 defer_loading: true(延後載入)就好。官方範例的建議是:常用的工具不要延後,其他幾十個再延後。

三個對企業有感的細節
1. 接 MCP 伺服器也能用
很多公司正在用 MCP(讓 AI 接上內部系統的標準接口)。官方說遠端 MCP 伺服器也支援:設定延後載入後,那台伺服器上的所有工具都改成「要用才載入」。一個 MCP 伺服器動輒幾十個工具,這點很實用。
2. 快取比較穩
被延後的工具說明不放在提示開頭,所以每回合的開頭內容比較固定,提示快取比較容易命中。長對話、多回合的客服或內部助理,比較吃得到快取的好處。
3. 也可以自己做搜尋
如果公司想自己決定「哪些工具給誰看」,可以選用戶端模式:由你的系統負責搜尋工具、回傳說明。代價是每次搜尋多一次往返;好處是對話進行到一半也能加新工具,權限控管也握在自己手上。
誰用得到、要花多少錢
| 項目 | 官方說法 |
|---|---|
| 狀態 | 預覽版,沒說何時正式上線 |
| 支援模型 | Gemini 3.6 以後,包含所有 Gemini 4 模型 |
| 介面 | 只在 Interactions API |
| 費用 | 不另外收費,照模型原本的 token 價格算 |
| 隱藏成本 | 開啟後會多一小段固定輸入 token;載入過的工具說明,之後整段對話都算輸入 |
要注意:官方這次沒有公布任何準確率、速度或省多少 token 的數字,也沒有客戶案例。官方自己的建議是「用你自己的流量去量」。所以看到別人說「省 80%」之類的數字,先打個問號。
企業導入 AI 代理,可以怎麼用這件事
企業導入 AI 代理很常見的狀況是:PoC 時只接 3、5 個工具,表現很好;一擴大到全公司,接了 40 個工具,AI 開始亂叫系統、回應變慢、成本暴增。Tool Retrieval 就是在處理這個階段的問題。
給三種角色的建議:
- IT/數位轉型主管:如果你們的 AI 代理工具數已經超過 20 個,或有接 MCP,值得排一個小測試:同一批真實問題,比較「全部載入」和「延後載入」的工具選對率、回應時間、每題成本。
- 還在 PoC 階段的團隊:先不用急。工具少於 10 個時,差異不大。但規劃架構時可以先把工具分成「常用」和「偶爾用」兩類,之後要切換很快。
- 用其他 AI 平台的公司:不用因為這個功能就換平台。重點是這個設計思路:AI 不需要一次知道所有事,只需要知道去哪裡找。這個原則在任何平台都適用,也是你檢查現有 AI 代理架構的好問題。

我的看法
這不是那種「新模型又刷新排行榜」的新聞,但對真的要把 AI 代理做進公司流程的人來說,比很多模型發布更實際。AI 代理從「示範好看」走到「每天上線」,卡關的常常就是這種工具一多就失控的問題。
還是預覽版,官方也沒給成效數字。我的建議是:有在做 AI 代理的團隊,排半天測一下自己的情境;沒在做的,記住這個思路就好。
工具再多,哪個能叫、哪個要先問人,規則還是要人來定。你是機長,AI 是機組人員。
資料來源
- Google 官方部落格〈Introducing Tool Retrieval in the Gemini API〉(blog.google,2026-11-19):運作方式、MCP 支援、快取、用戶端模式、計費與支援模型。
- Gemini API 官方文件〈Tool Retrieval〉(aistudio.google.com/docs/tool-retrieval)。
查證說明:① Google 官方部落格原文已用瀏覽器實際開過、逐段核對(2026-11-21)。② 官方沒有公布準確率、速度或省多少 token 的數字。③ 企業怎麼測、怎麼分工的建議與手冊比喻是我作為企業培訓顧問的意見;我與 Google 沒有商業合作或分潤關係。
如果你正在規劃 2027 年的 AI 課程,不管你是 HR、訓練主管還是老師,都歡迎找阿峰老師聊聊,一起把課排對:https://autolab.cloud/corporate-training/?f=blog
想定期拿到這種「先查證再下結論」的整理:我的電子報大約一到兩週一封 → startupforyou.substack.com
關於作者
黃敬峰(AI峰哥/阿峰老師),企業 AI 實戰培訓專家,服務客戶包含國泰人壽、工研院、士林電機、電通、城邦媒體等。聯絡方式:ai@autolab.cloud