公司要讓員工各自訂 AI,還是買一包 API?一場分享會講清楚的判斷準則

8/6 晚上,阿峰老師和 SIRAYA 西拉雅科技的 Kent 做了一場線上分享會,主題是企業 AI 落地。

整場一小時,最多人有反應的不是哪個模型比較強,而是一個很土的問題

我到底要讓員工一個一個去訂 ChatGPT、Gemini,還是公司買一包 API 讓大家用?

這題阿峰老師自己也想過很久。答案不是「哪個便宜」,而是一個更根本的判斷。

完整直播回放(含章節)在上方,沒時間看完整場的話,下面是重點整理。

先搞懂這兩件事本質上不一樣

訂閱制,是吃到飽的邏輯——雖然現在多數 AI 訂閱也有額度上限,但概念上你付一筆固定的錢,用到額度為止。

API,是買額度的邏輯——pay as you go,用多少付多少,理論上沒有上限,但也沒有保護。

聽起來很像手機的「月租吃到飽」跟「預付卡」,但企業要考慮的點完全不同。

判斷準則:你的 AI 有沒有進入「不能斷線」的階段

Kent 給的分界線很清楚,阿峰老師覺得這是全場最實用的一段:

用訂閱制就夠的情況

  • 員工拿來聊天、查資料、整理文件
  • 工程師拿來寫程式
  • 內部的自動化流程
  • 簡單的資料查核

共同點:都是內部用、可以等、斷了不會出事。

該用 API 的情況

當你的 AI 已經進入服務階段,要對外、要穩定、要長時間運作。

Kent 舉的例子很直接:

你的 AI 客服跟外面的客戶聊到一半,總不可能跟他說「不好意思,我今天額度滿了,請你明天再來」吧?

阿峰老師補了一個更好懂的比喻——這件事跟電商網站的流量一模一樣

平常沒什麼人逛的網站,用一般方案就好。但如果你是雙 11 會一次湧進上千人的電商,訂閱制會直接被限流——因為平台會覺得你在攻擊它。這時候就得走 API。

所以先問自己一句話:這個 AI 斷線的時候,會不會有外面的人看到?

會,就走 API。不會,訂閱制先撐著。

判斷準則圖:問「這個 AI 斷線時會不會有外面的人看到」,不會用訂閱制、會就走 API
一句話判準:斷線的時候,會不會有外面的人看到?

一個真實的教訓:一天燒掉一個月的訂閱費

分享會裡最有畫面的,是年初「小龍蝦」(OpenClaw)那波。

當時大家發現可以拿 200 美金的訂閱方案去餵這隻 AI 代理當大腦,於是瘋狂地燒。原廠一開始沒有特別禁止,直到後來受不了,直接封掉第三方 App 接訂閱制這條路。

Kent 說得很白:

訂閱制對原廠來講是完全不賺錢的。 它就是想讓你用習慣、叼住了,後面再讓你去買 API 的 token。

於是「一堆龍蝦被養死了」。

而 Kent 有一個客戶,把原本跑在訂閱制上的系統搬到 API——

一天燒了 150 到 200 美金。

一天,就燒掉了原本一個月的訂閱量。那位客戶的反應是:立刻把小龍蝦關掉。

這件事的教訓不是「API 很貴」,而是:訂閱制的吃到飽,會讓你完全感覺不到自己實際用了多少。等你哪天被迫換成按量計費,帳單才會告訴你真相。

更反直覺的一段:用得多,不代表用得好

這是阿峰老師覺得整場最值得記下來的觀念。

Kent 說,以前矽谷那邊有個說法:誰的 token 消耗最多,誰就是最會用 AI 的人。

但現在反過來了。

你用得多不一定代表你用得好,相對的,你可能是很沒有效率地在浪費算力。 用得少、但能把價值榨到最大的人,才是企業老闆最想要的。

那具體怎麼做?Kent 的客戶已經在跑一套混合架構

比例 用什麼 處理什麼
約 20% 頂級的閉源模型 最複雜的推理、最難的問題
約 80% 便宜的開源模型 常規、重複性的任務,自動化跑

會這樣分,是因為現在的開源模型已經追上來了。Kent 原本說開源把閉源「打趴」,阿峰老師當場修正成更精確的說法——並駕齊驅。效能接近,但成本可以差到近十倍。

那為什麼大家不全部用開源?

門檻在私有化部署。要把開源模型下載下來、架在自己的環境裡穩定跑,對多數企業是真的痛苦。這也是為什麼會需要顧問或代理商。

20/80 混合架構圖:約 20% 給頂級閉源模型處理複雜推理,約 80% 給便宜開源模型跑常規任務
把任務分級,而不是全部丟給最貴的那個。

省錢的下一步:把任務分流給不同等級的模型

如果說「訂閱制還是 API」是第一層判斷,那第二層就是——就算走了 API,你也不該把所有任務都丟給最貴的模型。

Kent 說現在的局面變了:開源模型追上來了,而且便宜非常多。像月之暗面在 7 月底開源的 Kimi K3(2.8 兆參數,在前端程式碼競技場的評測甚至排在第一),效能已經逼近第一線的閉源模型,但價差可以到將近 10 倍

那為什麼大家不全部換過去?因為私有化部署有技術門檻。把模型拉下來自己部署,對多數企業是很痛苦的一件事。

所以他的客戶走的是混合架構

  • 約 2 成的 token 給頂級閉源模型,處理最複雜的推理
  • 其餘 8 成的常規任務,交給部署在私有雲上的便宜開源模型

阿峰老師當場追問了一個很實際的問題:那客服機器人能不能自己判斷?簡單的問題用便宜模型、難的才調貴的?

答案是可以,但架構要重新規劃。Kent 的客戶實際做法是:純文字對談交給輕量模型;一旦有圖片、影像傳進來,AI 判斷後再另外調用具備圖像辨識能力的模型。

判斷邏輯本身,要先設計好。

兩個真實案例:AI 落地長什麼樣子

那晚 Kent 分享了兩個案例(依保密協議,客戶均不具名)。

案例一:遊戲公司的數據分析 Agent

一家海外的遊戲公司。原本要看上週的玩家行為、儲值變化,得由營運團隊和數據分析師手動把報表一張張拉出來、再依判斷寫成報告——一份報告要花將近一個禮拜。

改成什麼?做了一個數據分析 Agent。主管想知道什麼直接問它,AI 自己去後台知識庫抓數據、產出分析。

值得注意的是 Kent 他們的角色:只給架構建議,系統是客戶自己的工程團隊建的。因為對企業來說,資料是最敏感的命脈,多數公司不會讓外部顧問直接碰——甚至對內部員工都有「零信任」的考量。

案例二:民調公司的智能外呼系統

這個就硬多了——從零到一花了將近一年,聯合四家廠商共同開發。

背景是民調訪員高齡化、年輕人不願意做這種每天打電話的工作,但選舉還是要做民調。

真正的難點不是做介面。Kent 說會 Python 的話,那種介面一個禮拜就能做出來。難的是:

  • 互動延遲——光是調延遲就花了三到四個月,還要在台灣建機房、跟電信商溝通
  • 市話頻寬極小,導致 AI 聽不清楚對方在講什麼
  • NCC 審核跑了一兩個月,因為主管機關會質疑「你用 AI 打電話,是不是詐騙集團」
  • 台語目前聽得懂但還不會說,客語則還做不到

成效:傳統一次民調約 15 到 25 萬,用這套系統實跑一輪,費用不到 10 萬。(此為該案例數字,成效因題目設計與執行方式而異。)

這套系統後來也接到旅宿業——用 AI 客服回答「幾點能 check-in、能不能升等」,並自動打電話做入住提醒。有趣的是旅宿業最在意的不是省錢,而是不想再讓值班人員把精力耗在重複問題上,因為現在旅宿業本來就缺人。

再往前看一步:Agent 跟 Agent 講話的時代

那晚聊到一個很好玩的推演。

阿峰老師要跟 Kent 約時間,未來可能是兩邊的 agent 先談,談不攏才回報給本人:「要不要我直接幫你打給他?」——確認雙方都 OK,才把電話接給真人。

這其實就是自動化的下一步。而它已經不是科幻,是上面那套外呼系統再往前一格而已。

還有一件事:API key 也會被盜刷

這點阿峰老師覺得很多人沒想到。

Kent 有客戶的 API key 被盜用,然後被瘋狂燒 token——就跟信用卡被盜刷一模一樣

如果你決定走 API,金鑰的保管就不再只是 IT 的事,而是財務風險。

台灣企業現在能做什麼

① 先問「會不會有外面的人看到」,再決定訂閱制還是 API

不要從價格開始想。先確認這個 AI 是內部工具,還是對外服務。內部的先用訂閱制跑,跑出成果再說。

② 如果已經在用訂閱制,去看一下你到底用了多少

多數訂閱方案後台都看得到用量。這個數字乘上 API 的單價,就是你未來的成本輪廓。現在看,比被迫搬家時才看便宜得多。

③ 把任務分級,不要全部丟給最貴的模型

先列出你團隊丟給 AI 的任務,分成「需要動腦的」跟「重複照做的」。光是把後者換成便宜的模型,成本就會差很多——這就是那個 20/80 的精神,不必等到有工程團隊才能開始想。

④ 走 API 就要把金鑰當信用卡管

誰有權限、放在哪裡、有沒有用量警示。這件事不做,省下來的錢可能一次就賠回去。

台灣企業現在能做的四件事:先問會不會有外面的人看到、去看用了多少、把任務分級、把金鑰當信用卡管
四件現在就能做的事,不必等有工程團隊。

最後,兩句想留給你的話

Kent 說:「AI 對我來講就是一張白紙,你想要它做什麼,它就可以做什麼,取決於你的想像力。」

阿峰老師想把這句話講得更精確一點:

對「會用」AI 的人來說,AI 是一張白紙。 不會用的人,只能用別人已經寫好的那張紙。

還有一句,是阿峰老師常跟學生講的:

不要只看 AI 的價格,要看 AI 的價值。

價格只會越來越低,這件事已經被驗證過一次了。阿峰老師小時候去網咖,一小時要 500 塊;為了上網,得拿棉被蓋住數據機,怕撥接的聲音吵醒爸媽;大學去外地比賽住飯店,還要自己買一條十公尺長的網路線,從走廊的網路孔一路拉進房間。

基礎建設一定會越來越便宜。 AI 也是。

所以如果你是企業主,阿峰老師的建議是:不要讓現在的價格限制了你的想像力。 不是叫你猛花錢,而是——先花一兩個月去摸清楚它的邊界。就算這一兩個月沒有創造出價值也沒關係,至少你知道了這條路走得通走不通。

而幾個月後,同樣的東西一定會更便宜。


下一場免費線上分享會

8/28(五)19:30 《一個人 × AI,也能撐起一間媒體公司?》
阿峰老師 × 馬驊 Alex Ma(痛點科技 PainPoint AI 創辦人)

這場談的是個人 IP:一個負責「內容怎麼用 AI 持續產出」,一個負責「流量怎麼自動成交」。線上、免費。

立即報名

如果你想把 AI 真的落地到公司裡,不管是團隊訓練還是系統導入,都歡迎透過 官網 或 ai@autolab.cloud 跟阿峰老師聊聊。