老闆丟給你一句話:「聽說很多公司都在用 AI 幫忙寫程式、寫報告,我們是不是也該導入?」你打開新聞,滿滿都是『xxx 模型發布』『某公司換模型省了多少錢』『AI 訓練 AI』這種標題,看得懂單字,但完全抓不到重點。
想像你打開新聞,這個月看到 Claude Sonnet 5 上線,下個月看到 Kimi K3 宣布突破 2.8 兆參數——如果你覺得 AI 業界的新模型多到追不完,你的感覺沒有錯:這正是一場貨真價實的代理式AI (Agentic AI)不只是被動回答問題,而是能自己規劃步驟、使用工具(像瀏覽器、終端機)完成整個任務的AI軍備競賽,而且不是一家公司說了算。
先看其中一位主要玩家:Anthropic。他們推出的 Claude Sonnet 5,官方說法是「目前最擅長自主行動的 Sonnet 系列模型」——它能自己訂計畫、使用瀏覽器和終端機這類工具,甚至不必你明確要求就會自己檢查輸出結果對不對。更關鍵的是,它的效能已經逼近上一代最強的 Opus 4.8,但價格便宜很多:每輸入一百萬tokenAI處理文字的最小單位,計費和輸入輸出長度都用這個單位計算,一個中文字大約算1.5到2個token只要2美元、每輸出一百萬 token 要10美元(這個優惠價到2026年8月31日為止,之後會漲到3美元和15美元)。這代表「接近頂尖的AI能力」正在快速降價,一般開發者也用得起。
另一位玩家走的是完全不同的路線。中國的月之暗面(Moonshot AI)推出 Kimi K3,號稱是全世界第一個突破2.8兆參數 (parameter)AI模型內部用來儲存「學到的知識」的數字,數量越多通常代表模型容量越大,但不代表一定更聰明的開源模型 (open model)公司把模型的完整參數(權重)公開釋出,任何人都能下載來用或修改,跟只能透過API呼叫的「閉源」模型不同——官方承諾完整模型權重會在2026年7月27日前公開釋出,任何人都能下載。它採用一種叫混合專家架構 (Mixture of Experts, MoE)模型內部拆成很多個「專家」子網路,每次只喚醒其中一小部分來處理問題,而不是全部啟動,藉此省算力的設計,896個「專家」子網路裡每次只喚醒16個,再加上原生看得懂圖片的能力,和高達一百萬 token 的上下文視窗 (context window)AI一次能「看」進去的文字總量,超過這個長度前面的內容就會被忘記。
這兩個玩家的定位不同,卻都在往同一個方向使力:讓AI能自己動手做完整件事,而不只是回答問題。Kimi K3官方自己承認,整體實力還輸給目前最強的兩個閉源模型——Claude Fable 5和GPT 5.6 Sol,但在一項GPU核心優化的實測中(讓多個模型在同樣的封閉環境裡,各自花最多24小時分析、改寫、測試同一批橫跨AttnRes、KDA、512維MLA核心的工程任務),Kimi K3的表現追上了有搭配輔助機制的Fable 5,還贏過了Opus 4.8和GPT 5.6 Sol。這說明「最強」不是單一排名能講完的——換一種測法,排名就會洗牌。
換句話說,不會只有一家公司在「決定」AI代理長什麼樣子。Anthropic把重心放在把頂尖能力做便宜、做進工作流程裡;月之暗面選擇把巨型模型整套公開,讓更多人能拿去改造、自己架設。這兩條路線同時往前推進,才是這場軍備競賽真正的樣貌——接下來幾個單元,我們會看到這些新模型不是實驗室裡的展示品,而是已經被企業拿去真的用、真的換掉舊工具的東西。
| Claude Sonnet 5(Anthropic) | Kimi K3(月之暗面) | |
|---|---|---|
| 路線 | 閉源,只能透過官方平台與API使用 | 開源,完整權重即將公開釋出 |
| 主打能力 | 自主完成多步驟任務、自己檢查輸出、操作瀏覽器與終端機 | 百萬token超長上下文、原生看圖能力、長時間工程作業 |
| 取得方式與價格 | Free/Pro預設模型;API每百萬token輸入2美元、輸出10美元(2026/8/31前優惠價) | Kimi.com、Kimi Code、API皆可用;完整權重2026/7/27前釋出,可自行部署 |
| 目前定位 | 效能逼近上一代旗艦Opus 4.8,但價格更低 | 整體仍落後最強的兩個閉源模型(Claude Fable 5、GPT 5.6 Sol),但是目前最大的開源模型 |
上一個單元我們盤點了這場 AI 代理軍備競賽有哪些新玩家在拼模型、拼速度、拼價格。這個單元要回答一個更關鍵的問題:這些代理真的有人在用嗎?答案不只是「有」,而是已經有公司把正式上線的系統換了一輪,也有大型企業拿出數萬名員工的真實使用數據來證明這不是曇花一現。
先看第一個證據。做行銷網站自動生成服務的 Ploy 公司,原本讓 AI 代理 (agent)不是單純聊天,而是能自己規劃步驟、寫程式、檢查自己做得好不好的自動化程式 使用 Claude Opus 跑正式上線的產品——這個代理要會規劃頁面、讀程式碼庫、寫元件、生成圖片,甚至自己截圖檢查做得好不好。四個月來沒有任何新模型打得贏 Opus,直到 OpenAI 發布 GPT-5.6 Sol。Ploy 做了正面交鋒的測試後,直接把全公司預設模型換成 GPT-5.6 Sol,理由很實際:完成一次網站建置的時間少了一半以上,成本降低 27%,品質分數也持平或更好。
但這裡有個容易被忽略的細節,反而是這個案例最有價值的地方:Ploy 換模型前,先發現自己的 評測沙盒 (eval harness)讓 AI 代理反覆跑測試題目、模擬各種情境的自動化考場,用來判斷這個代理表現好不好 是照著 Opus 的習慣寫的。GPT-5.6 慣用平行處理多個工具呼叫,一下子就超過原本針對 Opus 序列式呼叫設計的預算上限,結果被系統誤判成「失敗」。他們發現,第一輪測試裡竟然有三分之一的「失敗」根本不是模型不行,而是測試工具本身的假設過時了。換句話說,如果不先檢查測試軌跡就採信分數,新模型只會因為「表現得不像舊模型」而被扣分——這正是企業導入 AI 代理時,比選模型更燒腦、也更容易被忽略的工程功夫。
第二個證據來自更大的規模。微軟針對導入 命令列 AI 代理 (CLI coding agent)直接在終端機打字下指令、由 AI 自動規劃並執行寫程式任務的工具,例如 Claude Code、GitHub Copilot CLI——也就是 Claude Code 與 GitHub Copilot CLI——做了一份追蹤數萬名工程師、長達四個月的研究。結果發現三件事:第一,大家會開始用這些工具,主要是靠同事之間口耳相傳,不是靠公司由上而下強制推行;第二,一個工程師會不會持續用下去,跟他原本寫程式活不活躍比較有關,跟職稱、年資這些人口特徵反而關係不大;第三,真的持續使用的工程師,他們的 已合併的程式碼變更 (merged pull request)工程師寫的程式碼,經過同事審核之後正式併入主要版本,代表這個改動真的做完並且被採用了 比沒用之前多了大約 24%,而且這個提升在四個月的觀察期裡沒有消退。
把這兩個證據放在一起看,就是這個單元標題想講的事:AI 代理不是實驗室裡的展示品,而是已經有公司願意花工程資源去驗證、替換、追蹤成效的真實商業決策。一家公司用實際的成本與速度數字說話,另一邊是數萬人規模的企業用「有沒有真的多做出東西」來驗證,兩種證據角度不同,結論卻一致:換代理、用代理,現在已經是攸關真金白銀的決定。
| 案例 | 規模 | 換了/導入了什麼 | 看到的具體成果 |
|---|---|---|---|
| Ploy(行銷網站生成公司) | 單一正式上線的產品代理 | 把預設模型從 Claude Opus 換成 GPT-5.6 Sol | 建置時間少一半以上、成本降 27%、品質持平或更好 |
| 微軟內部研究 | 數萬名工程師、追蹤四個月 | 導入 Claude Code 與 GitHub Copilot CLI | 持續使用者多產出約 24% 的已合併程式碼變更,採用主要靠同事口耳相傳 |
上一單元看到企業已經真金白銀地把工作交給 AI 代理工具,甚至已經在評估「換不換工具」;但換工具的理由,很多時候不是「哪個比較聰明」,而是「哪個帳單比較恐怖」。這一單元要做的事很單純:把帳單攤開來看,同一顆 AI 大腦,換一層工具外殼,錢可以差到多少。
有研究團隊做了一個乾淨的對照實驗:同一台機器、同一顆模型、同樣的任務,分別交給兩套不同的「工具外殼」(也就是包在 AI 模型外面、幫你管理對話和工具的程式,術語叫 harness(工具外殼)把 AI 模型包起來、幫你管理對話紀錄和工具清單的程式,你打字互動的介面其實是它,不是 AI 模型本身)去跑:一套是 Claude Code,一套是 OpenCode。結果在使用者連一個字都還沒打之前,Claude Code 就已經先燒掉大約 3.3 萬個 token(代幣)AI 服務計價的最小單位,你送出的文字、AI 讀的說明書,都要先換算成一顆顆代幣才能收費,OpenCode 只用了 7 千個——差距接近 5 倍,而這一切都發生在對話「正式開始」之前。
更關鍵的差異藏在「重複的部分有沒有被誠實地存起來」。OpenCode 每次送出的開場白內容幾乎一模一樣,等於只要付一次「存檔費」,之後每次都用便宜的價格讀取,這個機制叫 prompt caching(提示詞快取)把不會變動的內容先存進系統,下次直接調閱、用比較低的費用讀取,不必整份重新計費。但 Claude Code 卻常常在對話進行到一半時,重新寫入這份存檔內容,同一個任務最多寫了 54 倍於 OpenCode 的快取量——而「重寫存檔」這個動作本身,收費比一般讀取貴上不少,帳單自然跳得比想像中快。
這筆隱形成本還會層層疊加。一份 72KB 的專案說明書(就是 CLAUDE.md 這類設定檔)平均會讓每一次請求多花 2 萬個 token,再裝上 5 組外掛工具(術語叫 MCP 伺服器,簡單說就是讓 AI 多會幾樣技能的外掛)又要多燒 5 千到 7 千 token——一套真正在用的工作環境,使用者根本還沒打字,帳單就已經先跳到 7.5 萬到 8.5 萬 token。如果任務又被拆給多個 subagent(子代理)AI 主帳號另外派出去處理局部任務的分身,每個分身都是一個完整的代理,開工時要重新讀一遍自己的說明書 平行處理,成本更誇張:一個直接做只要 12.1 萬 token 的任務,拆給兩個子代理下去做,總花費暴增到 51.3 萬 token,因為每個子代理都要重新讀一遍自己完整的說明書和工具清單,等於把「開機成本」複製了好幾份(不過主帳號最後只會讀進子代理回報的結果,不會把整份對話紀錄都算進去)。
但這不是一面倒的結局。在某個多步驟任務上,Claude Code 因為懂得把好幾個工具呼叫「打包」進同一次請求,總花費反而低於一路都在重付基本開銷的 OpenCode——這個優勢在測試團隊換一顆更新的模型、重跑同一個任務時就消失了:同樣的任務,請求次數變成兩倍,花費也從原本領先反轉成 29.8 萬 token 對上 OpenCode 的 13.3 萬 token。這正是這個單元想點出的重點:評估一個 AI 工具好不好用,不能只看它解不解得出問題,還要看它在你開口之前燒了多少錢、有沒有誠實地把重複內容存進快取——而且答案會隨著你換的模型版本翻盤,不是測一次就能一勞永逸。
| 比較項目 | Claude Code | OpenCode |
|---|---|---|
| 開口前先燒的 token | 約 3.3 萬 | 約 7 千 |
| 請求開場白內容是否穩定 | 常被重寫,難以穩定入快取 | 幾乎每次一樣,穩定入快取 |
| 同任務快取重寫倍數 | 最多達 OpenCode 的 54 倍 | 基準值 |
| 實際上工前起跳成本(含 72KB 設定檔+5 組外掛) | 約 7.5 萬~8.5 萬 token | 文中未單獨列出,但結構性優勢仍在 |
| 拆成兩個子代理後的花費(對照直接做的 12.1 萬 token 任務) | 暴增到 51.3 萬 token | 文中未測試 |
| 換新模型重測同任務 | 約 29.8 萬 token,請求數變兩倍 | 約 13.3 萬 token |
上一課我們算了一筆看不見的帳單——AI工具好用背後,其實藏著資料、電力、隱私這些成本。這一課要看一個更誇張的例子:如果有人乾脆讓AI自己去繳那筆帳單,把訓練AI的工作也外包給AI呢?Hacker News上有一篇分享,作者做了一個「會訓練AI的AI」的專案(ai-trains-ai),而且整套東西全部開源——代理的權重、跑訓練用的程式碼、連失敗紀錄都公開,花了多少錢也寫得清清楚楚:總共不到1,300美金,約新台幣四萬元。
這個系統裡有兩層迴圈,一層訓練另一層,聽起來像俄羅斯娃娃。外層迴圈訓練的是「代理」本身——一個叫Qwen3.6-35B-A3B的模型,用LoRA一種很省資源的微調方法,只調整模型裡一小部分「外掛參數」,不用重新訓練整個大模型的方式微調,學的技能是「怎麼寫出一份好的訓練任務」。內層迴圈訓練的則是被代理教的小模型(Qwen3-0.6B或1.7B),照著代理寫好的訓練配方,用叫prime-rl的工具跑實際的GRPO一種強化學習訓練演算法,讓AI從多次嘗試裡比較好壞、抓出可以強化的行為訓練。簡單說:外層迴圈教的是「怎麼當老師」,內層迴圈才是真正在教學生。
這整個過程被拆成一次次「回合」(episode)。每個回合開始,代理會拿到一張任務單,寫明要教小模型什麼技能、有哪些限制,還有評分用的隱藏測驗(hidden eval)評分用的考題,代理跟小模型都看不到答案,才能反映真正學到的能力而不是背答案介面長什麼樣。代理接著像工程師一樣讀檔、寫檔、改設定,還能先看看沒訓練過的小模型基準分數多少。寫完要送出申請,系統會先做一次驗證探測(validation probe)送出訓練任務前,系統先幫忙檢查格式跟設定對不對,不合格就打回去改,不合格就打回去改,而且重試次數有上限。過關的任務才會真的被送到最多16台GPU機器上,跑一輪真槍實彈的訓練。
最後,小模型訓練前後在隱藏測驗上的進步幅度,加上代理送件時有沒有浪費嘗試次數,會合併成一個分數,回頭去更新代理本身——代理不是只看「這次教得好不好」,連「這次做事俐落不俐落」都算進成績單。經過54輪訓練,這個分數從幾乎0分一路衝到0.63左右的高峰,而且拿到一個從沒教過的全新任務類型去試,代理照樣教得動——這代表它學到的不是一套死背的訓練套路,而是一種可以舉一反三的「教學能力」。
把這四堂課串起來看:第一課認識了這場代理大戰的新玩家,第二課看到企業真金白銀地換代理平台,第三課算了那筆看不見的帳單,這一課則是最遠的一步——AI不只會用、會換、要花錢,它甚至已經在練習「怎麼教下一個AI」。當訓練這件事本身也能被自動化、被複製,進步的速度就不再是人一步步推著走,而是有可能自己往前滾。對一般人來說,這不代表明天工作就會被取代,但它提醒我們:與其只學「怎麼用某個AI工具」,更值得培養的是「怎麼把問題講清楚、怎麼設計評分標準」這種能力——因為從這個案例看來,那正是目前AI還離不開人類、卻也是它正在拚命學的部分。
| 外層迴圈 Outer Loop | 內層迴圈 Inner Loop | |
|---|---|---|
| 被訓練的對象 | 代理本身(Qwen3.6-35B-A3B,用LoRA微調) | 被代理教的小模型(Qwen3-0.6B / 1.7B) |
| 訓練內容看起來像什麼 | 一次次寫訓練任務的過程,依整輪任務成績打分 | 代理寫好的一份verifiers環境+評分規則+prime-rl設定 |
| 用什麼工具訓練 | Tinker+tinker-cookbook(帶重要性取樣的GRPO) | prime-rl(GRPO),實際跑在Runpod GPU上 |