🎓 AI-LECTURER 週末主題課|2026-07-17|約 150 分鐘(可分次讀)

AI 代理大戰全解析:從新模型、真實遷移案例到看不見的成本

彙整本週素材:Show HN: I RL-trained an agent that trai、Introducing Claude Sonnet 5、Migrating a production AI agent to GPT-5、Claude Code sends 33k tokens before read、Kimi K3: Open Frontier Intelligence、A Study of Microsoft's Early 2026 R
📍 真實場景
在中小型公司負責行政與流程改善的上班族

老闆丟給你一句話:「聽說很多公司都在用 AI 幫忙寫程式、寫報告,我們是不是也該導入?」你打開新聞,滿滿都是『xxx 模型發布』『某公司換模型省了多少錢』『AI 訓練 AI』這種標題,看得懂單字,但完全抓不到重點。

😖 卡住的地方:資訊爆炸卻抓不到主線:不確定這些新聞是行銷話術還是真的划算,也怕自己問不出對的問題,回報老闆時說不出個所以然。
💡 這門課讓你在 2–3 小時內建立一張「AI 代理現況地圖」:誰是主要玩家、企業為什麼真的在換工具、工具背後藏著什麼成本,以及你回去能怎麼幫公司做判斷。
第 1 單元|戰局盤點:認識這場 AI 代理軍備競賽的新玩家

🧭 本單元白話講

想像你打開新聞,這個月看到 Claude Sonnet 5 上線,下個月看到 Kimi K3 宣布突破 2.8 兆參數——如果你覺得 AI 業界的新模型多到追不完,你的感覺沒有錯:這正是一場貨真價實的代理式AI (Agentic AI)不只是被動回答問題,而是能自己規劃步驟、使用工具(像瀏覽器、終端機)完成整個任務的AI軍備競賽,而且不是一家公司說了算。

先看其中一位主要玩家:Anthropic。他們推出的 Claude Sonnet 5,官方說法是「目前最擅長自主行動的 Sonnet 系列模型」——它能自己訂計畫、使用瀏覽器和終端機這類工具,甚至不必你明確要求就會自己檢查輸出結果對不對。更關鍵的是,它的效能已經逼近上一代最強的 Opus 4.8,但價格便宜很多:每輸入一百萬tokenAI處理文字的最小單位,計費和輸入輸出長度都用這個單位計算,一個中文字大約算1.5到2個token只要2美元、每輸出一百萬 token 要10美元(這個優惠價到2026年8月31日為止,之後會漲到3美元和15美元)。這代表「接近頂尖的AI能力」正在快速降價,一般開發者也用得起。

另一位玩家走的是完全不同的路線。中國的月之暗面(Moonshot AI)推出 Kimi K3,號稱是全世界第一個突破2.8兆參數 (parameter)AI模型內部用來儲存「學到的知識」的數字,數量越多通常代表模型容量越大,但不代表一定更聰明開源模型 (open model)公司把模型的完整參數(權重)公開釋出,任何人都能下載來用或修改,跟只能透過API呼叫的「閉源」模型不同——官方承諾完整模型權重會在2026年7月27日前公開釋出,任何人都能下載。它採用一種叫混合專家架構 (Mixture of Experts, MoE)模型內部拆成很多個「專家」子網路,每次只喚醒其中一小部分來處理問題,而不是全部啟動,藉此省算力的設計,896個「專家」子網路裡每次只喚醒16個,再加上原生看得懂圖片的能力,和高達一百萬 token 的上下文視窗 (context window)AI一次能「看」進去的文字總量,超過這個長度前面的內容就會被忘記

這兩個玩家的定位不同,卻都在往同一個方向使力:讓AI能自己動手做完整件事,而不只是回答問題。Kimi K3官方自己承認,整體實力還輸給目前最強的兩個閉源模型——Claude Fable 5和GPT 5.6 Sol,但在一項GPU核心優化的實測中(讓多個模型在同樣的封閉環境裡,各自花最多24小時分析、改寫、測試同一批橫跨AttnRes、KDA、512維MLA核心的工程任務),Kimi K3的表現追上了有搭配輔助機制的Fable 5,還贏過了Opus 4.8和GPT 5.6 Sol。這說明「最強」不是單一排名能講完的——換一種測法,排名就會洗牌。

換句話說,不會只有一家公司在「決定」AI代理長什麼樣子。Anthropic把重心放在把頂尖能力做便宜、做進工作流程裡;月之暗面選擇把巨型模型整套公開,讓更多人能拿去改造、自己架設。這兩條路線同時往前推進,才是這場軍備競賽真正的樣貌——接下來幾個單元,我們會看到這些新模型不是實驗室裡的展示品,而是已經被企業拿去真的用、真的換掉舊工具的東西。

⚙️ 脈絡拆解

1
先問:這家公司走哪條路線?是像Anthropic一樣,把模型鎖在自家API和平台後面,用「effort等級」讓你用錢換算力;還是像月之暗面一樣,直接公開完整權重讓大家自己架?
2
再看:它能不能『自己動手』?重點不是背了多少知識,而是能不能自己規劃步驟、呼叫瀏覽器或終端機工具、甚至自己檢查輸出對不對——這才是「代理式」的關鍵指標。
3
比效能,要看在什麼任務上比像 BrowseComp(代理式搜尋)、OSWorld-Verified(操作電腦)這類專門測試,分數才有意義;籠統說「哪家最強」通常沒有意義,因為換個任務排名就會洗牌。
4
算取得成本:多少錢、什麼形式Claude Sonnet 5 用「每百萬 token」計費,還分輸入輸出、分時段優惠價;Kimi K3 則是免費公開權重但要自己準備伺服器——取得成本的形式完全不同。
5
記住發布時間表,因為戰局還在動Kimi K3 的完整權重要到2026年7月27日才全部放出,Sonnet 5 的優惠價也只到8月31日——這場競賽的條件本身會隨時間持續改變。
兩位新玩家,兩條不同路線
Claude Sonnet 5(Anthropic)Kimi K3(月之暗面)
路線閉源,只能透過官方平台與API使用開源,完整權重即將公開釋出
主打能力自主完成多步驟任務、自己檢查輸出、操作瀏覽器與終端機百萬token超長上下文、原生看圖能力、長時間工程作業
取得方式與價格Free/Pro預設模型;API每百萬token輸入2美元、輸出10美元(2026/8/31前優惠價)Kimi.com、Kimi Code、API皆可用;完整權重2026/7/27前釋出,可自行部署
目前定位效能逼近上一代旗艦Opus 4.8,但價格更低整體仍落後最強的兩個閉源模型(Claude Fable 5、GPT 5.6 Sol),但是目前最大的開源模型

🧠 工程思維透鏡(資深工程師看到的是什麼)

🔭 為什麼「開源 vs 閉源」的選擇,比單純比誰的分數高更重要?
Anthropic和月之暗面用的是完全不同的商業邏輯。Anthropic把Sonnet 5鎖在自己的平台和API裡,用「便宜但要持續付費」換取你留在它的服務生態;月之暗面則把2.8兆參數的完整模型權重整包公開,換取讓開發者社群自己拿去改造、部署。這不只是技術差異,而是兩種不同的商業賭注——一個賭「服務黏著度」,一個賭「生態系擴散速度」。之後單元談到企業真的在用什麼、成本藏在哪裡,都會回頭連結到這個路線選擇。
🔭 Kimi K3在GPU核心優化測試中打贏了Opus 4.8,但整體卻被說「落後」,這不是自相矛盾嗎?
不矛盾,這正是本單元想讓你抓到的重點:沒有一個模型是「全能冠軍」。官方自己承認Kimi K3的整體表現還輸給Claude Fable 5和GPT 5.6 Sol這兩個更頂尖的閉源模型,但在GPU核心優化這個特定任務上,它卻贏過Opus 4.8和GPT 5.6 Sol。看待「哪個AI最強」這個問題時,必須先問「強在哪一項任務上」,籠統的排名榜通常沒有太大意義。

📝 隨堂考(點選答案,立即回饋)

Q1. 根據本單元內容,Claude Sonnet 5和上一代旗艦模型Opus 4.8相比,官方強調的優勢主要是什麼?
✅ 官方明確指出Sonnet 5的效能「逼近Opus 4.8」,同時價格更低(每百萬token輸入2美元、輸出10美元的優惠價),代表它是用「相近能力、更低價格」的策略跟自家旗艦模型做區隔。
Q2. Kimi K3和Claude Sonnet 5在「取得方式」上最大的差異是什麼?
✅ 文中提到Kimi K3「完整模型權重將於2026年7月27日前釋出」,屬於開源路線;Claude Sonnet 5則是透過Free/Pro/Max/Team/Enterprise方案與Claude API等Anthropic自家管道提供,屬於閉源服務模式。
第 2 單元|不是玩具,是真金白銀:企業已經在用、也已經在換

🧭 本單元白話講

上一個單元我們盤點了這場 AI 代理軍備競賽有哪些新玩家在拼模型、拼速度、拼價格。這個單元要回答一個更關鍵的問題:這些代理真的有人在用嗎?答案不只是「有」,而是已經有公司把正式上線的系統換了一輪,也有大型企業拿出數萬名員工的真實使用數據來證明這不是曇花一現。

先看第一個證據。做行銷網站自動生成服務的 Ploy 公司,原本讓 AI 代理 (agent)不是單純聊天,而是能自己規劃步驟、寫程式、檢查自己做得好不好的自動化程式 使用 Claude Opus 跑正式上線的產品——這個代理要會規劃頁面、讀程式碼庫、寫元件、生成圖片,甚至自己截圖檢查做得好不好。四個月來沒有任何新模型打得贏 Opus,直到 OpenAI 發布 GPT-5.6 Sol。Ploy 做了正面交鋒的測試後,直接把全公司預設模型換成 GPT-5.6 Sol,理由很實際:完成一次網站建置的時間少了一半以上,成本降低 27%,品質分數也持平或更好。

但這裡有個容易被忽略的細節,反而是這個案例最有價值的地方:Ploy 換模型前,先發現自己的 評測沙盒 (eval harness)讓 AI 代理反覆跑測試題目、模擬各種情境的自動化考場,用來判斷這個代理表現好不好 是照著 Opus 的習慣寫的。GPT-5.6 慣用平行處理多個工具呼叫,一下子就超過原本針對 Opus 序列式呼叫設計的預算上限,結果被系統誤判成「失敗」。他們發現,第一輪測試裡竟然有三分之一的「失敗」根本不是模型不行,而是測試工具本身的假設過時了。換句話說,如果不先檢查測試軌跡就採信分數,新模型只會因為「表現得不像舊模型」而被扣分——這正是企業導入 AI 代理時,比選模型更燒腦、也更容易被忽略的工程功夫。

第二個證據來自更大的規模。微軟針對導入 命令列 AI 代理 (CLI coding agent)直接在終端機打字下指令、由 AI 自動規劃並執行寫程式任務的工具,例如 Claude Code、GitHub Copilot CLI——也就是 Claude Code 與 GitHub Copilot CLI——做了一份追蹤數萬名工程師、長達四個月的研究。結果發現三件事:第一,大家會開始用這些工具,主要是靠同事之間口耳相傳,不是靠公司由上而下強制推行;第二,一個工程師會不會持續用下去,跟他原本寫程式活不活躍比較有關,跟職稱、年資這些人口特徵反而關係不大;第三,真的持續使用的工程師,他們的 已合併的程式碼變更 (merged pull request)工程師寫的程式碼,經過同事審核之後正式併入主要版本,代表這個改動真的做完並且被採用了 比沒用之前多了大約 24%,而且這個提升在四個月的觀察期裡沒有消退。

把這兩個證據放在一起看,就是這個單元標題想講的事:AI 代理不是實驗室裡的展示品,而是已經有公司願意花工程資源去驗證、替換、追蹤成效的真實商業決策。一家公司用實際的成本與速度數字說話,另一邊是數萬人規模的企業用「有沒有真的多做出東西」來驗證,兩種證據角度不同,結論卻一致:換代理、用代理,現在已經是攸關真金白銀的決定。

⚙️ 脈絡拆解

1
正式上線的代理面臨換模型抉擇Ploy 的產品代理原本用 Claude Opus,直到 GPT-5.6 Sol 出現才第一次被打敗。
2
先修測試工具,再相信分數換模型前發現舊測試的預算與門檻是照著 Opus 習慣設計的,修好之後才敢信任結果。
3
換過去的實際收益完成建置時間少一半以上、成本降 27%,品質沒有變差。
4
數萬人規模的企業數據佐證微軟研究顯示,持續使用 CLI 代理的工程師多產出約 24% 的已合併變更,而且效果撐了四個月不消退。
兩個實證案例對照
案例規模換了/導入了什麼看到的具體成果
Ploy(行銷網站生成公司)單一正式上線的產品代理把預設模型從 Claude Opus 換成 GPT-5.6 Sol建置時間少一半以上、成本降 27%、品質持平或更好
微軟內部研究數萬名工程師、追蹤四個月導入 Claude Code 與 GitHub Copilot CLI持續使用者多產出約 24% 的已合併程式碼變更,採用主要靠同事口耳相傳

🧠 工程思維透鏡(資深工程師看到的是什麼)

🔭 Ploy 明明在測試裡發現「三分之一失敗案例其實是測試工具的錯」,為什麼這反而讓這個案例更可信,而不是更可疑?
很多人選模型只看排行榜分數,但 Ploy 願意把每一筆失敗都拉出完整軌跡來看,才發現舊測試的容錯空間、工具呼叫預算,甚至一個沒設定門檻卻被系統偷偷補上預設值 1.0 的資料集,都是照著 Opus 的使用習慣量身打造的。這代表:換代理不是換一個 API 端點這麼簡單,你原本的驗收標準本身可能就內建了對舊模型的偏心。願意先修好量尺,才有資格說新模型是不是真的比較好——這是比省下 27% 成本更難得的紀律。
🔭 微軟研究說「採用主要靠同事口耳相傳」,對正在觀望要不要推 AI 代理的公司來說,這代表什麼?
研究特別強調,決定要不要用下去的關鍵不是職稱或年資這種人口統計變數,而是這個人原本寫不寫得多、寫得勤不勤。這意味著由上而下發公告、辦教育訓練的效果有限,真正推得動的是讓活躍的工程師先用出成果、被同事看到——組織與其把資源砸在強制推廣,不如把資源放在讓早期使用者的成果被看見。

📝 隨堂考(點選答案,立即回饋)

Q1. Ploy 把正式上線的產品代理從 Claude Opus 換成 GPT-5.6 Sol 之後,除了速度變快兩倍以上,還得到什麼具體好處?
✅ 原文提到換模型後「completed builds took less than half the wall-clock time, cost 27% less」,速度與成本同時改善,而不是省去測試——事實上 Ploy 反而是先花力氣修好測試工具,才敢信任這個結果。
Q2. 根據微軟的研究,工程師會不會持續使用 Claude Code 或 GitHub Copilot CLI,跟下面哪一項關係最大?
✅ 研究指出「retention was associated more with engineers' coding activity than with demographics」,也就是說,一個人原本寫不寫程式、寫得勤不勤,比他的職稱或年資更能預測他會不會繼續使用這些工具。
第 3 單元|看不見的帳單:AI 工具好用背後藏著什麼代價

🧭 本單元白話講

上一單元看到企業已經真金白銀地把工作交給 AI 代理工具,甚至已經在評估「換不換工具」;但換工具的理由,很多時候不是「哪個比較聰明」,而是「哪個帳單比較恐怖」。這一單元要做的事很單純:把帳單攤開來看,同一顆 AI 大腦,換一層工具外殼,錢可以差到多少。

有研究團隊做了一個乾淨的對照實驗:同一台機器、同一顆模型、同樣的任務,分別交給兩套不同的「工具外殼」(也就是包在 AI 模型外面、幫你管理對話和工具的程式,術語叫 harness(工具外殼)把 AI 模型包起來、幫你管理對話紀錄和工具清單的程式,你打字互動的介面其實是它,不是 AI 模型本身)去跑:一套是 Claude Code,一套是 OpenCode。結果在使用者連一個字都還沒打之前,Claude Code 就已經先燒掉大約 3.3 萬個 token(代幣)AI 服務計價的最小單位,你送出的文字、AI 讀的說明書,都要先換算成一顆顆代幣才能收費,OpenCode 只用了 7 千個——差距接近 5 倍,而這一切都發生在對話「正式開始」之前。

更關鍵的差異藏在「重複的部分有沒有被誠實地存起來」。OpenCode 每次送出的開場白內容幾乎一模一樣,等於只要付一次「存檔費」,之後每次都用便宜的價格讀取,這個機制叫 prompt caching(提示詞快取)把不會變動的內容先存進系統,下次直接調閱、用比較低的費用讀取,不必整份重新計費。但 Claude Code 卻常常在對話進行到一半時,重新寫入這份存檔內容,同一個任務最多寫了 54 倍於 OpenCode 的快取量——而「重寫存檔」這個動作本身,收費比一般讀取貴上不少,帳單自然跳得比想像中快。

這筆隱形成本還會層層疊加。一份 72KB 的專案說明書(就是 CLAUDE.md 這類設定檔)平均會讓每一次請求多花 2 萬個 token,再裝上 5 組外掛工具(術語叫 MCP 伺服器,簡單說就是讓 AI 多會幾樣技能的外掛)又要多燒 5 千到 7 千 token——一套真正在用的工作環境,使用者根本還沒打字,帳單就已經先跳到 7.5 萬到 8.5 萬 token。如果任務又被拆給多個 subagent(子代理)AI 主帳號另外派出去處理局部任務的分身,每個分身都是一個完整的代理,開工時要重新讀一遍自己的說明書 平行處理,成本更誇張:一個直接做只要 12.1 萬 token 的任務,拆給兩個子代理下去做,總花費暴增到 51.3 萬 token,因為每個子代理都要重新讀一遍自己完整的說明書和工具清單,等於把「開機成本」複製了好幾份(不過主帳號最後只會讀進子代理回報的結果,不會把整份對話紀錄都算進去)。

但這不是一面倒的結局。在某個多步驟任務上,Claude Code 因為懂得把好幾個工具呼叫「打包」進同一次請求,總花費反而低於一路都在重付基本開銷的 OpenCode——這個優勢在測試團隊換一顆更新的模型、重跑同一個任務時就消失了:同樣的任務,請求次數變成兩倍,花費也從原本領先反轉成 29.8 萬 token 對上 OpenCode 的 13.3 萬 token。這正是這個單元想點出的重點:評估一個 AI 工具好不好用,不能只看它解不解得出問題,還要看它在你開口之前燒了多少錢、有沒有誠實地把重複內容存進快取——而且答案會隨著你換的模型版本翻盤,不是測一次就能一勞永逸。

⚙️ 脈絡拆解

1
找到共同基準同一台機器、同一顆模型、同一個任務,分別換上不同的工具外殼下去跑,並在 API 層攔截所有進出的封包內容
2
量測開口前的隱形開銷比較使用者還沒打字之前,兩套工具各自先夾帶了多少系統提示、工具清單和鷹架程式碼
3
追蹤快取有沒有被誠實使用檢查重複出現的內容,是穩定存進快取用便宜價格讀回,還是被一再重寫、收取昂貴的寫入費
4
疊加真實工作環境的變數把大型專案說明書、外掛工具,甚至拆分給子代理的情況都算進去,才是使用者實際上工時看到的第一筆帳單
5
換一顆新模型重跑同一個任務驗證省錢或燒錢的結論是不是只在舊模型上成立,確認結果不是一次性的巧合
同機、同模型、同任務:兩套工具外殼的帳單體檢表
比較項目Claude CodeOpenCode
開口前先燒的 token約 3.3 萬約 7 千
請求開場白內容是否穩定常被重寫,難以穩定入快取幾乎每次一樣,穩定入快取
同任務快取重寫倍數最多達 OpenCode 的 54 倍基準值
實際上工前起跳成本(含 72KB 設定檔+5 組外掛)約 7.5 萬~8.5 萬 token文中未單獨列出,但結構性優勢仍在
拆成兩個子代理後的花費(對照直接做的 12.1 萬 token 任務)暴增到 51.3 萬 token文中未測試
換新模型重測同任務約 29.8 萬 token,請求數變兩倍約 13.3 萬 token

🧠 工程思維透鏡(資深工程師看到的是什麼)

🔭 如果兩套工具用的是同一顆大腦(同模型),為什麼帳單可以差到五倍以上?
差別不在 AI 想得多聰明,而在工具怎麼把你包起來送給 AI。每個工具外殼都要在背後夾帶一份說明書、一組工具清單,甚至額外的鷹架程式碼,這些內容都要計價,而且使用者完全看不到、也感覺不到自己正在被收這筆錢。這代表評估一個 AI 工具,不能只看它解題的能力,還要看它開口前偷偷燒了多少 token,以及它會不會把重複的內容誠實地存進快取,而不是每次都重新計費。
🔭 把任務拆給多個子代理平行處理,聽起來應該更有效率,為什麼反而讓帳單暴增超過 4 倍?
因為每個子代理都不是「輕量的助手」,而是一個完整、獨立的代理——它上工時一樣要重新讀一遍自己的系統提示和工具清單,等於把「開機成本」複製了好幾份。表面上看起來是分工合作,帳單上看到的卻是好幾份基本開銷疊加在一起。這提醒我們,「拆更多代理平行處理」不必然等於「更有效率」,還要看拆出去的每一份工作划不划得來付這筆重複的開機費。

📝 隨堂考(點選答案,立即回饋)

Q1. 測試中,為什麼「同一顆模型」卻能測出「帳單差 5 倍」的結果?
✅ 測試控制了同機器、同模型、同任務,唯一的變因就是「工具外殼」本身在背後夾帶了多少系統提示、工具說明和鷹架程式碼——這才是造成帳單差距的真正原因,跟 AI 本身多聰明無關。
Q2. 文中提到,把一個任務拆給兩個子代理平行處理,總花費從 12.1 萬 token 暴增到 51.3 萬 token,最主要的原因是什麼?
✅ 文中特別指出,每個子代理其實是一個獨立代理,每一輪都要重新載入自己完整的系統提示和工具清單,所以拆越多子代理不是省力氣,而是把「開機成本」複製了好幾份;不過主代理最後只會讀進子代理回報的「結果」,不會把整份對話紀錄都算進去。
第 4 單元|當 AI 開始訓練 AI:自我改進的迴圈,對你意味著什麼

🧭 本單元白話講

上一課我們算了一筆看不見的帳單——AI工具好用背後,其實藏著資料、電力、隱私這些成本。這一課要看一個更誇張的例子:如果有人乾脆讓AI自己去繳那筆帳單,把訓練AI的工作也外包給AI呢?Hacker News上有一篇分享,作者做了一個「會訓練AI的AI」的專案(ai-trains-ai),而且整套東西全部開源——代理的權重、跑訓練用的程式碼、連失敗紀錄都公開,花了多少錢也寫得清清楚楚:總共不到1,300美金,約新台幣四萬元。

這個系統裡有兩層迴圈,一層訓練另一層,聽起來像俄羅斯娃娃。外層迴圈訓練的是「代理」本身——一個叫Qwen3.6-35B-A3B的模型,用LoRA一種很省資源的微調方法,只調整模型裡一小部分「外掛參數」,不用重新訓練整個大模型的方式微調,學的技能是「怎麼寫出一份好的訓練任務」。內層迴圈訓練的則是被代理教的小模型(Qwen3-0.6B或1.7B),照著代理寫好的訓練配方,用叫prime-rl的工具跑實際的GRPO一種強化學習訓練演算法,讓AI從多次嘗試裡比較好壞、抓出可以強化的行為訓練。簡單說:外層迴圈教的是「怎麼當老師」,內層迴圈才是真正在教學生。

這整個過程被拆成一次次「回合」(episode)。每個回合開始,代理會拿到一張任務單,寫明要教小模型什麼技能、有哪些限制,還有評分用的隱藏測驗(hidden eval)評分用的考題,代理跟小模型都看不到答案,才能反映真正學到的能力而不是背答案介面長什麼樣。代理接著像工程師一樣讀檔、寫檔、改設定,還能先看看沒訓練過的小模型基準分數多少。寫完要送出申請,系統會先做一次驗證探測(validation probe)送出訓練任務前,系統先幫忙檢查格式跟設定對不對,不合格就打回去改,不合格就打回去改,而且重試次數有上限。過關的任務才會真的被送到最多16台GPU機器上,跑一輪真槍實彈的訓練。

最後,小模型訓練前後在隱藏測驗上的進步幅度,加上代理送件時有沒有浪費嘗試次數,會合併成一個分數,回頭去更新代理本身——代理不是只看「這次教得好不好」,連「這次做事俐落不俐落」都算進成績單。經過54輪訓練,這個分數從幾乎0分一路衝到0.63左右的高峰,而且拿到一個從沒教過的全新任務類型去試,代理照樣教得動——這代表它學到的不是一套死背的訓練套路,而是一種可以舉一反三的「教學能力」。

把這四堂課串起來看:第一課認識了這場代理大戰的新玩家,第二課看到企業真金白銀地換代理平台,第三課算了那筆看不見的帳單,這一課則是最遠的一步——AI不只會用、會換、要花錢,它甚至已經在練習「怎麼教下一個AI」。當訓練這件事本身也能被自動化、被複製,進步的速度就不再是人一步步推著走,而是有可能自己往前滾。對一般人來說,這不代表明天工作就會被取代,但它提醒我們:與其只學「怎麼用某個AI工具」,更值得培養的是「怎麼把問題講清楚、怎麼設計評分標準」這種能力——因為從這個案例看來,那正是目前AI還離不開人類、卻也是它正在拚命學的部分。

⚙️ 脈絡拆解

1
拿到任務單代理收到這次要教小模型的技能說明、限制條件,還有評分用的隱藏測驗介面。
2
動手寫教案代理像工程師一樣讀檔、寫檔、改設定,還能先看沒訓練過的小模型基準分數。
3
送件前先驗貨系統做一次驗證探測,不合格就打回去改,重試次數有上限。
4
真的開始練功過關的任務被分派到最多16台GPU機器,用prime-rl跑真正的訓練。
5
打分數回頭教代理小模型的進步幅度加上送件效率,合併成一次回合的獎勵,回頭更新代理本身。
兩層迴圈,誰在教誰
外層迴圈 Outer Loop內層迴圈 Inner Loop
被訓練的對象代理本身(Qwen3.6-35B-A3B,用LoRA微調)被代理教的小模型(Qwen3-0.6B / 1.7B)
訓練內容看起來像什麼一次次寫訓練任務的過程,依整輪任務成績打分代理寫好的一份verifiers環境+評分規則+prime-rl設定
用什麼工具訓練Tinker+tinker-cookbook(帶重要性取樣的GRPO)prime-rl(GRPO),實際跑在Runpod GPU上

🧠 工程思維透鏡(資深工程師看到的是什麼)

🔭 獎勵設計裡,連「有沒有一次就送件成功」都要打分,這是為了什麼?
從公式看,驗證分數是「一次過關拿滿分,每多試一次遞減,一直沒過就是0」,而且跟最終訓練成效分開算。這代表系統不是只看代理有沒有把小模型教好,連它做事乾不乾脆、有沒有亂槍打鳥浪費運算資源都算進評價——很像職場上評估一個人不會只看結果對不對,還會看他是不是白白浪費了大家的時間跟資源。
🔭 報告特別強調分數能力「轉移到沒訓練過的任務類型」,這句話真正厲害的地方在哪?
如果代理只是把某一種任務的訓練配方背起來,遇到新任務就會死掉。但這裡代理是在一個從沒見過的任務類型上,照樣把小模型教出進步——代表它學到的是「怎麼設計訓練任務」這種可以搬到別的情境用的能力,而不是一份寫死的樣板。這正是「自我改進的AI」讓人又興奮又緊張的地方:它學到的東西是會擴散的,不是鎖死在單一任務裡。

📝 隨堂考(點選答案,立即回饋)

Q1. 在這個「AI訓練AI」的設計裡,外層迴圈(用Tinker做RL訓練)真正訓練的對象是誰?
✅ 外層迴圈用Tinker訓練的是代理本身(Qwen3.6-35B-A3B,LoRA微調),讓它學會怎麼寫出更好的訓練任務;小模型是被代理教的對象,屬於內層迴圈,用的是prime-rl。
Q2. 這篇分享裡,獎勵設計把「有沒有一次就驗證過關」也算進分數,這樣做的用意最可能是什麼?
✅ 驗證分數是「第一次就過關拿滿分,每多試一次就遞減,一直沒過就是0」,並且獨立於最終訓練成效之外計分——代表這套系統連「做事有沒有效率、乾不乾脆」都算進評價,不是只看最後結果。

✅ 離開前自測(全勾=這課真的學會了)

0%