AI-LECTURER 速報課｜2026-10-26｜約 28 分鐘

不重新訓練也能追上頂級模型：讓多個分身用「共用筆記本」分工寫程式

取材：Five Qwen3.8-27B models match Fable 5 Using GVS5H Harness（Hacker News（AI 高人氣））
📍 真實場景
阿凱，32 歲，小型電商公司的後端工程師，公司預算很緊，每月 API 費用被老闆盯得很兇

他正在用一個付費頂級 AI 模型，幫公司自動修一批難纏的程式錯誤，一次丟一大題給模型處理

😖 卡住的地方：頂級模型很貴，一個月帳單讓老闆皺眉；改用便宜的小模型後，難題常常寫到一半就偏掉、前面的想法忘光，成功率掉了一大截
💡 這課會教你一種「不用訓練、不用換更貴模型」的作法：讓同一個小模型分成好幾個分身，靠一本共用筆記本分工拆題，成績有機會逼近頂級模型，成本卻只要一小部分

🧭 這到底是什麼（白話版）

這則素材介紹一個叫 GVS5H 的做法，論文稱為「帳本式零樣本自我編排」（ledger-based zero-shot self-orchestration）。拆開來看：零樣本不用先給範例、也不用另外訓練，直接開跑代表不需要重新訓練模型；「自我編排」是指同一個模型的多個全新實例同一個模型被叫出來的獨立一份，彼此不共享腦中記憶，自己分配工作、互相配合。

它們怎麼配合？靠一個共用檔案系統大家都能讀寫的同一個資料夾，像團隊共用的雲端硬碟，裡面放三樣東西：計畫（plan）、筆記（notes）、目前的解答（current solution）。這就是所謂的「帳本」（ledger）。每個分身上工時都是全新的、什麼都不記得，所以只能翻帳本，看前人做到哪、卡在哪。

成績評比用的是 LiveCodeBench 最新的 100 道高難度題目，指標是 pass@1出手一次就答對的比例，不能重考。結果：經過編排的 Qwen3.8 Flash Next 拿到 93.0%，超過 Fable 5 的 90.4%，費用只有 9%；可以自己架在本機的開源模型 Qwen3.8-27B 則從 66.8% 衝到 92.4%。

但要誠實看待：論文明說「不是每個模型都受惠」，有些模型成績沒變，甚至更差。作者分析對話紀錄後，認為進步來自兩件事：把大題拆小，以及讓上下文（上下文模型這一輪能看到的全部文字資料，像它的工作桌面）能長期保存在檔案裡。

🎯 為什麼值得你花時間

用組織方式換成本素材顯示，同樣追到頂級水準，編排後的 Flash Next 只花 Fable 5 的 9% 成本。對預算有限的個人與小團隊，這比等下一代更強的模型更實際。
開源模型可以自架、資料不外流Qwen3.8-27B 可以在本機運行，編排後從 66.8% 升到 92.4%，甚至略勝頂級水準。意味著公司機密程式碼不必上傳雲端，也能取得接近頂級的成果。
提醒我們：方法不是萬靈丹論文承認有些模型沒進步或退步。學會這課的重點不只是『用這招』，而是學會用實驗檢驗：這招對我手上的模型有沒有用。

⚙️ 它是怎麼運作的

1
接題與建帳本一位「管理者」分身拿到難題，先在共用資料夾建立帳本：一份計畫檔、一份筆記檔、一份目前解答檔。
▼
2
拆題管理者把大題拆成幾個小步驟，寫進計畫檔，例如：先理解題意、再想演算法、再寫程式、再找邊界案例。
▼
3
全新分身接力每個小步驟都叫出一個全新的分身。它什麼都不記得，只靠讀帳本了解狀況，做完後把結果與心得寫回筆記與解答檔。
▼
4
持續累積與修正後面的分身能看到前面踩過的坑，不會重蹈覆轍；解答檔被一路修正，逐步變好。
▼
5
交卷最後的解答檔內容就是答案，送去跑測試，算出 pass@1。
單次呼叫 vs 帳本式多分身編排（依素材中的指令與數字整理）
項目單次呼叫（single）帳本式編排（multiagent）
做法把整題一次丟給模型，答一次管理者拆題，多個全新分身靠共用檔案接力
記憶全塞在一次對話裡放在檔案（計畫、筆記、解答），可持續累積
Qwen3.8-27B 成績66.8%92.4%
成本單次便宜呼叫次數變多，但素材指出 Flash Next 編排後仍只要 Fable 5 的 9%

🔍 程式碼漫遊（點有 ● 的行看白話講解）

這是素材中重現實驗的指令（原文為 Linux 風格寫法，Windows 請改用 PowerShell 的 $env: 設定環境變數）。重點是看懂每個旋鈕代表什麼。

●export OPENAI_API_KEY=...
💬 設定API 金鑰你呼叫雲端模型服務的專屬密碼，不能外洩。在 Windows PowerShell 要寫成 $env:OPENAI_API_KEY="..."，且絕不要把真實金鑰貼進程式碼。
●LCB_RELEASE=release_v6
💬 指定用 LiveCodeBench 的第 6 版題庫，確保大家比的是同一批題目。
●MULTIAGENT_MODEL=openai:gpt-5.6-terra
💬 指定分身要用哪個模型。格式是『供應商:模型名』，所以可以換成 anthropic、dashscope、openrouter 等其他來源。
●ESCALATION_CLOUD_MAX_TOKENS=128000
💬 每次呼叫最多可輸出的字數上限（token 是模型計算文字量的單位），難題需要寬裕空間。
●ESCALATION_CLOUD_TIMEOUT=7200
💬 單次呼叫最久等 7200 秒（2 小時），因為難題思考很久。
●python escalation/run_bench.py --engine multiagent --only lcb --lcb 100 --parallel 8
💬 核心指令：用「多分身引擎」只跑 LiveCodeBench 的 100 題，同時開 8 條線平行跑。把 --engine 換成 single 就是單次呼叫的對照組。
●# 結果寫入 runs/results.json，工作區在 runs/ws/
💬 最後會印出 pass@1，詳細紀錄與每題的帳本資料夾都保留下來，方便你事後翻對話紀錄找原因。

🛠️ 動手做：帳本接力小實驗：為什麼「失憶的分身」靠筆記本也能解難題

  1. 任務是從一串數字中湊出目標和 24，每次只能挑出 2 個數字相加變成新數字，看如何找到可行解。
  2. 先按「單次硬解」：模擬一個沒有筆記本的分身，一口氣亂猜，通常很難成功。
  3. 再按「帳本接力」：每一位新分身只讀帳本，並把『試過但失敗的組合』寫回筆記，下一位就不會重複踩雷。
  4. 多按幾次重新開始，觀察兩種方式『平均嘗試次數』的差距，並想想：筆記本裡記的『失敗經驗』為什麼這麼重要？
👇 下面是活的，直接操作

🧠 工程思維透鏡（資深工程師看到的是什麼）

🔭 資深工程師會先問：進步來自「更聰明」還是「更好的記憶與分工」？
素材明確說模型沒有重新訓練，進步歸因於『拆題』與『持久的上下文』。這是典型的系統設計思維：當瓶頸不在能力而在工作流程（單次對話容易忘、容易偏），就改流程而非換更貴的引擎。權衡是：流程複雜度、呼叫次數與除錯難度都會上升。
🔭 為什麼要用「全新分身」而不是同一個長對話？
全新實例的上下文乾淨，不會被前面冗長、可能錯誤的推理拖累；代價是它什麼都不知道，所以必須把重要資訊『寫下來』。這等於強迫系統把隱性記憶變成顯性、可檢查的檔案——也讓人事後能審計每一步，是可觀測性的好處。
🔭 『有些模型沒進步或更糟』告訴我們什麼？
編排方法依賴模型本身能遵守計畫、正確讀寫檔案、有效拆題。能力不足的模型反而會把錯誤放大。所以工程上不能只信論文的最好數字，要在自己的模型與任務上做對照實驗（就像素材的 single vs multiagent 兩種引擎），再決定是否導入。

📝 隨堂考（點選答案，立即回饋）

Q1. GVS5H 所謂「帳本」裡主要放哪三樣東西？
✅ 素材指出，分身們透過共用檔案系統協作，裡面放的是計畫、筆記與當前解答。
Q2. 這個方法需要對模型做重新訓練嗎？
✅ 論文摘要明說是 training-free，改變的是模型之間的分工與記憶方式，不是模型本身。
Q3. 依素材，編排後的 Qwen3.8-27B 成績從多少變成多少？
✅ 素材寫明本機架設的開源 Qwen3.8-27B 從 66.8% 升到 92.4%。90.4% 是 Fable 5 的成績，25.6 是最大增幅百分點。
Q4. 下列哪個說法最符合論文對方法限制的描述？
✅ 素材清楚寫道「Gains are not universal」，部分模型不變或退步，所以要自己做對照實驗。

🃏 翻牌記憶卡（先想答案，再點開對答）

帳本式零樣本自我編排是什麼？點我翻面
不需訓練，讓同一模型的多個全新分身透過共用檔案（計畫、筆記、當前解答）拆題並接力解決問題。
論文歸因進步的兩個原因點我翻面
把問題拆解（decomposition），以及讓上下文持久保存在檔案中（persistent context）。
pass@1 是什麼？點我翻面
只出手一次就答對的比例，不能重試，是衡量程式題正確率的嚴格指標。
--engine single 與 --engine multiagent 的差別點我翻面
single 是單次呼叫的對照組；multiagent 由管理者拆題、多分身協作。比較兩者才能判斷方法對你的模型有沒有用。
這方法最大的警語點我翻面
效果不是普遍的：有些模型沒進步甚至更差，導入前必須自己實測。

✅ 離開前自測（全勾＝這課真的學會了）

0%