AI-LECTURER 速報課｜2026-11-07｜約 25 分鐘

594B 的大腦只用 17B 上工：Inkling 2 Small 的「省力」設計與它真正的成績單

取材：Inkling 2 Small（Hacker News（AI 高人氣））

📍 真實場景

林雅婷，台北的接案網站工程師，一個人扛三個客戶的電商網站

她正在讓 AI 助手自動改版客戶的購物車頁面，一改就是幾個小時，中途還要反覆看畫面、跑測試、修錯

😖 卡住的地方：她看到新聞說這個模型「總參數 594B」，直覺反應是「這麼巨大一定又貴又慢、我根本用不起」；但標題又說「只動用 17B」，她完全搞不懂這兩個數字到底哪個才算數，也不知道這個模型跟她的『長時間自主改版』需求有沒有關係

💡 這課會讓你看懂 594B 與 17B 各自代表什麼，知道它為什麼號稱擅長長時間自主寫程式，並學會用資深工程師的眼光讀懂廠商公布的成績表，而不是被數字牽著走

🧭 這到底是什麼（白話版）

Inkling 2 Small 是 Thinking Machines 推出的第二代模型，也是這家公司的第二代產品線的第一個成員。它是一個混合專家模型（Mixture-of-Experts，MoE）把一個超大的模型切成很多「專長不同的小專家」，每次處理一個字只叫出少數幾位專家來工作，其他專家先休息，總共有 594B 個參數模型裡面可以調整的數字旋鈕，學到的知識都存在這些數字裡；B 是 Billion，十億的意思，但每次真正派上用場的只有 17B。

你可以把它想成一間有 594 位專員的大公司：每接到一件小工作，只會點名其中 17 位來處理，其他人待命。所以「594B」是公司的總編制，「17B」才是每一次工作實際出動的人數。官方文章稱後者為 active（活躍）參數。

這個模型還有三個特點：能接收圖片輸入；有「variable effort」（可調整努力程度，也就是你可以決定它要想多久、多用力）；而且主打長時程（long-horizon）任務需要連續做很多步、花很長時間才能完成的工作，例如從頭做出一個網站，而不是回答一句話就結束的自主能力，像是寫程式、看圖修改網站、遊戲與 3D 設計。

目前它先放在 Tinker 這個平台上提供試用、微調與取樣，權重暫不公開。官方說打算在下週，於外部安全測試與紅隊測試（red-teaming）請專門的人扮演壞人，故意想辦法攻擊、誘騙模型出錯，提前找出安全漏洞完成後，用 Apache 2.0 授權釋出完整的開放權重把訓練好的模型數字檔公開給大家下載，你可以自己在電腦或伺服器上跑，也可以拿去再訓練。注意這是「打算」，在真的放出之前都還不是既成事實。

🎯 為什麼值得你花時間

訓練方式瞄準「真的做完事」而不是「答對題」官方說模型用強化學習（RL）讓模型自己嘗試、做對了給獎勵、做錯了給懲罰，反覆練習直到變強的訓練方式，在數十萬個長時程的程式任務上練過，而且不只看單元測試過不過，部分任務還有一個「代理式評分者」去評估模型是怎麼解題的、過程好不好。這代表它被訓練成『過程也要像樣』，這正是長時間自主工作最需要的特質。

17B 的出勤量，讓使用成本想像空間不同每次只動用 17B 參數，代表單次運算的工作量遠小於 594B 全部上工。素材沒有給出價格或速度數字，所以不能直接說它『便宜』，但雅婷這類需要長時間跑代理的人，確實該把『每步動用多少』當成評估成本的重要線索。

權重若如期開放，就能下載、微調、自己掌控Tinker 目前已經支援微調與取樣，官方說檢查點（checkpoint，訓練過程中存下來的模型快照）會隨權重釋出而開放下載，授權是寬鬆的 Apache 2.0。對想用自己的資料客製模型的人，這是從『租用』走向『擁有』的關鍵一步；但前提是外部安全測試順利完成，這點要等下週才知道。

⚙️ 它是怎麼運作的

更有效率的預訓練官方表示能力提升來自訓練每個環節的改進，第一步是比上一代更有效率的預訓練（pre-training）先讓模型讀大量資料，學會語言與基本知識的第一階段訓練。

▼

一次大型、統一的 RL接著做一輪大型且「統一」的強化學習，把程式、視覺、知識工作與推理放在同一次訓練裡，而不是各練各的。

▼

數十萬個長時程程式任務在多種代理框架（agent harness，包住模型、讓它能呼叫工具的外殼程式）與多種上下文壓縮策略（對話太長時如何濃縮記憶）下練習，並提升合成程式資料的品質。

▼

代理式評分者看過程許多任務除了單元測試，還有一個會評估『模型怎麼解題』的評分者，所以模型更會照指示、謹慎改動、不用被叫也會自己驗證成果。

▼

真實環境試跑與安全把關早期版本曾以 Fledge-Alpha 為名在 OpenCode 上測試真實寫程式表現；正式權重則要等外部安全測試與紅隊測試完成後才計畫開放。

官方公布的程式能力基準測試（Inkling 2 Small 與該列最高分比較，數字為廠商自行公布）

測試項目	Inkling 2 Small	該列最高分（持有者）
FrontierCode v2.0	25.4%（第二高）	28.5%（DeepSeek-V4.1-Flash-1017）
DeepSWE v1.1	72.1%（第二高）	77.0%（DeepSeek-V4.1-Flash-1017）
SWEBench Pro v2 (Hard)	86.3%（第二高）	88.2%（Kimi K3）
Vibe Code Bench v1.1	81.6%	87.7%（DeepSeek-V4.1-Flash-1017）

🛠️ 動手做：親手點名：594 位專員裡，每次只叫出 17 位

畫面上有 594 個小方塊，每一格代表 1B 個參數，合起來就是 Inkling 2 Small 的總參數 594B。
按「送出一個 token」：模型處理一小段文字（token）時，會亮起 17 格，代表這次真正動用的 17B。
連續多按幾十次，觀察『這一次動用的比例』始終只有約 2.9%，但『累積被用過的區塊』會越來越多。這說明不同輸入會叫到不同專家，整個大模型的知識都有機會被用上。
按「全部重來」歸零再試。注意：這個示範用隨機抽籤，只是為了讓你看見數量關係；真實模型是由學習出來的『路由器』決定叫誰，不是亂抽，官方文章也沒有公布它的專家切法，所以請把這個示範當成比例的直覺圖，不是內部結構的複製品。

👇 下面是活的，直接操作

🧠 工程思維透鏡（資深工程師看到的是什麼）

🔭 為什麼要把模型做成 594B 卻只用 17B？這個設計在換什麼？

資深工程師會先問：我換到了什麼、付出了什麼。換到的是：單次運算只動用一小部分參數，卻保有龐大的總知識容量。付出的（這是依 MoE 的一般原理所做的推論，素材沒有逐項說明）是：整個 594B 的參數檔仍然得被保存與載入，所以『算得省』不等於『放得省』，部署時要分開估算儲存與運算兩件事。這也是為什麼看到 17B 不能直接推論『小機器就跑得動』。

🔭 訓練時為什麼要加一個「看過程」的代理式評分者，不是只要測試通過就好？

只用單元測試當獎勵，模型會學到『讓測試變綠』，不一定是『把事情做對』，例如可能亂改、跳過驗證，甚至繞過測試。加入評分者看解題方式，是在對抗這種鑽漏洞的行為，換來的是官方描述的實際好處：會更謹慎地改動、不用叫就自己驗證。代價是評分者本身也會有偏誤、成本也更高，而且素材沒有說明評分者如何被驗證，這是我們該保留的疑問。

🔭 成績表怎麼讀才不會被騙？Inkling 2 Small 真的很強嗎？

先看事實：在四個列出的測試裡，它有三項是第二高、一項（Vibe Code Bench）81.6% 低於 87.7% 的最高分與 Kimi K3 的 85.0%，並不是第一名；SWEBench Pro 那一列還有兩個對手沒有數字（用『–』標示）。再看來源：這些全是廠商自己公布的結果，而且擷取的素材在表格最後一列被截斷，還有其他類別沒看到。所以比較誠實的結論是『在開放權重陣營裡屬於前段班的程式能力』，而不是『最強』；而且官方說的 Artificial Analysis 智力指數 31 分，也要等第三方獨立驗證再下定論。

🔭 「先封閉、下週再開放權重」這個節奏，背後的工程與風險考量是什麼？

官方把這稱為通往開放權重的安全路徑：先在受控的 Tinker 平台上提供，同時做外部安全測試與紅隊測試，確認沒有嚴重問題再用 Apache 2.0 公開。理由很實際：權重一旦公開就收不回來，下載的人可以拿去做任何事，所以要在『收不回』之前把風險找出來。對使用者的意義是：目前的試用資格與下週的開放權重是兩個不同階段，若你的計畫依賴下載權重，請等到真的放出來並看清楚授權條款再投入。

📝 隨堂考（點選答案，立即回饋）

Q1. Inkling 2 Small 的「594B 總參數、17B 活躍參數」意思最接近下列哪一項？

✅ 這是混合專家模型（MoE）的特徵：總參數是全部容量，活躍參數是每次實際動用的部分。

Q2. 官方說這個模型在 RL 訓練中使用「代理式評分者」，主要目的是什麼？

✅ 素材寫明：很多任務除了測試，還有評分者看模型『怎麼解』，而不只看結果通過與否。

Q3. 根據素材中的表格，下列說法哪一項正確？

✅ 它在 SWEBench Pro 是第二高（86.3% 對 88.2%）；FrontierCode 的 25.4% 低於 28.5%；Vibe Code Bench 上 Kimi K3 的 85.0% 才是第二高，它的 81.6% 並非前二。

Q4. 關於權重的取得方式，下列哪一項最符合素材描述？

✅ 素材明說目前是 closed weights，並計畫下週在安全測試與紅隊測試完成後以 Apache 2.0 釋出；這是計畫，不是已完成的事。

🃏 翻牌記憶卡（先想答案，再點開對答）

MoE 的「總參數」與「活躍參數」差在哪？點我翻面

總參數是模型全部容量（Inkling 2 Small 為 594B）；活躍參數是每次處理實際動用的部分（17B）。

Inkling 2 Small 用什麼方式強化長時程自主寫程式能力？點我翻面

在數十萬個長時程程式任務上做強化學習，跨多種代理框架與上下文壓縮策略，並加入會評估解題過程的代理式評分者。

為什麼不能只看廠商公布的基準測試就下結論？點我翻面

數字由廠商自行選擇與公布，可能缺少對手的分數或其他測試類別；應等獨立第三方驗證並對照自己的實際任務。

開放權重的時程與條件是什麼？點我翻面

官方打算在外部安全測試與紅隊測試完成後的下週，以 Apache 2.0 授權釋出完整權重；目前先於 Tinker 以封閉權重提供。

17B 活躍是否代表小機器就能跑 Inkling 2 Small？點我翻面

不一定。活躍參數只代表單次運算量；整個 594B 的參數仍需要被保存與載入（依 MoE 原理的推論），部署需求要分開評估。

✅ 離開前自測（全勾＝這課真的學會了）

我能夠用白話向別人解釋「594B 總參數、17B 活躍參數」各自代表什麼。我能夠說出 Inkling 2 Small 訓練中「代理式評分者」與單純單元測試的差別。我能夠看著官方基準測試表，指出它在哪些項目是第二高、哪些不是前二。我能夠說明目前（封閉權重）與下週計畫（Apache 2.0 開放權重）的差別，並知道後者還是計畫。我能夠說出為什麼廠商自己公布的成績表需要保留懷疑、等待第三方驗證。