📍 真實場景
在小型行銷公司兼職做自動化的行政人員小薇
她想讓 AI 自動整理客戶名單並呼叫試算表工具,但公司規定客戶資料不能上傳到雲端服務
😖 卡住的地方:能用的雲端 AI 不能碰資料,能放在本機的小模型又常常『叫錯工具』,自動化總是做到一半就卡住
💡 讀完你會知道這個本機模型強在哪、弱在哪,並能用三個步驟判斷它適不適合你的工作
⚡ 一句話講清楚
Liquid AI 發表了 LFM2.5-24B-A2B,這是一個設計給『AI 代理』使用的模型。AI 代理讓 AI 不只是回答問題,而是能自己決定步驟、去呼叫工具把事情做完的程式。它的特別之處在於名字裡的 24B-A2B:模型總共有約 240 億個參數,但每處理一個字,只會動用其中約 20 億個。這是靠 MoE(混合專家)把模型拆成很多位『專家』,每次只請最適合的幾位出手,而不是全員上陣 的架構做到的,所以跑起來比同樣大小的傳統模型快很多。官方數據是在 Apple M5 Max 上約每秒 184 個 token,單張 NVIDIA B300 顯卡最高每秒 21K 個輸出 token。
在工具使用的測試上,官方宣稱它是同級最佳:在 LiveClaw 拿到 48.09,對手 Qwen3.6-35B-A3B 是 38.19;在 BFCLv4(測 AI 會不會正確呼叫函式的考試)兩者幾乎打平,65.01 比 65.00;IFEval(測 AI 有沒有照指示做)則是 96.75。這個模型一律會先『想』再回答,也就是先寫出一段 思維鏈AI 在給出答案前,先一步一步寫下推理過程,因為每個 token 的成本低,所以多想幾步也不太吃力。上下文長度從 32K 提升到 131K tokens,詞表也擴大到 128K,對中文這類非拉丁文字更友善。
但請誠實看待:它並不是全面領先。在 SWE-Bench Verified(真實程式修 bug 的考試)上,它是 51.00,Qwen3.6-35B-A3B 是 66.20;GPQA Diamond(研究所程度的科學題)也是 74.42 對 83.69。這些都是官方自己公布的測試結果,實際表現仍要用自己的任務驗證。簡單說:它的賣點是『輕量、快、工具呼叫穩』,不是『什麼都最強』。
🏃 快速上手三步(今天就能做)
1
查:先讀官方原文與模型頁打開 https://huggingface.co/blog/LiquidAI/lfm25-24b-a2b,找到文中連到的模型頁,確認三件事:授權條款是否允許你的用途、提供哪些執行方式、建議的硬體需求。注意 24B 是總參數量,MoE 模型通常得把全部專家載入記憶體,『每次只用 2B』指的是運算量,不代表記憶體需求只有 2B,所以務必先看你的電腦記憶體夠不夠。
▼
2
試:用你自己的工具任務測 10 次不要只看排行榜。挑一個你真正會用的工作,例如『查詢試算表後回傳摘要』,定義 2 到 3 個工具,讓模型各跑 10 次。判斷標準:工具名稱與參數格式是否正確(10 次中至少 9 次對),以及中文指令是否被正確理解。同時記錄每次回應花多少秒,與你現有的雲端或本機方案對照。
▼
3
注意:別拿它去做它沒贏的事官方數字顯示它在寫程式修 bug(SWE-Bench 51.00 對 66.20)與高難度科學問答上落後 Qwen3.6-35B-A3B。如果你的主要需求是程式碼修復,先拿同一批題目做比較再決定。另外,它一律會先輸出推理過程,若你的流程只想拿到簡短結果,要在程式裡把思考內容與最終答案分開處理。
🧠 工程思維透鏡(資深工程師看到的是什麼)
🔭 『每次只啟用 2B 參數』在實際部署時省了什麼、沒省什麼?
省的是每個 token 的運算量與延遲,所以在筆電或單張 GPU 上速度表現好。沒省的是記憶體:全部 24B 參數仍需載入,通常要靠量化(壓縮權重精度)來塞進裝置。所以評估要同時看『速度』與『記憶體佔用』,不能只看啟用參數量。官方的 184 tok/s 是在高階的 Apple M5 Max 上量測,一般筆電的數字大概率會低。
🔭 代理型的基準測試分數,可以直接推論到我的工作流程嗎?
不能直接推論。從表格就看得出差異:同一個模型在 AutomationBench 領先很多(27.69 對 8.72),卻在 WebArena Verified(26.75 對 37.62)與 PinchBench(83.18 對 89.93)落後。代理任務高度依賴工具定義與提示詞的寫法,而且它的後訓練就是在 OpenClaw、Hermes Agent、Pi、OpenCode 這些代理框架內做強化學習,換成你自己的框架時表現可能不同。建議把它當成『值得測試的候選』,用你自己的任務做小規模驗證再導入。