💡 讀完你會知道 Databricks、Stripe、Uber 這些公司怎麼在不縮手的情況下把 AI 寫程式成本砍掉 7 成——而且方法不是「叫大家少用一點」
⚡ 一句話講清楚
這篇文章在講一件很多公司都撞上的牆:AI 寫程式工具真的有用,但用量一拉大,帳單會呈指數成長,最後可能吃掉 AI 帶來的效率紅利。Databricks 訪談了 Stripe、Coinbase、Uber、Ramp 等公司後,整理出一套「兩全其美」的做法:一邊讓所有員工都能無阻礙地用 AI,一邊把每人平均的總花費壓在一個大致固定的範圍內。
省最多錢的關鍵觀念,是分清楚兩種「前沿」。大家常聽到的 前沿模型(frontier model)目前業界公認最聰明、能力最強的 AI 模型,通常也最貴,是各家 AI 實驗室在拚的東西,適合拿去解數學證明、資安漏洞這種真正燒腦的難題。但日常寫程式(改格式、寫測試、抓錯字)根本用不到這種等級的聰明。真正該追的是 效率前沿(efficiency frontier)在「聰明程度剛好夠用」的前提下,找出單位成本最低的模型,而不是一味挑最強的——這條線進步的速度,比最強模型進步的速度還快,等於躺著等就能省更多。
要讓「省錢」自動發生,不能靠工程師自己每次手動挑模型,而是要在系統層架一道關卡。文章提到 Databricks 開源了兩個元件:一個是幫使用者統籌調度多個 AI 工具的 meta-harness安裝在使用者跟 AI 工具之間的中介程式,負責自動協調、切換不同的 AI 助手或流程(叫 Omnigent),另一個是 AI Gateway架在你的程式和多家 AI 廠商 API 之間的「總機」,能自動判斷把請求轉發給哪個模型最划算(叫 Unity AI Gateway)。有了這層總機,簡單任務自動轉去便宜模型,難任務才動用貴模型,員工完全感覺不到被限制,帳單卻真的降下來。
🏃 快速上手三步(今天就能做)
1
查帳單結構打開你現在用的 AI 寫程式工具(GitHub Copilot、Cursor、Claude Code 等)的帳務頁面,確認是「固定月費」還是「依用量計費(算 token)」。如果是依用量計費,代表你有明確的省錢空間可以下手;如果是固定月費,重點就該放在「有沒有用滿」而不是砍用量。
留意誰在觸發 AI 用量檢查你的 AI 用量紀錄裡,有多少比例是「工程師手動打字互動」,又有多少是「自動化流程長期在跑」(例如每次 commit 都自動觸發 AI 做程式碼審查)。文章點名這種非人類、常態性觸發的用量最容易在沒人注意時悄悄暴增,是成本失控的頭號地雷,看到這個模式就該優先設上限或改用便宜模型跑。
關鍵在於把「控制成本」這件事,從依賴每個工程師自律省著用,換成讓系統自動分流(也就是 AI Gateway 的角色)。與其要求員工自己精打細算選模型、增加使用摩擦,不如在背後架一層自動判斷機制:簡單任務自動轉去便宜模型、複雜任務才放行給貴模型。員工端感覺不到任何限制或額外步驟,但公司帳單卻實實在在往下降,這正是「無感省錢」的設計思路。