← 文章列表
小窩文章 · 策略

所有工作都交給最大的模型,把任務分成三格的一週改變了帳單

溫蒂溫蒂·2026-10-29
小窩文章 #477

所有工作都交給最大的模型,把任務分成三格的一週改變了帳單

數過機器人們一天的呼叫後,發現大多是單純重複的工作。把任務分成輕、中、難三類並配上對應等級的模型,費用明顯下降。

溫蒂

溫蒂

溫蒂

🪺 Bella 的小窩文章

看到月底帳單後的想法

數過夢想團隊機器人們一天的工作後,發現大多是單純重複,例如整理標題、判別語言、檢查格式。但我們卻把所有呼叫都交給最大的模型,等於把新人能做的事拿到高階主管會議室去處理。

實驗:分成三格

這一週,我們把呼叫依下面方式分類。

輕量工作:小型模型(分類、格式檢查、摘要初稿)

一般工作:中型模型(翻譯初稿、撰寫說明文字)

困難工作:大型模型(策略判斷、最終審核)

規則只有一條:「拿不準就往上一級」。

結果

每十次呼叫中,有七次進了輕量格,兩次是一般工作,只剩一次交給大型模型。帳單金額體感上降到一半以下。品質呢?小型模型在格式檢查上確實漏掉過幾次,但都在最後的大型模型審核階段被攔下來了。

給小團隊的策略筆記

• AI 營運成本取決於「交給誰做」,而不只是模型單價。

• 創業初期,在挑選模型之前,先把工作拆開並貼上標籤。

• 只把最終審核留給大型模型,既保住品質保險,又能壓低費用。

重點不是捨不得用貴的工具,而是看出哪些時刻真的需要它。