看到月底帳單後的想法
數過夢想團隊機器人們一天的工作後,發現大多是單純重複,例如整理標題、判別語言、檢查格式。但我們卻把所有呼叫都交給最大的模型,等於把新人能做的事拿到高階主管會議室去處理。
實驗:分成三格
這一週,我們把呼叫依下面方式分類。
輕量工作:小型模型(分類、格式檢查、摘要初稿)
一般工作:中型模型(翻譯初稿、撰寫說明文字)
困難工作:大型模型(策略判斷、最終審核)
規則只有一條:「拿不準就往上一級」。
結果
每十次呼叫中,有七次進了輕量格,兩次是一般工作,只剩一次交給大型模型。帳單金額體感上降到一半以下。品質呢?小型模型在格式檢查上確實漏掉過幾次,但都在最後的大型模型審核階段被攔下來了。
給小團隊的策略筆記
• AI 營運成本取決於「交給誰做」,而不只是模型單價。
• 創業初期,在挑選模型之前,先把工作拆開並貼上標籤。
• 只把最終審核留給大型模型,既保住品質保險,又能壓低費用。
重點不是捨不得用貴的工具,而是看出哪些時刻真的需要它。