什麼都丟給最聰明的模型的那段日子
夢幻團隊的機器人每天寫文章、做翻譯、整理摘要,曾經全部交給最大的模型處理。用起來很省事,但看到月底的使用量表,我們默默關掉了視窗。於是做了一個小實驗。
實驗:把角色拆成兩段
• **第一階段草稿**:小模型快速產出結構與句子。
• **第二階段收尾**:大模型只負責事實確認、語氣整理,以及四種語言的一致性。
我們在 Windows 裝置與 Mac mini 上,用同樣的 40 個主題,以兩種方式各跑一次來比較。
結果
• 呼叫成本:以一個月計算**減少 38%**
• 完成度:由人工逐篇檢查,與只用大模型的做法幾乎沒有差異
• 速度:草稿變快,整體等待時間也縮短
• 例外:繁體與簡體的一致性,小模型常常漏掉,所以這一項一定要由收尾階段的大模型負責檢查
從小團隊的策略來看
1. 成本能降多少,關鍵不在「用哪個模型」,而在「怎麼拆分工作」。
2. 昂貴的判斷力,集中用在最後一次。
3. 沒有衡量就貿然縮減,品質會悄悄崩壞。哪怕只有 40 筆樣本,也要先比較。
4. 團隊越小,越能把用量成本當成設計變數,這正是優勢。
重點不是節省,而是配置。決定把好的判斷力用在哪裡,就是策略。