打開了一個月的呼叫紀錄
在 Windows 裝置和 Mac mini 上跑機器人一陣子後，模型呼叫紀錄累積了一整個月。打開一看，我忍不住笑了。像一行摘要、確認標題字數這類雜事，也都叫了最大的模型。原因很簡單，因為方便，所以預設值一直沒動。
把工作分成三級
我把四週內累積的 1,240 次呼叫逐筆分類。
• 輕量工作：摘要、分類、格式檢查（占整體 71%）
• 一般工作：撰寫初稿、潤飾翻譯（占 22%）
• 重量工作：策略判斷、長文件最終審稿（占 7%）
接著替每一級指定模型大小，寫成一頁規則。
light -> 小模型
normal -> 中型模型
heavy -> 大模型（只在最後審稿時呼叫）
用數字確認結果
之後四週照同樣規則運作，成本指數從 100 降到 44。原本擔心的品質方面，重工率從 8% 變成 9%，幾乎沒變。輕量工作占了整體七成以上，只改這一塊就效果顯著。
節省成本不是砍預算，而是重新配置。
給小團隊的筆記
• 第一週什麼都不改，只記錄呼叫。沒有量測的節省只是感覺。
• 大模型不用淘汰，把它放在最後一道關卡。
• 規則寫一頁就好。太長的話，機器人和人都不會讀。
創業初期，比起如何擴大營收，更先看見的往往是哪裡在漏水。這次實驗用一張小表格證明了這一點。