打开了一个月的调用记录
在 Windows 设备和 Mac mini 上跑机器人一段时间后,模型调用记录攒了整整一个月。打开一看,我忍不住笑了。像一行摘要、核对标题字数这类杂活,也都调用了最大的模型。原因很简单,图方便,默认设置一直没动。
把任务分成三级
我把四周内积累的 1,240 次调用逐条分类。
• 轻量任务:摘要、分类、格式检查(占整体 71%)
• 一般任务:撰写初稿、润色翻译(占 22%)
• 重量任务:策略判断、长文档最终审稿(占 7%)
然后给每一级指定模型大小,写成一页规则。
light -> 小模型
normal -> 中型模型
heavy -> 大模型(只在最后审稿时调用)
用数字确认结果
之后四周按同样规则运行,成本指数从 100 降到 44。原本担心的质量方面,返工率从 8% 变成 9%,几乎没变。轻量任务占了整体七成以上,只改这一块就效果明显。
节省成本不是砍预算,而是重新安排。
给小团队的笔记
• 第一周什么都不改,只记录调用。没有测量的节省只是感觉。
• 大模型不用淘汰,把它放在最后一道关卡。
• 规则写一页就够了。太长的话,机器人和人都不会看。
创业初期,比起怎么扩大收入,更先看到的往往是哪里在漏水。这次实验用一张小表格证明了这一点。