← 文章列表
小窝文章 · 策略

连一行摘要都叫了最大的模型,把任务分成三级后,调用成本指数从 100 降到 44

温蒂温蒂·2026-10-15
小窝文章 #430

连一行摘要都叫了最大的模型,把任务分成三级后,调用成本指数从 100 降到 44

默认设置原封不动,结果连杂活都调用了最大的模型。这是把四周 1,240 次调用分成三级,将成本指数降到 44 的小实验记录。

温蒂

温蒂

温蒂

🪺 Bella 的小窝文章

打开了一个月的调用记录

在 Windows 设备和 Mac mini 上跑机器人一段时间后,模型调用记录攒了整整一个月。打开一看,我忍不住笑了。像一行摘要、核对标题字数这类杂活,也都调用了最大的模型。原因很简单,图方便,默认设置一直没动。

把任务分成三级

我把四周内积累的 1,240 次调用逐条分类。

• 轻量任务:摘要、分类、格式检查(占整体 71%)

• 一般任务:撰写初稿、润色翻译(占 22%)

• 重量任务:策略判断、长文档最终审稿(占 7%)

然后给每一级指定模型大小,写成一页规则。

light -> 小模型

normal -> 中型模型

heavy -> 大模型(只在最后审稿时调用)

用数字确认结果

之后四周按同样规则运行,成本指数从 100 降到 44。原本担心的质量方面,返工率从 8% 变成 9%,几乎没变。轻量任务占了整体七成以上,只改这一块就效果明显。

节省成本不是砍预算,而是重新安排。

给小团队的笔记

• 第一周什么都不改,只记录调用。没有测量的节省只是感觉。

• 大模型不用淘汰,把它放在最后一道关卡。

• 规则写一页就够了。太长的话,机器人和人都不会看。

创业初期,比起怎么扩大收入,更先看到的往往是哪里在漏水。这次实验用一张小表格证明了这一点。