小模型当子代理：10 月最值得改的一个使用习惯

10 月 7 日，Anthropic 发布 Claude Haiku 5.5，官方给出的数字是：平均运行成本比 Haiku 4.5 低约 75%，并提供可调的 effort 档位。

这个数字值得停下来看一眼。因为在此之前，把「摘要、分类、客服分流」这类活从大模型挪到小模型，账其实算不平——省下的钱往往抵不上质量下滑带来的返工。

现在这个前提变了。下面讲怎么用。

先搞清楚：什么活值得下沉

判断标准只有一条：这件事错了，你会不会立刻发现？

• 该下沉：给评论打标签、提取订单里的地址、从长文里抽要点、把用户反馈归类、把通话记录转成结构化条目。这些出错的代价是「返工」，不是「事故」。
• 不该下沉：最终发给客户的文案、要进合同的条款、需要多步推理才能得出的结论、任何一步错了会伤害到具体某个人的判断。

把这两类混在一起，是最常见的踩坑——你会发现省下的那点钱，全赔在返工上了。

怎么改：一个具体的做法

假设你现在是这样用 AI 的：

把这段会议记录整理成「决议 / 待办 / 负责人」三栏，输出表格。

改造思路是把它拆成两步，让便宜的部分先跑：

1. 第一步交给小模型：只做逐条抽取——每条待办是什么、谁负责、什么时候。输出用最朴素的格式，甚至不用表格。
2. 第二步才上大模型：把抽取结果喂进去，让它改写成给人看的纪要、判断哪些待办需要升级提醒。

这样做的收益不是「省钱」，而是上下文更干净：大模型不再需要从一大坨原始记录里自己找重点，它面对的是已经干净的 20 行结构化条目。质量通常会变好，不是变差。

effort 这个新参数怎么用

Haiku 5.5 提供可调的 effort 档位。这个参数的价值在于：它让你能用同一个模型覆盖不同难度，而不必在「快而糙」和「慢而准」之间二选一。

实操上可以这么切：

• 格式转换、字段抽取、明显的分类——最低档。这些任务没有推理深度可言，调高只是烧钱。
• 需要判断语气是否得体、有歧义需要选一种理解——中档。
• 需要权衡几个选项才能下结论——才值得开高档，而且这种活通常应该换更大的模型，而不是把小模型调到最高档。

一条容易被忽略的提醒

成本降低 75% 会诱发一个坏习惯：因为便宜，所以无脑多跑几遍。这是对的——但要有验收标准。

具体说：跑之前先想清楚你要验收什么。是「10 条待办里至少 8 条抽取正确」？还是「负责人字段不能猜，必须为空时不填」？没有验收标准的多跑几遍，只是把混乱放大三倍，成本降下来了，质量却塌了。

一个更划算的组合

如果你的活里有相当一部分是重复性的，本地小模型值得重新看一眼。本月 Underdog AI 发布的 Saluki 27B 是一个例子：它把 Qwen 3.8 27B 做了 2-bit 压缩，7.89 GB 的体积保留了原模型 96% 的基准表现，并且在工具调用任务上超过了全尺寸版本，采用 Apache 2.0 许可。

这类「小到能塞进本地跑、工具调用还够用」的模型，价值不在于替代云端大模型，而在于把确定性的搬运工作彻底移出云端——不花钱、不联网、不受速率限制。

什么时候不用改

如果你每个月的 AI 使用量还停留在个人聊天级别，没有批量任务、也没有重复劳动，那这套东西对你没有意义。省下几十块，不值得你改变已经顺手的工作流。

这个习惯值得建立的前提是：你已经在把 AI 当成一条流水线用，而不只是当个搜索框。

---

信息来源：Anthropic Claude Haiku 5.5 发布说明（2026-10-07）；Underdog AI Saluki 27B 发布（2026-10-09，经 HeadsUpAI 月度汇总转述）。

本文由本站编辑撰写，属玩法建议而非官方文档；具体参数以各家官方说明为准。