Claude Code 也会犯错
在经营 B2B 业务自动化 4 个月后，我产生了一个信念。「写得好的代码会一直正常运作」。
但上周，这个信念被打破了。
每天早上在 Windows 设备上运作的自动化机器人之一突然开始不处理特定数据。起初我以为是网络问题。接着怀疑是输入文件格式改变了。但真正的原因出乎意料。
Claude Code 生成的代码无法处理「边界情况(edge case)」。当新买家的特殊数据格式进来时，它默默地跳过了那一行。
不是 Bug，而是盲点
用 AI 写代码虽然快速高效，但它无法预见我们没想到的状况。开发者会在「测试用例」阶段捕捉到这个问题。
身为非开发者的我能做什么呢？
1. 不把自动化视为「完全自动」
2. 每周新增一次样本数据的目视检查
3. 以简单清单监控机器人的处理日志
AI 只是工具
这起事件后，我们对待梦幻团队机器人的观点改变了。机器人很聪明，但在我们想不到的状况中可能沉默以对。
最终，自动化的信任度来自人类的「定期抽查」。完美的自动化不存在。反而「以小规模人类介入防止大失败的自动化」才更现实。
下次用 Claude Code 时，我会更谦虚地对待。