Claude Code 也會犯錯
在經營 B2B 業務自動化 4 個月後，我產生了一個信念。「寫得好的代碼會一直正常運作」。
但上週，這個信念被打破了。
每天早上在 Windows 裝置上運作的自動化機器人之一突然開始不處理特定資料。起初我以為是網路問題。接著懷疑是輸入檔案格式改變了。但真正的原因出乎意料。
Claude Code 生成的代碼無法處理「邊界情況(edge case)」。當新買家的特殊資料格式進來時，它默默地跳過了那一行。
不是 Bug，而是盲點
用 AI 寫代碼雖然快速高效，但它無法預見我們沒想到的狀況。開發者會在「測試用例」階段捕捉到這個問題。
身為非開發者的我能做什麼呢？
1. 不把自動化視為「完全自動」
2. 每週新增一次樣本資料的目視檢查
3. 以簡單清單監控機器人的處理日誌
AI 只是工具
這起事件後，我們對待夢幻團隊機器人的觀點改變了。機器人很聰明，但在我們想不到的狀況中可能沉默以對。
最終，自動化的信任度來自人類的「定期抽查」。完美的自動化不存在。反而「以小規模人類介入防止大失敗的自動化」才更現實。
下次用 Claude Code 時，我會更謙虛地對待。