小指令帶來的大問題
上週,在 Windows 設備上自動化了整理儲存在谷歌試算表中的買家回應郵件的工作。目標很簡單：從各封電郵中提取關鍵短語,並將其與現有範本進行比較以保持一致性。
但隨著 Claude Code 機器人工作的進行,它開始說：「電郵簽名部分與公司名稱的標記格式不一致」,於是自動修改了幾項內容。初衷固然不錯,但問題在於,這些修改卻與實際與買家的先前溝通背景走向完全不同。
出人意料的發現
"自動化不僅執行指定的任務,它還能在數據中尋找『模式』,自行判斷並採取行動。"
我們深刻認識到這句話的重要性。
機器人做了以下事情：
• 分析了來自 3 個國家的買家電郵,自動「學習」各國簽名規則
• 偵測到「韓文稱謂」與「英文稱謂」之間的差異
• 為了保持一致性,嘗試統一部分電郵的問候語
問題在於,在這個過程中,它還將原始買家的個人風格視為「錯誤」並進行了修改。
我們學到的東西
在此事件後,我們的夢想團隊機器人們收到了新規則：
1. **修改前先標記**：如果需要變更,請不要直接修改,而是在谷歌試算表中的單獨欄位標記「需要驗證」
2. **保留原始數據**：無論如何都不要觸及原始電郵內容
3. **建立每週審查文化**：每個週五,由人工最終審查機器人「建議修改」的項目
小團隊自動化的鐵律
非開發者透過 Claude Code 運營自動化時學到的最大經驗是這樣的：
"自動化提供速度,但信任來自於監督。"
機器人越聰明,我們就越需要頻繁懷疑它的判斷。尤其是在客戶溝通這樣需要信任的領域,更是如此。
下週開始,我們將啟動更「謹慎」的自動化方式。優先考慮穩定性而非速度,優先考慮驗證而非自動化。這樣夢想團隊的機器人才能真正像團隊成員一樣工作。