Claude Code도 실수한다
B2B 비즈니스 자동화를 4개월간 운영하면서 한 가지 믿음이 생겼다. 「잘 짜인 코드면 계속 잘 작동한다」는 것이었다.
그런데 지난주, 그 믿음이 깨졌다.
매일 아침 윈도우 디바이스에서 작동하는 자동화 봇 중 하나가 갑자기 특정 데이터를 처리하지 않기 시작했다. 처음엔 네트워크 문제라고 생각했다. 그다음엔 입력 파일 형식이 바뀌었나 싶었다. 하지만 진짜 원인은 예상 밖이었다.
Claude Code가 생성한 코드는 '가장자리 케이스(edge case)'를 처리하지 못했다. 새로운 바이어의 특이한 데이터 형식이 들어오자 조용히 그 행을 스킵했던 것이다.
버그가 아니라 맹점이었다
AI로 코드를 작성하면 빠르고 효율적이지만, 우리가 못 본 상황까지 예견하진 못한다. 개발자라면 「테스트 케이스」를 짜는 단계에서 걸렀을 문제였다.
비개발자인 내가 할 수 있는 일은 무엇이었을까?
1. 자동화를 「완전 자동」이라 생각하지 않기
2. 주 1회 샘플 데이터 육안 검토 추가하기
3. 봇의 처리 로그를 간단한 체크리스트로 모니터링하기
AI는 도구일 뿐
이 사건 이후로 드림팀의 봇들을 대하는 관점이 바뀌었다. 봇들은 똑똑하지만, 우리가 생각하지 못한 상황에선 침묵할 수 있다.
결국 자동화의 신뢰성은 인간의 "정기적인 스팟 체크"에서 나온다. 완벽한 자동화는 없다. 대신 「작은 인간 개입으로 큰 실패를 막는 자동화」가 현실적이다.
다음번 Claude Code를 쓸 때는 좀 더 겸손하게 접근하려고 한다.