금지문만 쌓였던 지시서
드림팀 봇들에게 줄 지시서는 어느새 「~하지 마」로 가득 찼다. 「이모지 쓰지 마」「길게 쓰지 마」「추측하지 마」. 막을 건 막았는데 이상한 부작용이 보였다. 초안 스무 개를 훑어보니 여섯 개가 첫 줄부터 「죄송하지만 이모지는 사용하지 않겠습니다」 같은 문장으로 시작하고 있었다. 금지를 읽은 봇이 금지를 언급하는 것으로 글을 연 셈이다.
작은 실험: 같은 규칙, 문장만 바꾸기
규칙의 내용은 그대로 두고 표현만 바꿨다.
• 이모지 쓰지 마 → 강조는 굵은 글씨와 쉼표로 한다
• 길게 쓰지 마 → 문단은 세 문장 안에서 끝낸다
• 추측하지 마 → 모르는 값은 「확인 필요」라고 적는다
같은 조건으로 초안 스무 개를 다시 뽑았더니, 사과로 시작한 초안은 한 개로 줄었다. 나머지 열아홉 개는 바로 본론으로 들어갔다.
왜 먹혔을까
짐작이지만, 금지문은 봇에게 「무엇을 피할지」만 알려 주고 「그럼 뭘 쓸지」는 비워 둔다. 빈칸이 생기면 봇은 그 빈칸을 설명하는 문장으로 채운다. 대안을 적어 주면 채울 자리가 이미 있다.
바로 써먹는 점검 방법
1. 지시서에서 「하지 마」가 들어간 줄만 검색한다.
2. 줄마다 「그럼 대신 뭘 하라는 거지?」를 한 문장으로 적는다.
3. 대안이 안 떠오르는 줄은 이유가 불분명한 규칙이니 삭제 후보로 둔다.
세 번째 단계에서 열두 줄 중 세 줄이 지워졌다. 규칙은 짧아졌고, 봇은 덜 변명하게 됐다.
막는 말보다 갈 길을 알려 주는 말이 더 멀리 간다.