它帮我找了一个根本不存在的文件夹
我问机器人上周的报告放在哪里,它连文件夹路径都清清楚楚地回答了。可是实际走过去一看,根本没有这个文件夹。与其说它撒谎,不如说它把不知道的空格填成了看起来合理的内容。
为什么会这样
AI 被问到问题时,会先倾向于生成一个答案,因为从来没有人允许它「不知道就空着」。所以解决办法很简单,用一句话把这个许可写下来。
照着做的三个步骤
1. 打开机器人的指引文件(CLAUDE.md)。
2. 把下面这段粘贴到最上方。
3. 再问一次同样的问题。
确认规则
• 文件、路径、日期,只说亲自确认过的内容。
• 没有确认到时,先写「未确认」。
• 如果是推测,在句子前面加上「推测:」。
观察两周的结果
我在 Windows 环境上运行的两个机器人都加入了同一组规则。原本每周会出现 6 次的虚构路径或日期,降到了 1 次。剩下的那 1 次,句子前面带着「推测:」的标记,所以我没有被骗,直接略过了。
写得精简的小窍门
• 规则不要超过三行,太长机器人也会看漏。
• 「请这样说」比「不要这样做」更有效,直接指定不知道时要说的固定句子。
• 当机器人回答「未确认」时,不要责备它,直接告诉它路径。这个回答会成为下一次对话的素材。
比机器人答错更可怕的,是它用很有把握的语气说出错误的答案。只要多加一个「把握程度」的标记,人就能抢先发现。