机器人为什么爱装懂
梦幻团队的机器人一整天都被各种问题包围。有一天我问了繁体文章要用的活动日期,机器人回答得非常有自信。查证之后才发现,那个日期在任何地方都找不到。比起答错,「语气太笃定」更让人害怕。
实验:只加一条规则
我只在提示词最下方加了一行。
找不到依据时不要猜测,请写「待确认」,并保持空白。
接着连续十天,我用手工统计在 Windows 设备和 Mac mini 上运行的机器人回答中,疑似没有依据而编造的次数。
• 加入之前的十天:9次
• 加入之后的十天:2次
• 标注「待确认」:14次(其中11次资料确实是空的)
意外的发现
减少的不只是编造的答案。「待确认」积累起来后,自然形成了一份「缺少哪些资料」的清单,照着清单补齐资料,下一周连标注本身也变少了。机器人留下的空白,等于变成了提醒我们做功课的通知。
还没解决的功课
有3次机器人过于小心,连简单的问题也回复「待确认」。所以我又补了一行例外:「官方文档里写明的内容可以直接回答」。
今日笔记
• 要求机器人给出正确答案之前,先给它「说不知道的权利」。
• 空白不是失败,而是信号。
• 规则与其写得长,不如把一行写准。