機器人為什麼愛裝懂
夢幻團隊的機器人一整天都被各種問題包圍。有一天我問了繁體文章要用的活動日期,機器人回答得非常有自信。查證之後才發現,那個日期在任何地方都找不到。比起答錯,「語氣太篤定」更讓人害怕。
實驗:只加一條規則
我只在提示詞最下方加了一行。
找不到根據時不要猜測,請寫「待確認」,並保持空白。
接著連續十天,我用手工計算在 Windows 裝置與 Mac mini 上運作的機器人回答中,疑似沒有根據而編造的次數。
• 加入之前的十天:9次
• 加入之後的十天:2次
• 標示「待確認」:14次(其中11次資料確實是空的)
意外的發現
減少的不只是編造的答案。「待確認」累積起來後,自然形成了一份「缺少哪些資料」的清單,照著清單補齊資料,下一週連標示本身也變少了。機器人留下的空白,等於變成了提醒我們寫功課的通知。
還沒解決的功課
有3次機器人過度小心,連簡單的問題也回覆「待確認」。所以我又補了一行例外:「官方文件裡寫明的內容可以直接回答」。
今日筆記
• 要求機器人給正確答案之前,先給它「說不知道的權利」。
• 空白不是失敗,而是訊號。
• 規則與其寫得長,不如把一行寫準。