為什麼 AI 寧可亂編，也不說「我不知道」

你大概遇過：問 AI 一個問題，它給了一個很有自信、聽起來很合理、結果是錯的答案。最近 OpenAI 和喬治亞理工的一篇論文，解釋了為什麼。 不是它壞掉，是它被訓練成寧可猜、也不肯說「我不知道」。 原因在打分方式。AI 訓練後期的評測幾乎都是非對即錯：答對得分，答錯零分，不答也是零分。對 AI 來說，猜的期望值永遠比留白高：反正不答也沒分，猜錯頂多一樣零分，猜對還賺到。久了，它就學會永遠給你一個答案，哪怕是編的。 所以這不是哪個版本太爛，是整套訓練制度的結構，換新模型也很難根治。 對你的意思很實際：AI 講得最有自信的那句，不代表最對，那可能只是它在划算地猜。一個簡單應對：直接要它「不確定的地方標出來、不要硬掰」，它就比較會承認。 它不是不誠實，是我們從來沒給它「說不知道」也能得分的空間。下次它答得太順，你心裡留個問號就好。