為何AI會一本正經講錯 認識語言模型幻覺

甚麼是語言模型的「幻覺」

愈來愈多人用聊天機器人查資料、起草郵件或整理功課。問題是：對方語氣愈篤定，是否就代表內容愈可靠？OpenAI於2025年9月5日發表網誌《Why language models hallucinate》，並連結同日公開的學術論文，把「幻覺」界定為：語言模型自信地產生看似合理、但其實並不真實的陳述。換言之，問題往往不在「寫得不通順」，而在「寫得通順卻是錯的」。

網誌舉出可核對的例子：向一款常用聊天機器人詢問論文作者Adam Tauman Kalai的博士論文題目，系統先後給出三個不同答案，全部錯誤；再問其生日，亦給出三個錯誤日期。這說明「自信的語氣」與「事實正確」不能劃上等號。OpenAI亦坦言：ChatGPT仍然會出現幻覺；GPT-5尤其在推理時幻覺明顯減少，但幻覺仍會發生，並強調這仍是大型語言模型的根本挑戰之一。

為甚麼會發生：訓練方式與評測誘因

幻覺從何而來？網誌從預訓練說起：語言模型先透過大量文本預測「下一個詞」。與傳統機器學習不同，這些語句通常沒有逐句附上「真／假」標籤；模型主要接觸流暢語言的正面例子，再去近似整體分布。拼寫、括號這類有穩定規律的模式，隨着規模擴大較易掌握；但低頻率、任意性高的事實——例如某人的生日——難以單靠模式推得準，因而較易出現幻覺。

另一層原因在評測誘因。網誌指出，若大多數評測只按「答對率」計分，模型就像面對選擇題：不知道答案時亂估，仍有機會得分；寫「不知道」則必定零分。對只有一個正確答案的問題，回應可粗分為正確、錯誤，以及不作猜測的棄權。棄權屬於謙遜；但排行榜若只看準確率，錯誤往往比棄權更「划算」給分數。OpenAI的Model Spec亦寫明：表明不確定或要求澄清，好過自信地提供可能錯誤的資訊。

以GPT-5系統卡中的SimpleQA為例，網誌列出比較：gpt-5-thinking-mini的棄權率約52%、準確率約22%、錯誤率約26%；較舊的OpenAI o4-mini棄權僅約1%、準確率約24%、錯誤率卻約75%。準確率上後者略高，但錯誤（亦即幻覺相關的錯誤回答）明顯更高。策略性猜測可改善分數，卻推高錯誤。須強調：這些是OpenAI公開的評估比較，屬實驗室／美國發表數字，並非香港使用情境的預測，亦不可直接套用本地中小企或校園實況。

網誌結論亦澄清常見誤解：準確率永遠到不了百分之百，因為有些現實問題本質上無法回答；幻覺並非「必然無法消除」，因為模型可以在不確定時選擇棄權。要減少自信的錯誤，單靠另設一兩項「幻覺評測」不足夠，主流以準確率為主的計分方式也需要調整，以免繼續獎勵猜測。

香港中小企與學生可以怎樣核實

第一，要求模型列出可核對的來源連結，再親自打開核對；沒有可點開的出處，便不要把內容當作成品。

第二，對人名、日期、法例條文、價錢，以及醫學或法律建議，一律二次查證官方機構、法院、監管機構或權威學術網頁。

第三，同一問題用兩個不同工具，或以不同方式重問；若答案互相矛盾，便不要採信任何一方的「篤定說法」。

第四，重要對外文案、報價單、教學講義或對外公開資料，不可直接複製未經核實的生成內容；應先由懂該主題的人覆核。

第五，遇到模型表示不確定、要求補充資料，或拒絕給出具體事實時，把這視為有用訊號，而不是「不夠厲害」；盲目追問「一定要給答案」反而可能誘使亂估。

以上屬公開資料整理與人工智能／數碼素養教育說明，屬可能與趨勢討論，並非個別商業或投資建議，亦非法律、醫學或專業意見。美國或實驗室評估數字只供理解機制，實際影響因工具、題目與使用情境而異，不可直接套用香港。

參考資料

- OpenAI：Why language models hallucinate（2025年9月5日）
https://openai.com/index/why-language-models-hallucinate/
- arXiv：Why Language Models Hallucinate（Kalai et al.，2509.04664）
https://arxiv.org/abs/2509.04664
- OpenAI PDF：Why Language Models Hallucinate
https://cdn.openai.com/pdf/d04913be-3f6f-4d2b-b283-ff432ef4aaa5/why-language-models-hallucinate.pdf