你問 ChatGPT 一個問題，它回答得完整、有條理，甚至列出人名、日期和資料來源，看起來非常可信；但仔細查證後，才發現其中一些內容根本不存在。這就是常說的「AI 幻覺（AI Hallucination）」。
AI 幻覺最麻煩的地方，不是 AI 明顯回答「不知道」，而是錯誤內容可能寫得和正確答案一樣有自信。因此，不論用 ChatGPT、Gemini、Claude 或其他生成式 AI，只要工作涉及事實、數字與來源，都需要建立基本的查證習慣。
AI 幻覺是什麼？
AI 幻覺是指生成式 AI 產生了看似合理，實際上卻錯誤、沒有根據或不存在的資訊。
例如你問 AI：
請列出某位台灣作家在 2025 年出版的三本書，附上出版社和 ISBN。
如果 AI 沒有足夠資訊，卻自行組合出三個看似合理的書名、出版社甚至 ISBN，這就是典型的 AI 幻覺。
OpenAI 將語言模型的幻覺描述為「看似合理但錯誤的陳述」，並指出即使模型能力持續進步，幻覺仍然是大型語言模型尚未完全解決的問題。
所以第一個重要觀念是：AI 回答流暢，不代表內容正確。
為什麼 ChatGPT 會產生 AI 幻覺？
要理解 AI 幻覺，可以先把 ChatGPT 想成一個非常擅長根據上下文產生內容的系統。
大型語言模型經過大量文字資料訓練，學習語言中的模式，並根據目前的內容預測接下來適合出現什麼。它不是一個把所有世界知識逐筆存進資料庫，再查出唯一正確答案的系統。
這也是為什麼它有時能產生「很像正確答案」的錯誤資訊。
OpenAI 在研究 AI 幻覺時也指出，問題不只出現在模型預訓練階段。傳統模型評估如果只獎勵「答對」，卻沒有適當獎勵模型承認不確定，就可能形成一種猜答案的誘因。
白話來說，有點像考試遇到不會的選擇題：空白一定沒分，猜一個至少還有答對的可能。
但對使用者而言，AI 猜錯的代價可能比它直接說「不知道」高很多。
哪些問題最容易遇到 AI 一本正經答錯？
不是每次使用 AI 都需要高度戒備。
如果你只是要求「把這段文字改得比較口語」，重點是文字品質，通常沒有太多外部事實需要核對。
真正需要提高警覺的是以下情境。
1. 要求非常精確的冷門事實
例如某人的生日、冷門論文資料、特定產品早期版本規格，或很少被公開記錄的歷史細節。
資訊越稀少，越不能因為 AI 給出一個完整答案就直接相信。
2. 要 AI 提供網址、論文或資料來源
這是工作與寫報告時特別容易踩到的坑。
AI 可能知道某個機構、作者或研究領域真的存在，卻把這些真實元素組合成一篇不存在的論文或網址。
因此，看到 AI 提供來源時，至少要實際打開來源，確認：
頁面真的存在，而且頁面內容真的支持 AI 的說法。
「有附來源」和「來源能證明這個答案」是兩件不同的事。
3. 問最新價格、政策與產品功能
AI 工具更新速度很快。訂閱價格、免費額度、功能開放範圍、模型名稱與使用限制，都可能改變。
這類問題應優先查官方最新文件，而不是只依賴模型本身記得的資訊。
4. 要 AI 根據不存在的前提繼續回答
假設你問：
某公司去年推出的 ABC 功能為什麼失敗？
問題本身已經暗示「ABC 功能存在，而且失敗了」。
如果這個前提本來就是錯的，AI 又沒有先檢查，就可能順著問題繼續解釋，最後產生一整段看似合理的虛構分析。
所以好的 AI 使用習慣，不只是查答案，也要查自己的問題前提。
怎麼降低 AI 幻覺？5 個實用方法
AI 幻覺目前無法靠一句「不要亂講」完全消除，但你可以調整工作方式，讓錯誤更容易被發現。
方法一：允許 AI 說「不知道」
很多人下 Prompt 時會要求：
一定要給我答案。
這反而可能鼓勵模型在資訊不足時繼續回答。
更好的方式是直接設定規則：
如果沒有足夠資訊，請直接說無法確認，不要猜測或自行補充。
這不能保證零錯誤，但至少把「承認不知道」設定成允許的結果。
方法二：要求區分「已知事實」和「推測」
分析問題時，可以要求 AI 把不同可信程度的內容拆開。
例如：
請只根據我提供的資料回答。已能確認的資訊標示為「已確認」；需要推論的內容標示為「推測」；資料中找不到答案的部分標示為「無法確認」。
這種方法特別適合分析會議紀錄、訪談、公司文件或研究資料。
你會更容易看出哪些內容來自原始資料，哪些是 AI 自己做出的推論。
方法三：重要資訊回到第一方來源
如果 AI 告訴你：
「某 AI 工具每月收費 US$20。」
不要再問一次「你確定嗎？」就當作完成查證。
比較可靠的做法，是直接到該產品的官方價格頁確認。
同樣原則也適用於：
- 政府規定 → 查政府網站或法規原文
- 軟體功能 → 查官方說明文件
- API 規格 → 查開發者文件
- 學術研究 → 找原始論文
- 公司公告 → 找公司正式公告
AI 可以幫你理解資料，但「再問 AI 一次」不等於獨立查證。
方法四：要求答案指出依據
假設你上傳一份 30 頁的報告，希望 AI 找出公司營收下降原因。
不要只問：
為什麼營收下降？
可以改成：
只根據附件分析營收下降的可能原因。每個結論都要指出對應的頁碼或原文依據；如果報告沒有足夠證據，請標示「無法由附件確認」。
這樣做的價值不只是讓答案看起來更專業，而是讓你可以快速回頭檢查。
如果 AI 說「第 18 頁顯示客戶流失率增加」，你就能直接翻到第 18 頁確認，而不是從頭相信整份分析。
方法五：依風險決定查證程度
不是每個 AI 回答都值得花十分鐘驗證。
可以用一個很簡單的原則判斷：
| 使用情境 | 建議查證程度 |
| 腦力激盪、取標題 | 低 |
| 改寫自己提供的文字 | 低 |
| 一般知識整理 | 中 |
| 對外發布的文章與簡報 | 中～高 |
| 價格、功能、統計數字 | 高 |
| 法律、醫療、財務等高風險資訊 | 很高 |
| 要代表公司執行重要操作 | 很高 |
關鍵不是「AI 可不可以用」，而是如果答案錯了，後果有多大。
錯一個社群貼文標題和錯一個合約條款，顯然不能採用同一套檢查標準。
要怎麼判斷 AI 的回答可能有問題？
AI 幻覺不一定有明顯特徵，因此不能只靠語氣判斷。
不過，看到以下情況時，可以把它當成「需要查證」的提醒：
AI 給出非常精確的日期、比例或數字，卻沒有可核對的依據；提供看似完整的論文、書籍或網址；回答非常冷門的事件細節；討論最新產品資訊卻沒有查詢最新資料；或你的問題本身就包含尚未確認的假設。
另一個常見誤區是：「它講得這麼詳細，應該是真的。」
實際上，詳細程度不是可信度指標。生成式 AI 的強項本來就是產生語句完整、結構合理的內容，因此錯誤答案同樣可能非常流暢。
有搜尋網路的 AI，就不會產生幻覺嗎？
不會。
能搜尋網路、讀取附件或連接公司資料，可以讓 AI 有更多外部資訊作為依據，通常有助於降低「只靠模型記憶回答」造成的問題，但不代表答案一定正確。
AI 仍可能：
- 找錯資料
- 誤解來源內容
- 把兩個不同事件混在一起
- 從正確資料推導出錯誤結論
- 引用了來源，但來源其實不支持那句話
因此，比「有沒有搜尋」更重要的是：關鍵結論能不能追溯到可靠來源。
工作上使用 ChatGPT，可以建立這套簡單流程
如果你經常用 AI 寫報告、整理資料或做研究，可以把流程固定成：
先讓 AI 處理 → 標記重要事實 → 回到原始來源核對 → 人工確認後再交付。
例如要製作競品分析，可以先讓 AI 整理五家公司的產品資訊，接著把價格、方案名稱、功能與統計數據列成待確認項目，再逐一對照各公司的官方網站。
這通常比「因為 AI 可能出錯，所以完全不用 AI」更實際，也比「AI 看起來很厲害，所以全部相信」安全得多。
如果你剛開始把 ChatGPT、Gemini 等工具用進工作，建議先建立 Prompt、資料提供與結果查證的基本習慣，再進一步學自動化或 AI Agent。海豚 AI 學院也提供免費試看內容，可以從實際操作開始：
https://www.dolphlearn.com/trial
AI 幻覺常見問題
AI 幻覺代表 AI 在說謊嗎？
不宜直接等同於說謊。「說謊」通常涉及知道真相卻刻意欺騙的意圖；AI 幻覺描述的是模型產生了看似合理但錯誤的內容。
ChatGPT 越新的模型就完全沒有幻覺嗎？
不是。模型持續改善可以降低部分錯誤，但目前不能把任何大型語言模型視為永遠正確的事實資料庫。OpenAI 也明確指出，即使模型進步，幻覺仍是尚未完全解決的問題。
要怎麼下 Prompt 才能完全避免 AI 幻覺？
目前沒有一個 Prompt 可以保證完全消除幻覺。比較實用的方法是要求模型在不確定時明確說明、限制資料來源、要求指出證據，並由使用者查證重要事實。
同一個問題問 AI 三次，可以驗證答案嗎？
只能當作初步檢查，不能算真正查證。同一個模型可能三次都受到相同錯誤資訊或推理方式影響。重要事實仍應透過獨立、可靠的原始來源確認。
AI 提供了引用來源，就可以直接相信嗎？
不行。你還需要確認來源是否真的存在，以及來源內容是否支持 AI 的結論。對工作文件而言，這是非常重要的一步。
資料來源
OpenAI｜Why language models hallucinate
https://openai.com/index/why-language-models-hallucinate/
OpenAI｜Why Language Models Hallucinate
https://cdn.openai.com/pdf/d04913be-3f6f-4d2b-b283-ff432ef4aaa5/why-language-models-hallucinate.pdf
Google Cloud｜什麼是 AI 幻覺？
https://cloud.google.com/discover/what-are-ai-hallucinations?hl=zh-TW
