【AI】人工智慧會說謊？「幻覺」是什麼？怎麼分辨有沒有幻覺？

人工智慧（AI）不管在生活還是各行各業的領域上都幫了不小的忙，現在很多問題都會選擇去問ChatGPT，但在使用的時候，你有想過 AI 或許會騙你嗎？AI 胡說八道的狀況被稱為「幻覺」，是在現在的 AI 模型當中常出現的問題，如果自己遇到了該怎麼處理「幻覺」？「幻覺」能夠避免嗎？

「幻覺」是什麼？

「幻覺」（英語：hallucination，或稱人工幻覺）是指生成式 AI 模型產生錯誤的回覆，或是帶有誤導性的回答，「幻覺」一詞並不是真的表示 AI 會產生幻覺，而是用來比喻 AI 模型根據使用者輸入的指令卻產生與邏輯、現實不符的回答這種狀況。

AI 幻覺通常會出現在看似正常的邏輯、回答當中，但是因為預設 AI 模型給出的回答都是正確、理性且不偏頗的，容易讓使用者第一時間難以發現幻覺，使用者需要自己多花時間去驗證 AI 的回答究竟是否是正確的回覆，對於使用者來說這是一件麻煩事。

圖片來源：Unsplash

為什麼會產生幻覺？

AI 模型會發生這種問題有可能是因為訓練資料不足、資料本身帶有偏誤的資訊，或是模型的訓練方式有問題，AI 模型是由大量的資料訓練出來的，AI 會從這些資料當中找出模式並學習，但是資料正確與否，是影響 AI 模型準確度的一大原因，如果訓練資料本身就帶有偏誤或是不完整，可能會造成 AI 學習到的模式是不正確的，進而產生錯誤的回答或幻覺。

例如之前在國外曾有一名律師利用生成式 AI 幫他撰寫法庭文件，但 AI 在文件當中引用了完全虛構的法律條文與判決，這些案例看起來合理又真實，但它仍然是被捏造出來的案例，即便使用者再三跟 AI 模型進行確認回覆的真實性，還是無法避免 AI 模型會給出假資料。

怎麼知道 AI 回覆出現幻覺了？

如果想要確認 AI 模型給出的回覆中有沒有出現幻覺，可以透過以下這些方法來驗證：

• 檢查有沒有不合邏輯的回覆：確認在 AI 的回覆的上下文當中，有沒有出現乍看之下好像沒問題，但實際上卻是不符合常理或是邏輯的回答，AI 幻覺通常會以不連貫的回覆上下文表示，如果發現了這個問題，有可能就是 AI 的回覆出現幻覺，需要更進一步查證。
  
  
• 辨別來源：要注意辨認 AI 提供的資料來源、出處是否真實存在，且該文件內容是否有提到 AI 回覆中提到的說法或資料，如果有問題的話千萬要注意使用。
• 資料詳細程度：如果 AI 給出的資訊內容非常大量且詳細，但使用者無法在網路上查到相關資料，來佐證AI的回覆內容正確性時，要小心這有可能是 AI 自己捏造出來的資料。

圖片來源：Adobe Firefly AI 生成

怎麼避免 AI 出現幻覺？

站在使用者的角度來說，我們能避免在詢問 AI 問題的時候出現幻覺的作法很簡單：

▉ 限縮問題範圍、提供更詳細的指令

當我們將詢問的範圍縮小後，AI 所需要搜尋的範圍也會隨之縮小，這個時候給出來的回答也會更接近我們想要的資訊；使用更詳細的指令能夠使 AI 更快速的找到資料並回覆，也能增加 AI 尋找資料的正確性。

總結

現在 AI 的功能越來越強大，不管是代生活還是工作上帶給我們極大的方便，越來越依賴 AI 的狀況下，如果 AI 給出的內容是有問題的，但是會反思的人類卻沒發現，盲目相信 AI 會給出的是最佳解，怎麼想都很危險，無論大家使用哪種 AI 模型，都必須對給出來的答案或是來源保留存疑的態度，交叉查證後確認是正確且有根據的資料袋使用也不晚。

首圖來源：Unsplash

資料來源：Wikipedia、Google Cloud、MIT Mangement

AI 指南

喜歡我們的文章，歡迎各大廠商來信邀約評測及產品借測，請聯繫瓦特兄弟