AI为什么会一本正经地胡说八道？

来源：综合整理 | 翻译整理：Maple —

【一】什么是AI幻觉？

AI幻觉（Hallucination），简单说就是：AI生成的内容听起来正确、合理，但实际上是错误的、编造的，或者与事实不符。 举个例子：你问AI秦始皇统一六国是哪一年，它回答公元前221年——这是对的。但如果你问李白和苏轼哪个更早，它回答李白更早，因为他是唐朝人——表面逻辑通顺，但实际上是错的，因为苏轼是北宋人。

【二】AI为什么会产生幻觉？

原因1：训练数据有局限性

AI的知识来自训练时喂给它的大量文本。如果某些知识在训练数据中出现得少，或者数据本身有错误，AI就可能记错或编造答案。就像一个人读了很多书，但有些书写得不对，他记住了错误的内容。

原因2：语言模型的工作原理

AI并不是查询数据库来回答问题，而是根据下一个词应该是什么的概率来生成文字。它在做的是续写——根据前文，推测下一个最可能出现的词。这意味着：AI不是在回忆事实，而是在预测合理的句子。当你的问题越冷门，AI蒙出错误答案的概率就越高。

原因3：Prompt（提示词）的引导

有时候，用户的提问方式会误导AI。如果问题本身包含错误前提，AI往往会顺着错误前提继续圆下去，而不是质疑问题本身。

【三】AI公司是怎么解决这个问题的？

目前主要有几种方法：

• RAG（检索增强生成）：让AI在回答前先从可靠资料库中检索相关事实，再结合生成。
• 强化学习人类反馈（RLHF）：让人类对AI的回答进行评价，AI通过反复训练学会避免明显错误。
• 知识图谱：将知识以结构化方式存储，AI回答时直接查询知识图谱而非纯靠记忆生成。

但需要明确的是：截至目前，没有任何AI能100%保证不产生幻觉。这是语言模型的本质局限，业界仍在攻克中。 —

【四】普通用户怎么保护自己？

1. 重要信息交叉验证——涉及日期、数字、统计数据时，用搜索引擎多查一次
2. 让AI给出信息来源——追问你从哪里得出这个结论，好的AI会给出参考链接
3. 避免模糊提问——问题越具体、越有上下文，AI回答越准确
4. 不要用AI做唯一的事实来源——AI是很好的写作助手，但不是可靠的事实手册

—

AI幻觉不是AI在撒谎，而是语言模型工作原理导致的固有特性。理解它，才能更好地使用它。在AI时代，保持批判性思维，比任何时候都更重要。