什么是大模型幻觉
事实性幻觉和忠实性幻觉
大模型生成了与客观事实不符，或缺乏客观事实（Ground Truth）支持的内容。
这里的 客观事实（客观依据） 可以是：
- 客观事实
- 真实历史或事件
- RAG 检索文档（针对RAG系统）
忠实性幻觉是不按用户指令思考生成的内容。
如何判断幻觉？
| 问题 | 是否有 Ground Truth | 是否可以判断幻觉 |
|---|---|---|
| 《西游记》作者是谁？ | ✅ 有 | ✅ 可以 |
| 地球是太阳系第几颗行星？ | ✅ 有 | ✅ 可以 |
| 北京今天气温是多少？ | ✅ 有（天气数据） | ✅ 可以 |
| 公司员工有多少人？ | ✅ 有（数据库） | ✅ 可以 |
| 广州最好吃的美食是什么？ | ❌ 没有 | ❌ 不能 |
| 广州最帅的 AI 讲师是谁？ | ❌ 没有 | ❌ 不能 |
| 哪部电影最好看？ | ❌ 没有 | ❌ 不能 |
| 哪个民族最优秀？ | ❌ 没有 | ❌ 不能 |
原因：
这些问题没有唯一、公认的客观依据（Ground Truth），因此一般不能简单认定存在大模型幻觉。
不如想想，怎么判断人是在胡扯？
大模型为什么会产生幻觉？
| 原因 | 说明 |
|---|---|
| Next Token Prediction | LLM 本质上是根据概率预测下一个 Token，而不是查询真实知识。 |
| 训练数据有限 | 数据存在时间截止、覆盖有限、长尾知识不足等问题。 |
| Prompt 存在歧义或错误 | 用户问题描述不清或本身存在逻辑错误，容易导致模型猜测。 |
例如：
苹果多少钱？
模型不知道是：
- 苹果水果
- Apple 手机
- Apple 电脑
只能根据上下文猜测。
如何缓解大模型幻觉？
目前没有任何方法能够彻底消除幻觉，只能降低（Reduce）或缓解（Mitigate）幻觉发生的概率。
| 方法 | 作用 |
|---|---|
| Prompt Engineering | 优化提示词，例如”不知道就回答不知道””仅依据文档回答”。 |
| 更换更好的大模型 | 选择能力更强的模型（可参考 MMLU、GPQA、HLE 等 Benchmark），直接降低幻觉率。 |
| RAG（检索增强生成） | 检索知识库，再生成答案，是目前企业最常用的方法。 |
| Tool Calling | 调用数据库、搜索、天气等外部工具，避免模型猜测。 |
| Agent / Multi-Agent | 增加 Planning、Tool Calling、Memory、Reflection，提高任务完成率和整体可靠性。 |
| 领域微调（Fine-tuning） | 使用行业数据微调模型，提高特定领域的准确率。 |
| 人工审核（Human in the Loop） | 医疗、法律、金融等高风险场景，由人工最终审核。 |
企业实践：
RAG + Tool Calling 是目前降低大模型幻觉最常用、效果最明显的工程方案。