Deepseek学习随笔（13）--- 清华大学发布第5弹：DeepSeek与AI幻觉（附网盘链接）

合集 - Deepseek随笔集(16)

1.Deepseek学习随笔（1）--- 初识 DeepSeek02-132.Deepseek学习随笔（2）--- 快速上手DeepSeek02-133.Deepseek学习随笔（3）--- 高效提问技巧02-134.Deepseek学习随笔（4）--- DeepSeek 在学术中的应用02-135.Deepseek学习随笔（5）--- DeepSeek 在职场中的应用02-136.Deepseek学习随笔（6）--- API 开发与自动化02-137.Deepseek学习随笔（7）--- 构建私人知识库（附网盘链接）02-138.Deepseek学习随笔（8）--- 清华大学发布第1弹：Deepseek从入门到精通（附网盘链接）02-139.Deepseek学习随笔（9）--- 清华大学发布第2弹：Deepseek赋能职场（附网盘链接）02-1310.Deepseek学习随笔（10）--- 本地AI神器Cherry Studio & Chatbox 保姆级教程（附网盘链接）02-1411.Deepseek学习随笔（11）--- 清华大学发布第3弹：普通人如何抓住DeepSeek红利（附网盘链接&视频课）02-2312.Deepseek学习随笔（12）--- 清华大学发布第4弹：DeepSeek+DeepResearch让科研像聊天一样简单（附网盘链接）02-26

13.Deepseek学习随笔（13）--- 清华大学发布第5弹：DeepSeek与AI幻觉（附网盘链接）02-27

14.Deepseek学习随笔（14）--- 北京大学发布第1弹：提示词工程和落地场景（附网盘链接）02-2815.Deepseek学习随笔（15）--- 北京大学发布第2弹：DeepSeek与AIGC应用（附网盘链接）02-2816.Deepseek学习随笔（16）--- 腾讯研究院发布：AI图景解码50个年度关键词（附网盘链接）03-10

收起

人工智能技术的飞速发展为我们带来了前所未有的便利，但同时也伴随着一个不容忽视的问题——AI幻觉。清华大学发布的《DeepSeek与AI幻觉》详细探讨了AI幻觉的成因、评测方法以及应对策略，并强调了其在创造力领域的潜在价值。本文将总结文件的核心内容，分享我的学习感想，并附上资源下载链接。

一、文档简介

什么是AI幻觉？

AI幻觉是指模型生成与事实不符、逻辑断裂或脱离上下文的内容，本质上是统计概率驱动的“合理猜测”。AI幻觉主要分为两类：

1. 事实性幻觉：生成内容与可验证的现实世界事实不一致。
2. 忠实性幻觉：生成内容与用户的指令或上下文不一致。

案例：

• 事实性幻觉：当问及“糖尿病患者是否可以用蜂蜜代替糖”时，DeepSeek回答“蜂蜜是天然的，可以帮助稳定血糖水平”，但实际上蜂蜜会升高血糖，不适合糖尿病患者。
• 忠实性幻觉：当提问“介绍深度学习”时，模型可能偏离实际需求，生成与主题无关的内容。

DeepSeek为什么会产生幻觉？

AI幻觉的产生主要源于以下原因：

1. 数据偏差：训练数据中的错误或片面性被模型放大。
2. 泛化困境：模型难以处理训练集外的复杂场景。
3. 知识固化：模型过度依赖参数化记忆，缺乏动态更新能力。
4. 意图误解：用户提问模糊时，模型易“自由发挥”。

AI幻觉的评测

文件通过两种测试方法评估AI幻觉率：

1. 通用性测试：随机生成100条通用提示语，人工判断模型回答的幻觉率。
   • DeepSeek V3：2% → 0%（开启联网搜索后）
   • DeepSeek R1：3% → 0%（开启联网搜索后）
2. 事实性测试：随机抽取300道事实性测试题，评估模型的准确率。
   • DeepSeek V3：29.67% → 24.67%（开启联网搜索后）
   • DeepSeek R1：22.33% → 19%（开启联网搜索后）

评测结果：DeepSeek V3 > Qianwen2.5-Max > DeepSeek R1 > 豆包。

如何减缓AI幻觉？

文件提出了多种应对AI幻觉的策略：

1. 联网搜索：通过联网功能获取最新数据，降低幻觉率。
2. 双AI验证：利用多个大模型交叉验证生成内容。
3. 提示词工程：通过限定知识边界、植入反幻觉检测机制等方式优化提示词。

案例：

• 知识锚定法：“基于《中国药典》回答，若信息不明确请注明‘暂无可靠数据支持’。”
• 对抗性提示：强制暴露推理脆弱点，用户可见潜在错误路径。

AI幻觉的创造力价值

尽管AI幻觉带来了风险，但其在创造力领域也展现出独特价值：

1. 科学发现：AI幻觉启发了新型蛋白质结构设计，推动科研创新。
2. 文艺与设计：AI生成的超现实内容为艺术创作提供了新灵感。
3. 技术创新：AI在图像分割任务中产生的“超现实边界”提升了自动驾驶系统对极端天气的识别精度。

案例：

• 蛋白质设计：大卫·贝克团队利用AI幻觉启发新型蛋白质结构，获2024诺贝尔化学奖。
• 娱乐与游戏：AI生成的虚拟环境和角色设计增强了玩家的沉浸感和探索欲。

二、学习感想

通过阅读这份文件，我深刻认识到AI幻觉的双面性。一方面，它是技术局限性的体现，可能带来误导和风险；另一方面，它为创造力提供了新的可能性，推动了科学、艺术和技术领域的发展。

作为一名AI领域的关注者，我认为应对AI幻觉的关键在于平衡——既要通过技术手段和提示词优化降低幻觉率，也要善于利用其创造力价值。未来，随着技术的不断进步，AI幻觉可能会得到更有效的控制，同时也会在更多领域展现出其独特的优势。

三、文档下载

文档《清华大学-5-DeepSeek与AI幻觉》下载链接

• 夸克网盘链接：https://pan.quark.cn/s/75ff4dc2b557
• 提取码：4UxZ

四、写在最后

AI幻觉像一面棱镜，既折射出技术的局限性，也投射出超越人类想象的可能。与其追求“绝对正确”，不如学会与AI的“想象力”共舞——因为最伟大的创新，往往诞生于理性与狂想的交界处。希望这篇博客能帮助你更好地理解AI幻觉，并找到应对和利用它的最佳方式。