幻觉(Hallucination)
无依据、错误或与来源不一致的生成:模型能组合出符合事实文体外观的文本,字段却可能不存在或互相不匹配;课程的对策是建立核验习惯,而不是把它当成偶发 Bug。
生产方式:AI 生成AI 生成,仅供参考签发:晓黎学习复核:2026年11月1日被 8 个词条引用
你让 AI 推荐一篇论文,它给出完整标题、作者、年份和看起来正规的链接。文字如此具体,很容易让人以为已经查证过——但生成式模型可以组合出符合论文格式的内容,其中某些字段可能不存在或彼此不匹配。这就是通常说的幻觉。
课时标题是「幻觉不是偶发 Bug」:它不是哪天修一修就没的故障,解法是建立核验习惯——给主张分类(存在性、优先权、因果),把能核的部分拉回 DOI、官方记录页或 Crossref 这类书目基础设施,输出时把观点与事实分开标。
相关
互链
链接来自概念卡正文里的双链,编译时能解到本期词条集的才成为站内链接。
- 评测(Evaluation)相关概念
- Crossref正文引用
- Crossref相关概念
- Golden Set相关概念
反链(8)
- 反向核查正文引用
- 评测(Evaluation)相关概念
- 生成式 AI正文引用
- 温度(Temperature)正文引用
- 主张—证据表正文引用
- Crossref正文引用
- Crossref相关概念
- PROV(W3C 来源追踪模型)相关概念
出现在哪些课时里(1)
判据与「课时正文里能不能点出来」是同一个:那一节确实提到了它。点课时走当前页跳转, 它是导航,不是词条链接。
- 幻觉不是偶发 Bug:建立核验习惯AI 基础:模型、产品与第一次成果
关联图
只画这一条与它直接相连的词条,边与上面两区同源。可拖拽、可缩放,点节点是新标签。
以列表方式看这 9 个节点
出处
路径是本地知识库(Obsidian 库)里的位置,正文与概念卡逐字对应。
- 课程正文用法归纳幻觉不是偶发 Bug:建立核验习惯
packages/db/prisma/lesson-content/hallucination-and-verification.md - 课程正文用法归纳从证据记录生成可复核内容
packages/db/prisma/lesson-content/evidence-based-output.md - 课程正文用法归纳课程派生词条 · 模型与生成式 AI 基础
编译入库:2026年11月2日。词条由知识库编译而来, 修正要回到概念卡改,再重新编译。