AI 幻觉是什么
AI 幻觉指的是人工智能一本正经地说出错误的话。它不是故意骗人，而是模型在「猜下一个词」时编造出的内容。本节带你了解为什么会出现幻觉、哪些内容最危险、以及如何用来源与交叉检查来降低踩坑风险。
为什么模型会自信地说错
大模型的工作方式是根据上下文预测「最可能出现的下一个词」。它不像人类那样有真实记忆和事实核对机制，而是在「续写文字」。当它对某件事的知识模糊时，会用语言模式填补空白，于是把猜测当作答案说出来，而且语气还特别肯定。打个比方：就像一个学生考试时遇到不会的题，硬编了一个答案，还写得很笃定，因为他只想让句子「看起来通顺」。这就是「自信地说错」的来源——模型追求的是语言流畅，不是事实准确。
哪些内容最容易出现幻觉
高风险内容通常有几个特征：一是冷门或最新信息，比如某个小城镇的人口、上周发生的新闻；二是精确数字、日期、引语，比如「2023年某公司亏损4.27亿元」；三是专业细节，比如冷门药物的剂量、不常见法律条款；四是涉及多步骤推理的结论。简单说，信息越冷门、越精确、越需要专业背景，模型就越可能在「编」。这也意味着：常识级问答相对可靠，专业或冷门内容必须人工核验。
如何用来源与交叉检查降低风险
降低幻觉风险有两个关键动作。第一个是「找来源」：对于事实类信息，要求 AI 给出参考链接、文献名或数据出处。如果它给不出具体来源，就当作不可靠。第二个是「交叉检查」：把同一问题换个问法问一遍，或换个模型问一遍，看答案是否一致；再用搜索引擎查证关键事实。实操中有个小技巧：先用 AI 生成思路或草稿，再用搜索工具核实关键数据，最后由人把关。这套「AI 起草 + 人核验」的流程，能把幻觉带来的损失降到最低。
随堂小测
停一下，确认你真的懂了
每题只能选择一次，不计分，也不会保存结果。
第 1 题
AI 为什么会「自信地说错」？
第 2 题
下面哪类信息最需要人工核验？
第 3 题