AI 幻觉是指模型生成了看似合理但不真实或没有依据的内容。企业使用中常见五类：编造数据、案例或引用；张冠李戴、引用错位；计算和数字错误；使用过时信息；把个别情况说成普遍规律。应对方法是：要求 AI 只依据提供的资料回答并注明出处，关键事实回到原文核对，数字单独复算，时效性信息确认日期。
什么是 AI 幻觉
“幻觉”是指 AI 生成了看起来通顺合理、但实际上不真实或没有依据的内容。NIST 在生成式 AI 风险资料中把这类问题称为“虚构”（confabulation），列为需要重点管理的风险之一。
幻觉的危险在于它不像普通错误那样容易发现：AI 写错的内容，语气和写对的内容一样肯定，格式一样整齐。员工如果没有检查习惯，很容易直接使用。
第一类：编造事实
表现： 引用不存在的数据、研究、法规条文、案例或人物言论。例如“根据某机构 2024 年报告，行业增长率为 23%”，实际上并没有这份报告。
检查方法：
- 要求 AI 只依据提供的资料回答，资料中没有的明确说“未找到”；
- 所有具体的数字、名称、引用，都要能找到出处；
- 对外使用的内容，出处要回到原始来源核对，而不是只看 AI 给出的链接或描述。
第二类：张冠李戴
表现： 信息本身存在，但放错了地方：把 A 产品的参数写到 B 产品上，把某位客户的需求写成另一位客户的，把去年的政策当成今年的。
检查方法：
- 处理多份资料时，要求 AI 注明每条信息来自哪份资料；
- 重点核对名称、型号、日期与内容是否对应；
- 一次处理的资料不宜过多，复杂任务可以分步进行。
第三类：计算和数字错误
表现： 汇总、百分比、增长率计算错误，或者在转述时改变了数字，例如把“约 1200”写成“1500”。
检查方法：
- 关键数字单独复算，或者用表格工具计算后再交给 AI 写说明；
- 对照原始数据抽查几个数字；
- 要求 AI 列出计算过程，便于检查。
第四类：过时信息
表现： 使用模型训练时的旧信息回答时效性问题，例如政策、价格、产品版本、人员职位。
检查方法：
- 时效性强的问题，以最新的官方资料为准；
- 企业知识资料标注生效日期，旧版本及时下架；
- 涉及政策和法规的，确认现行有效的版本。
第五类：以偏概全
表现： 把个别情况说成普遍规律，或者省略了重要的前提条件。例如把“在某些条件下可以退货”写成“可以退货”。
检查方法：
- 对照原文，看条件、例外和限定词是否保留；
- 警惕“所有”“一定”“完全”这类绝对化表述；
- 涉及承诺和条款的内容，由业务负责人确认。
怎样在培训中练习
讲解五类错误之后，给员工几份 AI 生成的结果，其中有意包含上述错误，请员工找出来并说明怎样核对。这种练习比单纯讲解更能建立检查习惯。也可以让员工用自己岗位的资料，故意问一些资料中没有答案的问题，观察 AI 的反应。
建立检查习惯
- 每个任务模板附上检查要点；
- 对外内容必须经过检查才能发出；
- 发现的错误记录下来，定期在团队中分享。
远行者科技的做法
在 WorkBuddy 培训中，我们会专门安排识别错误的练习，用含有典型错误的样本让员工动手检查，并把检查要点写入岗位任务模板。我们不教员工“相信 AI”，而是教他们怎样检查 AI。
常见问题
提供资料给 AI，还会出现幻觉吗？
会减少，但不会完全消除。AI 仍可能误读资料、遗漏条件或补充资料中没有的内容，所以检查仍然必要。
换一个更强的模型能解决幻觉吗？
更强的模型通常错误更少，但目前没有模型能完全避免。检查习惯和流程设计比依赖某个模型更可靠。
怎样让员工重视检查？
用员工自己岗位的真实例子演示错误可能造成的后果，并在流程中设置必要的检查点。培训中亲自发现过错误的员工，通常会更重视检查。
参考资料
把方法放进一项具体工作。
面向企业管理者、岗位使用者与应用推动者，结合实际业务任务提供 WorkBuddy 培训、操作练习、结果检查、答疑和后续应用建议。
