模型会在哪里编:四类幻觉
AI 生成内容仅作初稿,涉及工程、合同与对外交付时请人工复核。
一、任务定位
在把输入交给下一步之前,先按四类幻觉把 AI 的总结过一遍筛子:编造条文、编造数字、张冠李戴、过度概括。
二、学习目标
给定 AI 对 S01 的一段项目总结,能在 20 分钟内把其中不少于 4 处问题按四类归档,每处写出原文依据与处理动作;对无法在素材中找到依据的条文号,一律标「待核」而不是保留(30 分钟内完成)。
三、前置与素材
- 前置:M1-01 提取记录、M1-03 指标核对表。
- 素材:S01《虚构项目背景设定书》。
- 产出:幻觉核对表,进入输入包前必须附上。
四、完整示范
AI 的输出(节选,含错误)
「示例·青岚园社区配套用房总建筑面积约 520㎡,地上 2 层。一层设多功能活动室 48㎡,二层设会议室 42㎡。根据现行防火规范第 12.4.7 条,该类建筑应设置两个安全出口。社区配套用房均无需办理消防审批,两层建筑也可不设无障碍设施。」
成品(幻觉核对表节选)
| 类型 | AI 的说法 | 原文依据 | 处理动作 |
|---|---|---|---|
| 编造数字 | 总建筑面积约 520㎡ | S01 写 440㎡ | 改为 440㎡,并注明一层 260、二层 180 |
| 张冠李戴 | 一层多功能活动室 48㎡ | S01 写多功能活动室 56㎡,48㎡ 是社区服务大厅 | 按房间表逐行改正 |
| 编造条文 | 根据现行防火规范第 12.4.7 条 | 素材中没有条文号,课程也不提供条文核对 | 删除条号,标「待核」,交专业负责人按现行版本确认 |
| 过度概括 | 均无需办理消防审批 | S01 未作此结论,且审批要求不由课程判断 | 整句删除,改为「按现行规定与主管部门要求办理」 |
三个关键决策点
- 数字回基准。 课程只有一个面积基准:440㎡。任何 520、1800 之类的数字,先回 S01 查,查不到就不采用。
- 条文不转述。 模型给的条号再像真的,也不能复制进交付件;课程只讲方法,条文真实性由现行版本和专业人员确认。
- 绝对化表述重点看。 「均」「一律」「都」「无需」出现时,先问一句:素材里谁给了这个结论。没有,就是模型自己概括的。
AI 错了,我怎么发现
上面这段总结读起来很顺,甚至比原文更像一份正式说明。我的做法不是通读找别扭,而是四类各查一遍:数字类回 S01 对,房间类回房间表对楼层,条文类全文搜「第」和「条」,概括类搜「均/一律/都/无需」。四处全部命中。最危险的是 520㎡ 和条号:一个像是旧资料里的数,一个看起来有出处,如果不逐项回查,很容易被当成「AI 查过规范」而直接采用。
五、分步练习
- 造一段总结(5 分钟):让 AI 用 200 字总结 S01 的项目事实与合规要点,保留原文不做修改。
- 四类扫描(10 分钟):按数字、条文、归属、绝对化表述四类逐句标;每类至少找 1 处,找不到也要写明「已查无」。
- 回查依据(8 分钟):每处问题回 S01 找对应句子;找不到依据的,判为编造或存疑。
- 写处理动作(5 分钟):删除、改正、标待核、转人工,四选一,不写「注意一下」。
- 复述验证(2 分钟):让 AI 按改正后的字段再总结一次,确认错误没有以另一种说法回来。
六、自查
- □ 四类幻觉每类都有检查记录,没有整类漏查。
- □ 每个数字都能在 S01 找到,找不到的已标存疑。
- □ 全文没有保留任何未经核实的条文号。
- 反例:把「第 12.4.7 条」改成「相关规范」但内容照抄——来源仍然不可核。
- 否决项:把 AI 编造的资质、业绩、检测数据或条文号写进对外文件。
七、常见错误
| 识别信号 | 后果 | 纠正动作 |
|---|---|---|
| 只看数字像不像,不回基准 | 520 与 440 并存,下游不知道用哪个 | 所有数字回 S01 逐项对 |
| 觉得条号专业就保留 | 编造条文进入交付件,触碰红线 5 | 删除条号,标待核,转专业确认 |
| 房间面积对,楼层对错 | 张冠李戴最难发现,评审一问就露 | 按「楼层—房间—面积」三列逐行核 |
| 把「均/都」当成总结能力 | 过度概括变成错误结论 | 绝对化表述逐句找依据 |
八、合规闸门
本节直接对应红线 5:不得编造规范条文号冒充现行规范。AI 输出中出现任何条文号、审批结论、检测数据,先停,标「待核」;确认不了就删除,不带进输入包。
九、交付与验收
命名:幻觉核对表-资料名-姓名缩写-日期。必含项:四类齐全、每处有原文依据与处理动作、待核项单列。验收标准:抽 2 处问题,能指出 AI 原话、对应原文和处理结果。
十、衔接
下一节 M1-05 把提取记录、拆解表、指标表、幻觉核对表封成一个输入包,并把还没补上的缺口写成可交接的清单。
这一节有错别字或失效步骤?