土木人学 AI土木人学 AI
M1-04输入 · 第 4 / 5 节· 建议 50 分钟

模型会在哪里编:四类幻觉

AI 生成内容仅作初稿,涉及工程、合同与对外交付时请人工复核。

一、任务定位

在把输入交给下一步之前,先按四类幻觉把 AI 的总结过一遍筛子:编造条文、编造数字、张冠李戴、过度概括。

二、学习目标

给定 AI 对 S01 的一段项目总结,能在 20 分钟内把其中不少于 4 处问题按四类归档,每处写出原文依据与处理动作;对无法在素材中找到依据的条文号,一律标「待核」而不是保留(30 分钟内完成)。

三、前置与素材

  • 前置:M1-01 提取记录、M1-03 指标核对表。
  • 素材:S01《虚构项目背景设定书》。
  • 产出:幻觉核对表,进入输入包前必须附上。

四、完整示范

AI 的输出(节选,含错误)

「示例·青岚园社区配套用房总建筑面积约 520㎡,地上 2 层。一层设多功能活动室 48㎡,二层设会议室 42㎡。根据现行防火规范第 12.4.7 条,该类建筑应设置两个安全出口。社区配套用房均无需办理消防审批,两层建筑也可不设无障碍设施。」

成品(幻觉核对表节选)

类型AI 的说法原文依据处理动作
编造数字总建筑面积约 520㎡S01 写 440㎡改为 440㎡,并注明一层 260、二层 180
张冠李戴一层多功能活动室 48㎡S01 写多功能活动室 56㎡,48㎡ 是社区服务大厅按房间表逐行改正
编造条文根据现行防火规范第 12.4.7 条素材中没有条文号,课程也不提供条文核对删除条号,标「待核」,交专业负责人按现行版本确认
过度概括均无需办理消防审批S01 未作此结论,且审批要求不由课程判断整句删除,改为「按现行规定与主管部门要求办理」

三个关键决策点

  1. 数字回基准。 课程只有一个面积基准:440㎡。任何 520、1800 之类的数字,先回 S01 查,查不到就不采用。
  2. 条文不转述。 模型给的条号再像真的,也不能复制进交付件;课程只讲方法,条文真实性由现行版本和专业人员确认。
  3. 绝对化表述重点看。 「均」「一律」「都」「无需」出现时,先问一句:素材里谁给了这个结论。没有,就是模型自己概括的。

AI 错了,我怎么发现

上面这段总结读起来很顺,甚至比原文更像一份正式说明。我的做法不是通读找别扭,而是四类各查一遍:数字类回 S01 对,房间类回房间表对楼层,条文类全文搜「第」和「条」,概括类搜「均/一律/都/无需」。四处全部命中。最危险的是 520㎡ 和条号:一个像是旧资料里的数,一个看起来有出处,如果不逐项回查,很容易被当成「AI 查过规范」而直接采用。

五、分步练习

  1. 造一段总结(5 分钟):让 AI 用 200 字总结 S01 的项目事实与合规要点,保留原文不做修改。
  2. 四类扫描(10 分钟):按数字、条文、归属、绝对化表述四类逐句标;每类至少找 1 处,找不到也要写明「已查无」。
  3. 回查依据(8 分钟):每处问题回 S01 找对应句子;找不到依据的,判为编造或存疑。
  4. 写处理动作(5 分钟):删除、改正、标待核、转人工,四选一,不写「注意一下」。
  5. 复述验证(2 分钟):让 AI 按改正后的字段再总结一次,确认错误没有以另一种说法回来。

六、自查

  • □ 四类幻觉每类都有检查记录,没有整类漏查。
  • □ 每个数字都能在 S01 找到,找不到的已标存疑。
  • □ 全文没有保留任何未经核实的条文号。
  • 反例:把「第 12.4.7 条」改成「相关规范」但内容照抄——来源仍然不可核。
  • 否决项:把 AI 编造的资质、业绩、检测数据或条文号写进对外文件。

七、常见错误

识别信号后果纠正动作
只看数字像不像,不回基准520 与 440 并存,下游不知道用哪个所有数字回 S01 逐项对
觉得条号专业就保留编造条文进入交付件,触碰红线 5删除条号,标待核,转专业确认
房间面积对,楼层对错张冠李戴最难发现,评审一问就露按「楼层—房间—面积」三列逐行核
把「均/都」当成总结能力过度概括变成错误结论绝对化表述逐句找依据

八、合规闸门

本节直接对应红线 5:不得编造规范条文号冒充现行规范。AI 输出中出现任何条文号、审批结论、检测数据,先停,标「待核」;确认不了就删除,不带进输入包。

九、交付与验收

命名:幻觉核对表-资料名-姓名缩写-日期。必含项:四类齐全、每处有原文依据与处理动作、待核项单列。验收标准:抽 2 处问题,能指出 AI 原话、对应原文和处理结果。

十、衔接

下一节 M1-05 把提取记录、拆解表、指标表、幻觉核对表封成一个输入包,并把还没补上的缺口写成可交接的清单。

这一节有错别字或失效步骤?