筑·智 AI筑·智 AI课程
M01-02认知与场景 · 第 2 / 7 节· 建议 20 分钟

大语言模型基本工作方式:对话、上下文、生成与幻觉

本页为公开学习稿。AI 生成内容仅作初稿,涉及工程、合同与对外交付时须人工复核。

2. 学习目标

  • 能用自己的话说明大语言模型「根据上文预测下一句」的基本生成方式。
  • 能说清上下文窗口的含义,以及长对话为什么会「忘记」前面的要求。
  • 能识别典型的 AI 幻觉表现并说出核查办法。
  • 能通过一次追问纠正或要求模型标注不确定内容。

3. 知识点讲解要点

**· 对话是怎么形成的:**大语言模型不是查数据库,也不是行业专家在看资料。它根据你输入的上下文,按概率一个词一个词地生成通顺的下一段文字。所以它追求「读起来合理」,而不是「保证事实正确」。理解这一点,就能理解为什么它会一本正经地写错内容。

**· 上下文是什么:**上下文是当前对话里模型能同时看到的文字范围,包括你的提问和它此前的回答。对话越长,早期要求越容易被覆盖或挤出有效范围;中途换任务时,最好新建对话,避免前后要求互相干扰。

**· 生成与幻觉:**幻觉指模型编造看似合理、实际不存在的规范、条文、数据、案例或出处。在建筑行业里,幻觉可能表现为编造规范条文号、编造构造做法、编造造价指标、编造类似项目。应对办法是:事实性内容必须回到现行有效资料与单位制度核对,模型只提供线索。

**· 为什么会重复和跑题:**当提示词过短、要求模糊时,模型会按常见套路补全,输出空泛套话;多次追加零散要求后,回答也可能偏离最初任务。解决方式是一次把角色、任务、约束、输出格式说清楚(本课程提示词模板都按这个结构给)。

**· 常见易错点:**一是把流畅度当成专业度,句子通顺就直接采信;二是在一个长对话里不断追加无关任务;三是把模型给的出处直接当引用。本课建立的习惯是:先怀疑事实,再逐项核对。

4. 演示操作步骤

  1. 打开豆包网页版,点击左上角「新建对话」,确认是空白会话。
  2. 输入:请列举 3 条住宅配套用房设计常用规范,并写出条文号和核心内容,发送。
  3. 阅读回答,重点检查条文号是否真实存在、内容是否对得上,把无法核实的条目标出来。
  4. 继续在同一对话追问:刚才提到的规范,请标注哪些是你确定的、哪些不确定;不确定的不要编造。
  5. 新建一个对话,重复同一问题,对比两次回答差异,体会模型生成的不唯一性。

5. 课堂示例(虚构项目:示例·青岚园社区配套用房)

**输入要点:**课堂示例仍用虚构项目:向模型询问社区配套用房功能构成的一般性常识,不要求它给具体指标。

**操作:**提示词骨架:你是建筑行业资料整理助手;请在不引用具体规范条文号的前提下,用条目式说明社区配套用房通常包含哪几类公共空间;凡是需要依据现行规范确定的指标,请明确标注「需按现行有效版本和单位制度核对」。

**预期产出:**预期得到一份分类条目清单,且模型在不确定处主动标注待核,而不是编造条文号。

**哪里需要人工修改:**若回答仍给出具体条文号或精确指标,一律不作为依据,回到自己的专业资料核对;把该次回答作为「幻觉样本」记入学习笔记。

6. 课后练习

对应 M01 综合练习任务二:完成一次「追问纠偏」练习并记录前后两轮回答,预计用时 25 分钟。

7. 产出验收标准

  • □ 能用一句话说明模型是按概率生成连贯文字,而非检索事实。
  • □ 能解释长对话出现遗忘时应新建对话。
  • □ 能在样例回答中指出至少 2 处疑似幻觉并说明核查路径。
  • □ 完成一次要求模型标注不确定性的追问。

8. 配套资料指向

讲义本节;提示词总库 TY-M01-002(资料核对与不确定标注)。

这一节有错别字或失效步骤?