筑·智 AI筑·智 AI课程
M01-03认知与场景 · 第 3 / 7 节· 建议 20 分钟

AI 能力边界与五类常见误用

本页为公开学习稿。AI 生成内容仅作初稿,涉及工程、合同与对外交付时须人工复核。

2. 学习目标

  • 能完整说出五类常见误用并各举一个行业例子。
  • 能判断一段使用行为属于哪一类误用。
  • 能针对每类误用说出一条正确做法。
  • 能说明为什么初稿必须经过专业负责人复核。

3. 知识点讲解要点

**· 误用一:初稿当终稿:**把 AI 生成的文字直接当作可交付成品,不核对、不修改、不署名复核。正确做法:AI 产出一律定位为初稿,由项目负责人或专业负责人按现行规范和企业制度复核后才能进入下一环节。

**· 误用二:让 AI 拍板:**把技术决策、方案取舍、是否满足规范等问题直接交给模型给结论,自己不做判断。正确做法:AI 提供选项和利弊参考,决策由具备相应资格和职责的人做出,AI 不承担决策责任。

**· 误用三:泄密:**把真实图纸、合同、客户资料、报价、人员信息直接粘贴进未批准的在线工具。正确做法:上传前必须脱敏,只使用单位批准的工具与账号,项目数据优先本地或私有化部署方案。

**· 误用四:迷信输出:**看到回答条理清楚就全盘接受,不核对事实、不验算、不查出处。正确做法:事实、数据、条文、案例逐项回到权威来源核对,存疑即标注。

**· 误用五:跳过复核:**出于赶进度或信任,省略专业复核环节,让初稿直接流转。正确做法:建立固定复核动作,对外交付的 AI 生成文本、图片按国家 AI 生成合成内容标识要求和单位规定处理。

**· 边界判断的统一标准:**判断依据只有三条:内容是否事实可核、责任是否由人承担、渠道是否经单位批准。三条都满足才继续使用,缺一条就停下来。

4. 演示操作步骤

  1. 打开讲义「五类误用」对照表,逐类阅读行业例子。
  2. 在豆包中新建对话,输入:我描述一个使用场景,请你判断属于五类误用中的哪一类,并给正确做法。
  3. 逐条把讲义中的行业例子发给模型,请它分类,再与自己的判断对照。
  4. 把自己工作中遇到的一个真实场景(先脱敏)代入分类,写在学习笔记里。
  5. 核对回答时重点看模型是否把「初稿当终稿」误判为「迷信输出」,理解两类区别。

5. 课堂示例(虚构项目:示例·青岚园社区配套用房)

**输入要点:**示例场景(脱敏后口述即可):某学员把 AI 写的施工方案说明直接发到工作群,未核对其中的工序与指标。

**操作:**提示词骨架:你是 AI 使用规范监督员;以下场景属于哪一类常见误用(初稿当终稿/让AI拍板/泄密/迷信输出/跳过复核),请说明风险并给出一条正确做法,不要替我做技术决策。

**预期产出:**预期模型准确归类为「初稿当终稿」或「跳过复核」,指出未复核直接流转的风险。

**哪里需要人工修改:**若模型试图替你改写方案或给技术结论,说明它越界了,停止让它决策,回到人工判断。

6. 课后练习

对应 M01 综合练习任务三:为自己列出 3 条「禁区清单」,预计用时 20 分钟。

7. 产出验收标准

  • □ 能不看讲义复述五类误用名称。
  • □ 能对 3 个给定场景正确分类。
  • □ 每类误用都能写出一条对应正确做法。
  • □ 能复述初稿须由专业负责人复核的要求。

8. 配套资料指向

讲义本节;提示词总库 TY-M01-003(误用自查与纠偏)。

这一节有错别字或失效步骤?