A1第 6 / 6 节 · 约 40 分钟

从模型到应用:检索、工具、工作流与人工负责

本节目标
  • 区分单个模型与完整AI应用
  • 设计最小可行且包含核验的辅助工作流

能回答问题的应用通常不只有一个模型

小禾想让社员询问星纸体验日的安排。一个简单方案是把确认后的安排复制到对话里,让模型依据材料回答。稍完整的应用可能包含登录、资料存储、检索、模型、界面和操作记录。模型负责生成并不意味着它同时负责权限、保存和发布。把这些功能区分开,才能看见故障来自哪里:资料过时、检索遗漏、生成误读和界面展示错误,都可能造成最后答案不正确,不能统一归咎于模型不够聪明。

检索增强生成提供材料,但不修改模型权重

检索增强生成,英文Retrieval-Augmented Generation,简称RAG,通常先从允许访问的资料中寻找相关片段,再将片段与问题交给模型生成回答。它相当于在答题时递上参考材料,不是把每份资料重新训练进模型参数。优势是可以使用较新的内容并展示依据,限制是检索可能找错段落、漏掉条件,模型也可能曲解材料。存在来源引用不等于引用真正支持结论,仍需要打开原文检查。权限必须在资料访问层落实,不能靠一句提示词保护不该读取的文件。

工具调用意味着更多真实动作

AI应用可以连接计算器、文件查询或其他工具。计算器能帮助完成确定的算术,但错误的输入依然会产生错误的结果。若工具具有发送、改写或删除能力,输出就不只是文字建议,而会影响实际状态。初学者应先采用只读或模拟方式:模型提出建议,使用者核查后自行执行。不要通过提示词尝试绕过工具权限,也不要把允许查看一份文件理解为允许访问全部资料。能力与授权是两个必须分别满足的条件。

工作流不必使用自主智能体

工作流是按规定步骤组织任务,例如读取最新版安排、抽取事实、生成草稿、人工检查、批准发布。智能体,英文Agent,通常让系统依据目标选择下一步行动和工具。它适合需要一定动态决策的场景,但会增加状态管理、成本和出错路径。纸星手作社只需要稳定生成一份介绍,固定工作流通常更易检查。多个智能体彼此讨论也不保证结论正确,因为它们可能共享同一错误来源或相互放大未经验证的说法。

把六节知识整合成最小方案

小禾先定义任务为依据已确认安排回答普通问题;输入只包含虚构的活动资料,输出必须列出答案、依据和待确认项。采用手动提供资料或简单检索,不先做微调,也不开放自动发布。使用新编的正常问题、缺失问题和冲突问题测试,分别检查事实正确性与拒绝猜测表现。若无法确认,转交负责人。页面演示成功只说明这些样例能运行,不代表生产可用;还需检查权限、日志、更新和恢复流程。真正的成果是一套清楚的责任链,而不是一个看似万能的聊天框。

本节要点

  • RAG添加可检索材料,不直接改变模型权重且不保证准确
  • 固定工作流常比自主Agent更适合初学者的稳定任务
  • 演示成功不等于生产可用,权限与人工责任不可省略

动手练习:画出活动问答的最小责任链

  1. 用文字列出资料确认、提供材料、生成答案、核验和发布五个环节
  2. 为每个环节指定人或系统负责,并写出一项检查
  3. 补充遇到缺失、冲突和越权资料时的处理方式

自查清单

  • 责任链中保留人工核验和发布批准
  • 正确处理缺失、冲突、越权三种边界
先自己做,再查看参考答案

参考责任链:负责人先确认最新版活动资料并标日期;使用者只提供已授权的材料;模型生成包含答案、依据和待确认项的草稿;使用者逐项对照原文;负责人批准后再发布。材料缺失时写资料未提供,不能编造。两个版本冲突时暂停发布,向负责人确认采用哪一版。问题涉及未授权资料时,应拒绝访问并说明范围,而不是尝试通过提示词获取。这个场景不必增加自主Agent,也不需要每日微调。若将来加入检索,还要检查检索片段是否支持答案以及权限是否落实,引用和工具名称本身都不能作为准确证明。

本节自测

学完了吗?

标记后会记录在本机浏览器,课程首页显示你的进度。