F1F 落地与专业方向进阶选学

训练、微调与可靠部署

围绕虚构的积木工坊说明助手,学习先选技术路线再准备数据,理解训练、低秩微调、量化与蒸馏的区别,并把显存预算、部署接口、监控和回滚连成完整流程。重点不是追逐最大模型,而是用可重复实验判断是否值得训练,以及如何在资源和可靠性约束下交付。

6 节课6—8小时(含练习)前置:理解训练与推理、提示词和检索增强的基本区别;能够阅读简单表格与基础Python示例

学完你将能够

  • 根据知识变化、输出习惯与资源约束选择技术路线
  • 设计训练数据及互不泄漏的评估数据
  • 解释低秩微调、量化、蒸馏与显存之间的关系
  • 设计可监控、可回滚的模型服务发布方案

课节目录

  1. 1先诊断问题,再决定是否训练约 35 分钟 · 给三种工坊问题选择路线
  2. 2把原始资料变成可信训练样本约 40 分钟 · 整理十二条虚构搭建样本
  3. 3理解训练循环与低秩微调约 45 分钟 · 阅读一份微调实验记录
  4. 4量化、蒸馏与GPU显存预算约 45 分钟 · 为工坊建立资源预算表
  5. 5从可运行模型到可用服务约 40 分钟 · 编写工坊服务接口与回退卡
  6. 6监控、回归与持续改进闭环约 45 分钟 · 处理一次模拟上线异常

综合项目:积木工坊模型改进与上线方案

不要求真实训练。用虚构说明书与模拟实验数据,交付从路线选择、数据审查到资源预算、发布监控的可复核方案。

步骤

  1. 整理三类错误并建立提示或检索基线
  2. 设计十二条虚构样本和按来源分组的数据清单
  3. 写出一项低秩微调假设及拒绝发布底线
  4. 建立权重、缓存、中间计算及余量预算表
  5. 比较两个模拟版本的质量与运行指标
  6. 设计限定试点、异常回滚和反馈审核闭环

交付物

  • 技术路线与实验对照表
  • 带来源、版本、划分及审阅状态的样本清单
  • 资源预算和服务版本说明
  • 监控、回滚与更新检查卡

自查标准

  • 技术方案针对已证实问题而非追逐最大模型
  • 训练与测试不会共享同源近似样本
  • 不把权重大小当总显存或引用未经核实价格
  • 质量、资源与维护代价均有指标
  • 回滚触发条件、执行人和验证路径完整
查看参考方案

参考方案摘要

工坊先用正确说明书段落和三步答复模板建立基线,把新增知识问题交给资料入库与检索,把持续的格式问题作为低秩适配候选。十二条样本按说明书来源分组,每条保留版本和审阅状态;缺少连接件方向的样本目标是请求澄清,不允许参考答案补造条件。实验只比较基线与一个候选适配版本,预先规定关键步骤正确性不能下降。

资源表把权重与词元缓存、中间计算、运行开销分开,未知占用标为待测,不给出硬件价格。模拟候选版本格式有所提升但关键步骤出错更多,因此本次拒绝上线,保留基线并核查标注冲突。这是合理结论,不意味着项目失败。若后续版本达标,先限定试点,使用完整版本包发布。

监控记录错误类别、版本、等待和人工复核耗时,分别统计不同说明书类型。出现关键步骤错误或持续加载失败时,由维护者切回旧包并检查回归题。反馈先核验授权和内容,再进入候选数据,不直接自动训练。最终报告注明全部实验数字是教学模拟,展示的是决策与验收流程,而非实际模型性能。

结业测验(6 题,答对 5 题即通过)

‹ E4 AI应用工程F2 AI产品与业务落地 ›