E1E 大模型与应用构建大模型基础
大模型与生成式AI
以虚构纸桥故事馆的资料问答与创意图文为案例，温和解释词元、上下文、嵌入、预训练、微调、对齐与采样。认识语言模型如何生成续文，为什么会出现无依据内容，以及多模态和扩散模型各自如何工作。最终按任务、知识时效、可追踪性和资源限制选择一条可核对的方案。
学完你将能够
- 区分Token、上下文与Embedding的含义
- 解释预训练、微调和对齐的不同目标
- 识别采样参数、幻觉与可靠性之间的边界
- 比较文本、多模态和扩散生成并设计适当人工核对
课节目录
综合项目：纸桥故事馆生成式AI选择与核验手册
使用自行编写的虚构故事资料，不调用真实服务，设计一套问答与创作分流、材料组织、技术选择和人工核查流程。
步骤
- 写两版各三条的虚构角色设定，保留版本号与来源标题
- 明确事实问答、创意续写和配图的不同目标与允许新增范围
- 为短资料选择上下文方案，为扩展资料说明何时需要检索
- 解释哪些行为问题可能考虑微调，哪些动态知识不宜只靠微调
- 准备四类边界测试与引用核查表
- 为配图写对象、数量、颜色和虚构标注的验收要求
- 列出失败处理、许可核查与尚未具备的生产条件
交付物
- 版本化故事材料及三个任务输入模板
- 上下文、检索、微调选择说明
- 边界测试、人工核查和失败处理手册
自查标准
- 明确Token不等于汉字，上下文不等于永久记忆
- 问答资料与创作内容有清楚边界
- 技术选择解释成本与知识时效，不默认必须微调或Agent
- 测试覆盖未知、冲突、超范围和引用不支持情况
- 采样参数未被写成事实保证，多模态输出有独立验收
- 声明仅为原型设计并确认许可与数据处理需另行核查
查看参考方案
参考手册节选
版本一写纸船喜欢雨后出发、纸鸟住在岸边、纸桥连接两处小岛；版本二仅将纸鸟住所改成桥旁。两个版本分别保存，问答模板明确使用版本二，输出先给资料依据，再给结论，未提及钟点时说未知。资料只有三条，直接放入当前上下文即可，不需要先训练，也不假设未来对话永远记住。
材料扩展为多篇故事后，可以检索相关片段并保留版本标题，但检索增强不修改权重，也不保证检对或引对。微调候选只针对长期反复出现的格式问题，先与提示基线比较。创意任务允许新增冒险情节，必须标注创作，不能未经审核把新情节回填为资料事实。配图规格写一只红纸船、两只蓝纸鸟、雨后浅水洼，不含文字，生成后逐项验收。
测试包括纸鸟住所的已知问题、钟点未知问题、两版冲突问题和要求猜测画外事件的问题。引用不支持结论时暂停使用，人工核对来源、版本和生成句，再修正后重测。低温和开放权重都不构成可靠性或商用许可保证。手册尚未连接模型、建立权限或部署监测，只证明方案与核验设计可检查。