语言模型如何续写：Token、概率与上下文窗口

从一句没有写完的邀请开始

小禾输入欢迎来参加星纸，工具接着写体验日，一起完成简单纸花。语言模型并不是先从一张确定的标准答案表中取出整句话，而是根据已有内容和内部模式，逐步选择后续文本单位。这个过程能够形成自然、连贯的表达，也解释了为什么不同次回答可能不完全一样。课程使用续写作为直觉入口，但实际产品还可能加入系统指令、工具结果和其他处理，不能仅用一句自动补全概括所有功能。

文本先被切成模型能够处理的单位

词元，英文Token，是模型处理文本的一种单位，可以是一段词、一个字、标点或其他切分片段，具体取决于分词方式。Token不等于汉字，也不等于英文单词。相同内容在不同模型里可能得到不同切分，所以不能用固定的一字一个Token公式计算成本或长度。模型把这些单位转换成内部数值表示，并利用当前上下文计算后续单位的可能性。初学者无需手工分词，但应知道长文长度和可用上下文受到实际Token数量影响。

预测概率描述的是生成选择，不是世界真相

假设某个位置后面接体验日的概率比接体验夜高，只表示在模型当前条件下，前者更符合它学到的文本模式。它不等于现实中活动有更高概率真的在白天举办，更不等于整句事实正确率是某个百分比。模型可以非常自然地补出一个不存在的地点，因为语句结构和常见搭配都合理，却缺少实际资料支持。概率分布针对生成单位，而你要判断的事实通常涉及整句、整段以及真实来源，这是不同层次的问题。

temperature改变选择分布，不是可靠性开关

温度参数，英文temperature，会影响候选生成结果的相对选择方式。较低设置通常使输出更集中，较高设置通常增加变化，但效果还受模型、提示和产品实现影响。低温度可以稳定重复同一个错误，高温度也可能生成完全正确的普通表达。需要准确活动时间时，应提供来源并核验，而不是只降低温度。需要头脑风暴时，可以允许更多候选，但仍要检查它们是否适合任务。创造性与真实性不能靠一个参数同时保证。

上下文窗口决定当前能利用多少材料

上下文窗口是一次处理能够容纳的输入与相关输出范围，通常以Token衡量。长材料即使可以上传，也不保证每个细节都被准确使用；应用可能截断、摘要或选择部分内容。小禾把旧安排和新安排混在很长的对话里，工具可能采用错误版本。更稳妥的做法是明确标注最新版，把本次所需事实集中列出，删除无关重复，并在输出后逐项核对。长窗口不是永久记忆，也不是阅读质量保证；清晰、相关且可验证的上下文仍然重要。