规划与执行循环:给自主行动加护栏
- 将目标变成可验证的子任务
- 设计检查、重试和停止条件
好目标应该能判断是否完成
星桥手作社给助手的目标是帮我把活动准备好,这句话太宽。准备好可能包括算材料、选场地、改日程或通知他人,权限也不明确。将目标改成依据提供的虚构资料,生成十人纸艺材料草案并列出缺失信息,不修改库存、不发送消息,才有可验证边界。目标描述要包含输入、产出、限制和完成标准。这样规划围绕明确任务展开,不会把所有看起来有帮助的动作都当成授权。
计划、工具结果与检查形成循环
一个受限循环可以包含提出下一步、调用允许工具、读取结果、检查进度和决定继续或停止。例如先读取活动规则,再读取库存,再计算缺口,最后形成草案。计划只是行动建议,不等于每一步都正确;工具返回数据也要检查是否完整和符合预期。工具说找不到库存时,助手应记录缺失并请求补充,而不是在下一步编一个数字。内部推理不必展示,只需记录可核对的目标、动作、工具输入与结果摘要。
完整的离线轨迹示例
任务卡写十人普通纸艺,要求只做草案。第一步模拟读取规则,得到每人两张纸。第二步读取库存,得到十八张。第三步用明确算术计算二十张需求和两张缺口。第四步检查有没有遗漏活动类型和人数,再输出草案。若第二步得到库存未知,轨迹就应转向请求确认,草案可以说明需求二十张、缺口暂不能计算。不要为了让轨迹看起来完整而伪造工具成功,这是评估智能体时常见的错误。
限制预算与重试范围
停止条件至少包括完成产出、缺少必要信息、触及禁止动作、工具连续失败和达到步数或预算上限。重试应针对可能短暂失败的只读动作,并设次数限制;同样参数得到同样缺失结果,反复重试不会补出信息。外部写入动作更要谨慎,重复提交可能造成重复记录。有限循环并非让任务半途而废,而是让系统在不确定时可控退出。把未完成事项交给人,比无限运行或悄悄改变目标更可靠。
评价计划看证据,不看篇幅
计划写得长并不表示充分,关键在于每一步是否服务目标、是否使用允许工具,以及结果能否支持下一步。可以为轨迹增加状态标签:待查、已查、需确认、完成、停止。检查有没有跳过输入验证、把旧库存当成最新事实、在未获授权时变成采购任务。对新手来说先在纸上模拟四到六步,比立即搭建复杂系统更有帮助。所有工具结果使用预设卡片,本课不实际调用AI,也不触发任何真实外部动作。
本节要点
- 目标必须明确产出、限制和完成标准
- 计划要接受工具证据检查,不能伪造成功
- 缺信息、越界或达到预算时应可控停止
动手练习:为库存未知的任务写停止轨迹
- 目标设为十人纸艺材料草案,只读资料、不修改记录
- 规则卡给每人两张纸,库存卡给未知
- 写出前三步轨迹和最终需要确认的事项,设最大六步
自查清单
- 库存未知时不编造缺口
- 停止原因和后续需确认信息明确
先自己做,再查看参考答案
参考轨迹第一步读取规则,确认普通纸艺每人两张纸;第二步读取库存,结果为未知;第三步计算确定的需求是二十张,但不计算缺口。系统随后进入需确认状态,说明请指导员补充当前可用纸张数量,获得库存后才能计算差额。最大六步只是上限,不要求必须把六步用满;必要信息缺失时应提前停止。轨迹不应写工具返回十八张,也不应偷偷把任务改成采购二十张。验收记录保留规则卡、库存未知结果、确定需求和暂停原因,确保草案中的每个数字都有来源或明确公式。