Evals / Replay / Regression
现代 agent 仓库越来越不像“单纯的 SDK”,而更像“运行时 + 评测系统 + 回放工具”的组合。读源码时,如果不看验证回路,就只看到了半套系统。
Core Curriculum
Level 3 · 源码迁移
阅读时间 · 11 分钟
练习 · 建议必做
中波动
Last reviewed · 2026-04-22
你将学会什么
- 区分 benchmark、task replay、trace diff、regression suite 在 agent 系统里的不同角色。
- 知道为什么读取仓库时,验证回路和主 loop 一样重要。
- 能从源码里快速定位 eval harness、golden traces 和回归基线。
学习前提
建议先读 02 · 入口、03 · 状态与控制流 和 05 · 通用内核模式。
这页在课程中的位置
它是源码阅读章的“验证回路补丁”,告诉你为什么现代 agent repo 必须连同 evals 一起读。
本页 1 句话结论
如果一个 agent 团队没有 replay 与 regression 机制,它就很难稳定迭代;如果你读源码时不看这部分,也很难真正理解这个仓库如何演化。
带走的判断法
先找“主 loop 怎么跑”,再找“它如何证明自己没退化”。
Source Policy
课程主线:稳定验证模式 + 官方仓库实现 + 带日期 benchmark 语境。
TL;DR
- Benchmark 回答“系统整体表现怎样”;replay 回答“这一次失败能不能重放”;regression 回答“新改动有没有把旧能力打坏”。
- agent 系统比普通 SDK 更依赖 replay 与 trace,因为它的失败来自 prompt、tool、state、timing、模型版本的组合,而不只是单个函数 bug。
- 读源码时,除了找