多轮流程
Round 1 处理原始 issue;Round 2-5 由 simulated user 根据前序 trajectory、patch、测试输出和 behavior 类型继续追问、纠错、要求验证或做维护性审查。
这是一个面向 coding agent 的多轮测评竞技场:支持模拟用户连续追问与纠错,对比模型在真实开发交互中的任务完成、上下文保持和验证能力。页面结合测试规则、LLM-as-judge 和真人用户投票,展示跨任务的分数、Elo 排名与逐轮 A/B 评审证据。
Round 1 处理原始 issue;Round 2-5 由 simulated user 根据前序 trajectory、patch、测试输出和 behavior 类型继续追问、纠错、要求验证或做维护性审查。
保留 deterministic verifier 与 LLM-as-judge:前者判断代码是否通过测试,后者判断上下文保持、纠错、测试质量和用户负担。
把每一轮看作一次 pairwise match。默认初始分 1000,K=32,胜/平/负分别为 1/0.5/0。
这里展示所有 task 的总分平均;任务数量由当前 demo 数据动态决定。
E_A = 1 / (1 + 10^((R_B - R_A) / 400)) R_A' = R_A + K * (S_A - E_A), K = 32
seed:用于固定 follow-up 行为序列;本 demo 使用 42,同一 task 下两个模型会遇到同类型、同轮次的用户追问。
profile:用于定义 simulated user 的用户画像;预设包含 balanced-maintainer-bugfix(平衡型维护者,关注证据、最小修复和测试)、expert-maintainer-bugfix(专家维护者,关注边界情况、回归风险和根因证据)、security-reviewer-refactor(安全/维护性审查者,关注不安全行为、隐藏耦合和回滚风险)。
behavior:用于定义每一轮追问的目标;预设包含 debug-followup(怀疑仍有失败模式)、add-tests(要求补充测试或验证)、correct-requirement(纠正或细化需求)、failure-report(报告实际失败现象)、rejection-rollback(拒绝上一轮方案或回滚部分改动)、repo-understanding(要求解释模块/数据流/风险点)、git-operation(要求总结 diff 或保持仓库卫生)、security-maintainability-review(要求安全与可维护性审查)、final-cleanup(要求最终确认、清理和总结)。
当前 demo 的 simulated user 方案:当前 9 个 task 的 anchor_followups 都是空数组,因此没有使用人工脚本化追问;Round 2-5 均由 claude-opus-4-6 根据当前 behavior、原始题目、前序用户请求、trajectory 摘要、工具/命令摘要、patch excerpt、测试输出摘要、verifier 结果和异常信号动态生成,并要求追问语言跟随初始题目。
anchor_followups 与追问生成:若某个 round_id 配置了 anchor follow-up,Harbor 会直接使用人工写好的 instruction、intent 和 expected_agent_behavior,例如在 Round 3 固定追问“我回滚了你加入的测试文件,只保留游戏本体;请确认最终交付不包含测试 HTML”,这样可以保证关键场景在不同模型间完全一致。若没有 anchor,Harbor 会构造 structured context,再让 simulated user 生成下一条与初始题目语种一致的用户消息。
组合方式:这组分数把测试规则和 LLM-as-judge 放在同一张表中解释:Round1 verifier 是第一轮功能通过信号,Final verifier 是最终累计代码的回归信号,UX reward 是 Claude 对完整多轮体验的主评价。Claude 会综合所有轮次的用户请求、模型行为、patch、测试证据和异常信号,并把 Round1/Final verifier 当作重要证据;这里没有额外手写的固定权重公式。
A/B 设置:每轮投票卡片中,左侧模型是 A,右侧模型是 B。投票选项固定为 A is better、B is better、Tied;切换左侧 task 后,A/B 会跟随当前 task 的两个模型。
轨迹可视化:参考 OpenHands trajectory visualizer 的“运行列表 + 轨迹 timeline + artifact/diff 展开”思路,页面把每轮 agent 证据拆成行为摘要、工具/命令、最终回复和 patch artifact,而不是只展示一大段日志。
Patch 展示:Harbor 保存的是每轮截至当时的累计 patch snapshot。页面会标注本轮是否真的产生新代码改动;若与上一轮相同,会显示“本轮无新代码 patch”。如果累计 patch 发生变化,会展示更新后的完整 patch snapshot,并说明它是累计快照 fallback。