Agent Harness到底怎么选？南洋理工大学安波团队最新研究给出答案

开发 Agent 应用时，大家一定都为选择 Harness 纠结过：同一个模型接入不同 Harness，工具调用、上下文管理和错误恢复的方式都会发生变化，最终表现也可能相差很大。一套 Harness 在某类任务上表现突出，换到另一类任务后，却未必仍是最佳选择。 那么，不同任务究竟该选择哪套 Harness？是否存在一套能够稳定适配多种任务的通用方案？模型厂商提供的原生 Harness，又是否一定更适合自家模型？ 这篇报告不是在做一张简单的 Harness 排行榜，而是把模型与 Harness 视为一个整体进行比较。实验覆盖 OpenHands、DSH、PI 和 openJiuwen 四套可配置 Harness，并将 Codex–GPT 与 Claude Code–Claude 两组原生搭配作为参照。报告最终指向了一个很实际的结论：Harness 的好坏并不是固定属性，而是取决于它与模型、任务之间的具体组合。与其寻找一套 “放之四海而皆准” 的 Harness，不如围绕真实任务，对模型与 Harness 进行联合评估。 实验分别为这四种 Harness 接入 Claude Opus 5、GPT-6 Astra、GLM-5.3、Kimi K3 和 DeepSeek V4 Pro。这样的交叉设计，可以观察同一个模型更换 Harness 后的表现变化，也能比较同一套 Harness 面对不同模型和任务时是否依然稳定。 由于三个任务集的任务构成和评分标准不同，研究没有将结果合并为一个综合分数，而是分别进行比较。四种可配置 Harness、五个模型和三个任务集构成了4×5×3共 60 项结果；再加上 Codex–GPT 与 Claude Code–Claude 在三个任务集上的 6 项原生搭配结果，最终形成了包含 66 项记录 的比较矩阵。 本次实验涉及四种可配置 Harness，以及 Codex 和 Claude Code 两种原生 Harness。所有 Harness 都通过 OpenRouter 调用模型，并固定路由到各模型的官方服务商；推理强度统一设为 high，上下文管理、重试和轮数上限等保持各 Harness 的默认设置。TUA-Bench 和 Terminal-Bench 4 使用 Harbor v0.22.0 运行，ALE-CLI 使用任务集自带的运行器，且在 ALE-CLI 上所有 Harness 都会接入任务集提供的 14 个计算机操作工具。 三个任务集分别按固定任务数计分（TUA-Bench 120 项、ALE-CLI 99 项、Terminal-Bench 4 63 项），TUA-Bench 和 ALE-CLI 允许部分得分，Terminal-Bench 4 按通过或未通过计分。因基础设施故障中断的任务进行了重跑，每个任务只按最后一次运行计一次分，没有得到有效结果的任务记 0 分。 openJiuwen 在 TUA-Bench 上表现出最广泛的优势：在四种可配置 Harness 中，它搭配五个模型时均取得最高分；即使加入原生 Harness，仍在其中四个模型上领先。值得注意的是，不同组合的领先幅度差异明显：openJiuwen 搭配 GLM 时仅小幅领先 OpenHands，搭配 Kimi 时则大幅领先 PI。 66 项实验结果呈现出两种看似矛盾的现象：一方面，更换 Harness 可能改变模型排名，同一模型的最佳 Harness 也会随任务变化；另一方面，部分模型与 Harness 的组合又能在多个任务集上保持优势。 因此，在某一套 Harness 中观察到的模型优势，不能直接推广到其他 Harness。模型排名描述的并不只是模型本身，还包含了模型与工具接口、上下文管理和执行流程之间的适配关系。 Kimi K3 是唯一的例外。它与 openJiuwen 的组合在三个任务集上均取得该模型的最高分，分别领先其他已评测配置 5.61 分、6.91 分和 11.11 分，表现出较为稳定的适配优势。 这些结果表明，原生 Harness 并不一定是自家模型的最佳搭配。同一个模型接入其他 Harness 后，在部分任务上反而能够取得更好的表现。因此，选型时不能只看是否 “原生适配”，还需要综合比较任务完成度和运行成本。尤其是在需要切换模型、接入更多工具或覆盖多类任务时，Harness 的可扩展能力也是重要的考量。 Harness 影响的不只是任务得分，也会改变模型调用次数、Token 消耗和整体运行成本。论文按照 OpenRouter 的统一价格计算模型 API 成本，结果发现，更高投入并不能稳定换来更好的表现。 成本差异主要来自 Harness 组织模型调用和上下文的方式。较低成本通常伴随着更少的模型调用和未缓存输入 Token，但不一定意味着模型输出更少。 因此，评估 Harness 时不能只看最终得分或模型单价，还需要结合调用次数、未缓存输入、缓存利用率以及任务完成度，比较完整配置在目标任务上的实际投入产出。 分数只能展示结果，却解释不了差异从何而来。为此，报告进一步分析了任务和模型相同、仅 Harness 不同的配对轨迹，观察模型收到失败信号后如何应对。 192 个事件中，有 180 个应对动作由模型主动发起。诊断或定点修复是最常见的处理方式，共出现 133 次，其中 116 次成功。真正影响结果的，往往不是模型会不会修复，而是 Harness 能否将失败转化为模型可以利用的反馈。 TUA-Bench 的 056-move-textbox-left 任务提供了一个典型案例。Kimi K3 在 openJiuwen 和 PI 下犯了同一个错误：通过管道执行 GIMP 脚本时遗漏退出指令，导致命令一直等待输入，区别是 openJiuwen 在错误后及时反馈并最终在下一轮任务中修复了该错误。 在 openJiuwen 下，前两次 GIMP 调用失败后，错误信息被返回给模型。第三次调用挂起时，Shell 在 300 秒后返回超时。模型据此发现脚本缺少退出指令，并确认图片已经生成，随后核对画布尺寸、背景色和文字位置。整个任务用时 11 分钟，得分为 1。 从上图可以看出，openJiuwen 在命令挂起后返回超时，模型据此完成诊断和恢复；PI 没有返回信号，运行最终到达截止时间。默认超时并非 openJiuwen 独有，OpenHands 和 DSH 也会限制命令时长。这个案例说明的并不是哪套 Harness 绝对更强，而是失败能否以有效反馈返回，会直接影响模型是否有机会恢复。 同一种设计放到不同模型上，效果可能完全不同。GPT-6 Astra 在 PI 中有 56%～67% 的 Shell 调用会主动设置超时，因此 PI 没有默认超时，对它的影响很小。GPT-6 Astra 通过 PI 在 Terminal-Bench 4 和 ALE-CLI 上取得了该模型的最高分。 Harness 应该介入多少，不能简单按照模型强弱划分。模型已经能够自行处理的环节，减少干预可能更合适；模型容易遗漏的环节，则需要 Harness 提供必要的支持。 Kimi K3 是唯一一个在三个任务集上都由同一 Harness ：openJiuwen 取得最高分的模型。逐任务比较显示，这种优势并非由少数任务撑起：在 TUA-Bench、ALE-CLI 和 Terminal-Bench 4 上，openJiuwen 分别在 22、25 和 8 个任务中取得更高分。即使去掉领先幅度最大的三个任务，平均仍领先 3.11、3.88 和 6.35 分。 工具接口：在 OpenHands 中，Kimi 多次发出缺少必要参数的编辑调用，重复失败后会触发终止。这类终止共发生 55 次，其中 48 次来自 Kimi。openJiuwen 将 “写文件” 和 “修改文件” 拆分为两个工具，更符合 Kimi 的调用方式。命令超时： openJiuwen 会在命令长时间无响应时返回超时信息，使挂起状态重新变成模型可以处理的反馈。截断续写：当输出因长度限制被截断时，openJiuwen 会保留已有推理并提示模型继续。在报告分析的 6 组 Kimi 配对轨迹中，这一机制在其中 2 组里起到了决定性作用。 如果模型已经确定，就需要比较它接入不同 Harness 后的实际表现；如果 Harness 已经确定，也不能直接套用其他 Harness 下的模型排名。当 Agent 从一种业务迁移到另一种业务时，原有组合也应重新验证。 对于需要处理多类任务的 Agent 系统，保留模型与 Harness 的配置空间是有价值的。但 “允许选择” 与 “能够自动选对” 并不是一回事。报告中的最佳配置是在结果产生后比较得出的，并没有证明系统能够在面对新任务时提前判断应该使用哪套 Harness。 如果要验证自动选择或路由策略，还需要在开发集上完成配置选择，再到未见任务上测试，并与同样基于开发集选出的最佳固定 Harness 比较。实际部署时，延迟、调用成本和工具执行开销也应与任务完成度一起纳入考量。 当任务变化、模型升级或 Harness 更新时，这种适配关系都值得重新验证。相比单独查看模型或 Harness 排名，直接测试完整配置在目标工作负载中的表现，更接近 Agent 的真实部署需求。

📕作者： 苗志亮撰 · 更新于 2026-10-07 07:47:45

🔞《父女情深》2026年诺贝尔物理学奖给了中微子天文学，“幽灵粒子”是怎么被看见的

💫严丝合缝BY酉时TXT百度网盘芯片设计公司Cerebras Systems股价大涨9%，据财联社消息，OpenAI首席执行官萨姆·奥尔特曼在社交媒体上表示，该家公司是OpenAI的“重要合作伙伴”，双方“在推动速度前沿方面展开了深入合作”。

⭕直播受罚(笔趣阁)txt百度网盘小说今年以来，各地区各部门认真贯彻落实党中央、国务院部署要求，坚定实施扩大内需战略，着力促消费稳投资，为经济平稳运行打下良好基础。今年上半年，内需对经济增长的贡献率为82.1%，其中最终消费支出、资本形成总额贡献率分别为46%、36.1%，内需拉动经济增长的主动力和稳定锚作用持续彰显。

📸 记者 王秀艳 摄 · 更新于 2026-10-07 07:47:45