发展趋势量子位5/10

不换模型,效果提升104%!上海AI Lab让Harness也能自进化了

By Jay

不换模型,效果提升104%!上海AI Lab让Harness也能自进化了
图源:量子位

AI 摘要

Harness本身也可以被搜索、验证和迭代

原文正文

不换模型,效果提升104%!上海AI Lab让Harness也能自进化了

Harness本身也可以被搜索、验证和迭代

Self-Harness团队 投稿

量子位 | 公众号 QbitAI

让AI自己改自己的Agent Harness,这事已经被顶级Agent社区注意到了。

上海人工智能实验室团队提出的Self-Harness,近期被LangChain CEO、联合创始人Harrison Chase转发,也被前OpenAI副总裁Lilian Weng收进自进化Agent相关博客。

它盯上的不是换模型,而是Agent外层那套Harness。

做法很直接。模型先检查自己的运行轨迹,从失败里挖出模式,再提出有边界的Harness修改,最后交给回归测试决定要不要采纳。

实验结果显示,在Terminal-Bench-2.0上,底层模型、工具环境和评测协议都保持不变,只改Harness,三个模型后端都拿到了held-out提升。

其中Qwen3.5-35B-A3B总提升达到104%,MiniMax M2.5和GLM-5分别提升28%和24%。

论文和项目已经公开,文末附链接。

△LangChain CEO/co-founder Harrison Chase转发Self-Harness

让Harness自己进化

Agent Harness可以理解为包在模型外层的一套运行装置,覆盖系统提示词、工具使用规则、验证器、运行时控制策略和轻量middleware。

在多轮工具任务里,它决定Agent怎么调用工具,什么时候停,失败后怎么恢复,产物又该如何验证。

过去,这套东西主要靠工程师手调。要读大量执行轨迹,找失败原因,改提示词或工具规则,再反复跑benchmark。

模型越多、任务越杂,Harness就越难继续按“一模型一套人工调参”的方式扩展。

△三种Harness改进范式:人工改、强模型外援改,以及Self-Harness让模型基于自身轨迹改

Self-Harness怎么工作

换到Self-Harness,流程被压成三步。先挖弱点,再提改法,最后跑回归。

Weakness Mining:从失败轨迹挖弱点

系统先让当前Harness驱动固定模型完成一批任务,记录完整执行轨迹、工具调用和评测结果。

失败样本不会被当成孤例处理。Self-Harness会结合验证器反馈、Agent行为和失败之间的因果关系,把可复用的失败机制聚起来。

这样,“某个任务没过”会变成“这一类失败可能来自同一种Harness缺陷”。比如缺少最终产物、重复执行无效命令、工具报错后不恢复,或者探索太久却迟迟不进入实现。

Harness Proposal:提有边界的改法

拿到结构化失败证据后,同一个模型会切换成proposer,针对已挖出的失败机制提出候选Harness edit。

这些edit只能落在预先声明的可编辑表面上,不能把整个Agent控制架构推倒重来。

每个提案都要说明想改变哪种行为,可能带来什么回归风险,以及为什么可能修好当前失败模式。

Proposal Validation:用回归测试拍板

候选Harness会在同一评测协议下重跑,并和当前Harness对比。

接受规则很保守。held-in或held-out至少一个split要提升,另一个split不能退化,才会进入下一代Harness。

这也是它和普通“自动改prompt”的差别。Self-Harness不让模型凭感觉拍板,而是把每一次改动都放进可记录、可复现、可回退的评测闭环里。

△Self-Harness自改进闭环,包括弱点挖掘、修改提案和回归验证

不换模型,只改外层也能涨

论文在Terminal-Bench-2.0上做了系统评测。

Terminal-Bench-2.0是一个多轮智能体benchmark,任务运行在容器化终端环境中,覆盖文件管理、命令执行、错误恢复、产物验证等真实工具使用能力。

在固定模型、工具集、任务环境和评测配置的前提下,Self-Harness只改Harness。结果三个模型都出现提升。

MiniMax M2.5总提升28%,Qwen3.5-35B-A3B总提升104%,GLM-5总提升24%。

这组结果的重点不是又换了一个更强模型,而是在同一个模型外面,Harness本身也可以被搜索、验证和迭代。

△Terminal-Bench-2.0结果,三个模型后端在Self-Harness后均获得held-out提升

阅读原文
不换模型,效果提升104%!上海AI Lab让Harness也能自进化了 · AI Daily