背景:以 OpenClaw 为代表的通用智能体正被广泛用于自主工具使用,但其在真实软件工程任务中的编码能力难以通过现有的 SWE-bench 标准进行准确衡量。 已有工作为什么解决不了:现有的 SWE-bench 风格评估通常将提示模板、智能体循环、工具接口、超时设置等打包 ...
编程 Agent 的评测,一直是本糊涂账。 SWE-bench 如今已成事实标准,几乎每家发布新模型或新 Agent 框架,都会拿出一个 SWE-bench 分数来证明自己有多强。 但这些数字真的能直接横向比较吗? LLM Agent 的能力,本质上是模型和 harness 共同决定的,同一个模型换一套 ...