IBM Research:同一模型换 harness,AppWorld 完成率从 30% 到 81%

IBM Research 在 Hugging Face 博客写了一组对照实验:固定开源权重模型 GLM-5.3-flash,在 AppWorld 的 90 个任务(30 个场景)上只换 agent harness。结果任务完成率(TGC)分别是 CUGA 81.1%(73/90)、Hermes 46.7%(42/90)、Deep Agents 30.0%(27/90);更严的场景全过率(SGC)为 66.7%、26.7%、6.7%。作者强调这不是给 Hermes 或 Deep Agents 判死刑——二者本来就不是为多应用 API 活设计的——而是说明 harness 必须贴合任务。CUGA 是 IBM 开源的企业向 harness,强调策略可在 harness 层强制执行,而不是只写进提示词;评测配置放在公开的 harbor-eval 仓库。

为什么重要

用同模型对照说明 harness 选择会大幅改变结果,对企业代理选型有直接参考。

来源1

由 dalao.ai 撰写:标题、摘要和“为什么重要”是我们自己的文字;事实以原始报道为准,著作权归原发布者所有。