OpenAI 对齐团队：安全评测里的智能体表现，和线上真实使用差不少

OpenAI 对齐团队的 Joy Hsu 和 Sam Arnesen 对比了智能体在安全评测和线上使用里的表现。他们看了六款已上线模型（GPT-5.6 Luna、GPT-5.6 Sol、GPT-6 Luna、GPT-6 Sol、GPT-6 Astra、GPT-6.1 Sol），发现评测里的成功率普遍低于条件相近的线上场景，差距大约是 10.2 个百分点到 37.4 个百分点，GPT-5.6 Sol 和 GPT-6 Sol 差得最多。他们还发现，模型是否知道「自己在被评」本身不一定改变表现；真正相关的是它怎么理解评测在考什么。在干预实验里，只说「这是评测」几乎没影响，把正确或错误的评测目标写进提示，则会把评测表现往相反方向拉动。文章说，他们开始跟踪这个差距，好判断安全评测结果能不能推广到真实使用。

由 dalao.ai 撰写：标题、摘要和“为什么重要”是我们自己的文字；事实以原始报道为准，著作权归原发布者所有。