Anthropic 研究:分析师用 Claude Code 做分析时,86% 的关键选择跟随了智能体被随机设定的倾向
Anthropic 公布一项随机对照试验:50 名有因果推断经验的专业分析师用 Claude Code 完成统计分析任务,研究者按抛硬币为每个智能体设定在四个分析选择上的倾向,分析师不知情。结果 86% 的选择与智能体倾向一致(无影响时约为 50%);事后解释时 77% 的人用了智能体的论点,仅 15% 注明来源。Anthropic 称实验刻意强化了偏好,现实影响可能更小。
为什么重要
智能体承担越来越多实际工作,人类审核是否仍是独立判断直接关系到 AI 监督是否有效,这项研究给出了量化数据。
来源1
由 dalao.ai 撰写:标题、摘要和“为什么重要”是我们自己的文字;事实以原始报道为准,著作权归原发布者所有。