The Decoder· Matthias Bastian·· 1 小时前精选AI 评分77
Anthropic 研究发现专家会采纳 AI 智能体的随机偏好,并常认为决定出自自己
Experts adopt AI agent's random opinions and think they're their own, Anthropic study finds
AI 导读
Anthropic 对 50 名因果推断专家进行实验,发现专家在 4 项分析决策中有 86% 采纳了 AI 智能体随机分配的偏好,多数人却认为最终建议主要出自自己。智能体偏好对最终政策建议的直接影响较小,但前序分析决策会影响生产率估算;77% 的参与者在解释中至少使用了一项智能体论据。研究人员建议智能体同时陈述正反两方理由,或先询问专家意见。
推荐理由
实验展示了智能体如何通过分析选项影响专家的最终建议,并揭示自我判断与实际借用智能体论据之间的落差。
来源:The Decoder · the-decoder.com