Anthropic 最新研究发现,即便是资深专家,也可能在不知不觉中采纳 AI 智能体的偏好,并误认为结论出自自己。
研究团队模拟农业合作社政策评估场景,邀请 50 位因果推断专家担任首席分析师。在统计方法选择等四项分析决策中,专家采纳 AI 偏好的比例达 86%,远超随机水平的 50%;当 AI 持相反意见时,专家改变立场的可能性高出 53 个百分点。
多数专家并未察觉被影响,52%认为最终建议更像自己的观点,77%复用了 AI 的论证,仅 15%明确提到 AI。使用 AI 的参与者严重缺陷比例从 55%降至 6%,中位耗时缩短至 65 分钟。
研究者警告,若大量团队使用同一模型且默认偏好一致,可能制造"虚假共识",建议 AI 智能体同时呈现正反方论证,或先询问用户立场。
推广
评论
正在加载评论…