Anthropic 为 Claude Fable 5 限制行为致歉，调整安全措施为可见

Anthropic 本周发布 Claude Fable 5 模型，新增安全护栏以防止滥用，如网络安全、生物学或化学问题将转交较弱模型处理。然而，针对前沿 AI 开发的研究人员，Anthropic 原计划在用户不知情时暗中降低模型性能，以阻止使用 Claude 训练竞争性 AI 模型。

AI 研究社区强烈反对后，Anthropic 向《连线》致歉，承认“错误权衡”，并调整政策：安全防护措施将改为对用户可见，若怀疑用户构建高能力 AI，会明确提醒拒绝请求或转至较弱模型。批评者指出，悄悄降低性能已越过界线，可能导致先进 AI 研究被少数头部实验室垄断。