Anthropic 推出了面向公众的最强 AI 模型 Claude Fable 5,该模型在生物学等领域能力突出,但拒绝回答大量基础生物问题,如“细胞膜是什么”或“线粒体的功能”。这一限制源于 Anthropic 对生物武器风险的担忧,采取了保守的安全策略。
Fable 5 属于“Mythos”级模型,在网络安全任务上极强,但生物领域限制最为严格。外媒测试显示,模型甚至屏蔽了花粉症成因等无害问题,而将提问转给旧模型 Claude Opus 4.8。Anthropic 表示这是刻意取舍,以防范高风险研究被滥用。
公司发言人强调,团队正在优化识别机制以减少误判,并计划未来为生物专业群体推出解除限制的版本,助力医学研究。但化学、网络安全等领域的问题,Fable 5 的接纳度更高,例如能简要介绍 TNT 炸药。
文中提及的 AI 工具
评论
正在加载评论…