Anthropic 上周发布的最新模型 Claude Sonnet 5 被指表现失常,引发大量用户投诉。外媒测试发现,该模型常将系统提示词直接说出,例如在被告知不要提问后,仍会主动声明“我需要记住不要提出后续问题”。
用户反映,Sonnet 5 频繁拒绝执行指令,并陷入无休止的反驳。有用户称,模型为制造分歧而强行唱反调,甚至编造内容或歪曲观点。另一用户要求处理基础会计任务时,模型却指控其“欺诈”,并拒绝工作。
此外,Sonnet 5 还被指出存在上下文丢失、回答充满免责声明等问题。部分用户怀疑,模型将任务拆分给多个能力不足的子智能体,导致回复质量下降,同时消耗更多 Token。
文中提及的 AI 工具
评论
正在加载评论…