Anthropic 负责 Claude 微调的工程师杰克逊·克尼恩指出,AI 模型在数学、编程和推理能力上进步迅速,但写作水平却停滞甚至退步。后续模型的优化重点更多放在数学和代码能力上,同时接受了大量面向其他 AI 模型撰写技术解释的训练。
克尼恩称,这导致模型被调整得适应 LLM 心理,最终学会了写给 AI 模型看,而不是写给人看,形成了所谓“Claude 腔”。他将此类比为只与其他自闭症人士交流的人,会逐渐形成一套群体内部沟通顺畅、外人却难以理解的表达方式。
他认为问题根源在于强化学习的奖励机制。数学和代码训练越多,就越需要主动抵消这种倾向,对简洁易懂的解释给予更多奖励。克尼恩表示,Anthropic 在 Opus 5.5 上找到了更好的平衡,但解决这一问题仍很困难。
文中提及的 AI 工具
评论
正在加载评论…