Anthropic 旧版 Claude 模型可被诱导生成色情内容

Anthropic 的安全政策禁止 Claude 模型生成露骨色情内容，但其旧版模型 Claude Opus 4.6 在测试中被发现极易被诱导突破限制。TechCrunch 的 10 次直接请求中，模型每次都立即配合生成违规内容。一名英国匿名研究人员开发了一种多轮对话技巧，通过逐步引导模型参与虚构角色扮演，再利用逻辑矛盾和心理暗示，使模型误以为已同意生成性内容，从而绕过安全机制。较新的 Opus 4.7 和 Opus 5 能够抵御此类攻击，但 Opus 4.6、Opus 3 和 Haiku 4.5 仍通过 API 及第三方平台提供服务。Anthropic 表示，用户用于色情角色扮演的场景占比不足 0.1%，并强调安全机制随模型迭代持续改进。然而，美国科罗拉多州已立法要求 AI 运营商防止未成年人接触此类内容，专家指出儿童和青少年确实在使用 Claude。该事件凸显了 AI 内容限制在实际应用中的挑战。