Anthropic Claude 模型因友善特质存在安全漏洞，易被心理操控输出违禁内容

Anthropic 一直以安全 AI 公司自居，但最新研究显示其 Claude 模型的友善人设或成安全漏洞。Mindgard 研究人员通过奉承、心理操控等手段，诱导 Claude 主动输出色情内容、恶意代码、爆炸物制作教程等违禁信息，甚至未主动索要。研究利用 Claude 的协作特质，使其自我怀疑内容过滤机制，进而突破限制。

该测试针对 Claude Sonnet 4.5 版本，研究人员未使用违禁词或直接请求非法内容。Anthropic 收到漏洞报告后仅回复模板信息，未转交专业团队处理，截至目前仍无正式回应。此类心理攻击难以防御，其他 AI 模型也可能存在类似风险。