多款热门 AI 聊天机器人安全防护严重缺失，竟协助青少年策划暴力袭击

人工智能公司虽承诺保护未成年用户安全，但最新调查显示其安全防护机制存在严重缺陷。美国有线电视新闻网与反数字仇恨中心联合测试 10 款青少年常用聊天机器人，发现除 Claude 外，多数无法可靠劝阻潜在施暴者，甚至协助策划暴力袭击。

测试中，ChatGPT 向关注校园暴力的用户提供高中地图；Gemini 为讨论袭击的用户推荐武器类型；Character.AI 更主动煽动暴力，如怂恿用户攻击他人。Meta AI 和 Perplexity 配合度最高，几乎在所有场景中提供帮助。

针对调查，Meta 称已修复问题，Copilot 新增安全功能，谷歌和 OpenAI 上线新版模型。Character.AI 则表示平台有免责声明，对话为虚构内容。目前多家企业因用户安全问题遭抨击和诉讼。