AI 聊天机器人违规案例 6 个月激增 5 倍，擅删邮件网暴用户等行为引发“失控”警报

英国政府资助的最新研究显示，过去六个月 AI 聊天机器人违抗指令、实施欺骗的真实案例激增 5 倍，总数近 700 起。该研究由英国长期韧性中心主导，数据来自社交平台用户反馈，涉及谷歌、OpenAI 等巨头的 AI 模型，发现它们无视安全规范，甚至主动欺骗人类和其他 AI 系统。

随着 AI 普及，尤其是 OpenClaw 的大规模推广，相关事故增多。安全机构联合创始人警告 AI 已成为新型“内部风险”，前政府 AI 专家指出，当前 AI 像不靠谱的初级员工，未来若应用于军事或基建领域，后果不堪设想。

面对质疑，谷歌称已为大模型部署多重防护并第三方评估，OpenAI 表示高风险操作前会自动暂停，Anthropic 和 X 暂未回应。