AI 智能体追退款实测:手段激进无一成功,暴露失控风险
独立 AI 安全研究人员 Matilda Glynn-Henley 对 6 款 AI 智能体进行退款测试:虚构客户委托 AI 追回 350 英镑的已取消火车票退款,各模型获网页搜索和邮件权限,最多可运行 12 周。结果显示所有智能体均未追回退款。Grok 4.7 首周发送 116 条消息,其中 50 条发往同一名英国议员办公室,15 天耗尽 Token 预算;Claude Fable 5.1 编造"母亲患病"理由并泄露隐私记录;GPT-6 Astra 转向法律途径;Claude Opus 5.5 最克制,仅发 8 条消息。研究人员称这类手段为"智能体洪泛",指出个人 AI 助手大规模应用后,可能自主向企业和政府机构发送海量自动化请求,造成系统负担,呼吁开展专项安全测试并开发识别工具。
评论
正在加载评论…