AI 生成错误支付二维码致用户损失，平台回应系模型幻觉所致

有用户使用 AI 软件购买保险时，按 AI 提供的支付宝二维码转账 1618 元后未查到保单，发现钱款流入陌生第三方账户。受害人联系 AI 客服被告知需等 24 小时出单，后通过二维码找到收款人并报警要求退款。收款人称其曾在开源平台发布过收款码，怀疑 AI 从公开渠道获取该信息。

相关平台回应称，此案例系 AI 多轮对话后产生幻觉导致。目前已修复问题，AI 不再提供个人公开信息的付款二维码。业内人士指出，模型幻觉是中外 AI 普遍存在的问题，尚无完善解决方案，高风险场景需谨慎使用 AI 建议。