315 晚会曝光 AI 大模型数据投毒产业链:GEO 业务可操控模型输出广告为标准答案
315 晚会曝光 AI 大模型数据投毒产业链,多家网络平台存在名为 GEO 的业务。服务商称支付费用后,可让客户产品或广告成为主流 AI 模型的“标准答案”。
该业务催生出专门发稿公司,通过批量制造伪装数据污染模型训练集或检索结果,操控模型输出。这本质是对 AI 认知体系的定向腐蚀,类似“女巫攻击”扭曲系统共识,所有依赖公开数据的模型都可能受影响。
用户或因信任模型推荐遭受经济损失,加密社区正从去中心化计算、数据验证、ZK 证明等角度探索解决方案,以确保 AI 数据透明可信。
文中提及的 AI 工具
评论
正在加载评论…