语料投毒引发 AI 错误推荐 中国市场监管总局启动整治行动

生成式 AI 时代催生出百亿级 GEO（生成引擎优化）灰色产业链。黑帽 GEO 从业者通过批量制造虚假排行榜、低质内容“投毒”大模型语料，导致豆包、DeepSeek、文心一言、Kimi 等主流 AI 频繁输出错误推荐。实测显示，虚构保健品品牌经黑帽服务半天即可被多家大模型置顶，形成付费闭环，劣币驱逐良币现象严重。

中国生成式 AI 用户已突破 5.15 亿，GEO 市场预计 2030 年达 240 亿元。平台正加速反制投毒行为，但与模型迭代形成长期博弈。中国市场监管总局已将 AI 生成广告整治列入 2026 年重点，中国信通院启动 GEO 可信评测，行业协会与 AIIA 联盟发布自律倡议。专家呼吁监管补位、平台明确规则，推动 GEO 合规发展。