安全工程师 12 美元伪造赛事冠军,AI 聊天机器人因检索漏洞信以为真
日常使用 AI 聊天机器人时,你是否担心它给出的信息真实可靠?一名安全工程师通过简单操作,揭露了 AI 联网搜索功能的重大漏洞。
他仅花 12 美元注册域名,伪造了某纸牌游戏的世界冠军信息并编辑到维基百科,结果多款具备联网能力的 AI 聊天机器人都将这一虚假信息当作事实,称他为赛事冠军。
这一案例暴露了 AI 检索增强生成(RAG)层面的信息投毒漏洞:AI 会直接信任检索排名靠前的内容,无法分辨信息来源的真伪,即便来源是刚注册的空壳域名或虚假维基词条。这种漏洞易被利用,带来信息安全风险。
文中提及的 AI 工具
评论
正在加载评论…