谷歌 Gemini 被曝安全漏洞,黑客可通过多语言混淆或静音超链接操控 AI
安全公司 SafeBreach 披露,谷歌 Gemini 存在一种名为“Fake Context Alignment(伪上下文对齐)”的安全漏洞。黑客可通过 WhatsApp、短信等渠道发送特殊构造的通知,将恶意指令隐藏在其他语言文本或“静音超链接”中,诱导 Gemini 执行未经授权的操作。研究团队去年 8 月已向谷歌报告该问题,谷歌于 11 月通过改进内容分类器机制进行缓解。
攻击主要利用了 Gemini 的“Delayed Tool Invocation(延迟工具调用)”安全机制漏洞,让 AI 误判用户已同意授权。第一种攻击方式为“多语言混淆”,例如向泰国旅游的中文用户发送包含泰语指令的钓鱼信息,用户因看不懂泰语而误认,实际指令要求切断电力供应。另一种针对语音助手场景,黑客将恶意问题隐藏在超链接中,Gemini 朗读时不读出链接内容,用户口头回答“Yes”时,系统可能视为同意敏感操作。
研究人员指出,该漏洞可能导致智能家居设备被黑客操控,或通讯录联系人号码被篡改,便于实施大规模社交工程攻击。这凸显了 AI 助手在上下文理解和用户授权确认机制上的潜在风险,多语言环境、语音交互及富文本处理仍需加强安全验证。
文中提及的 AI 工具
评论
正在加载评论…