Anthropic 推出防蒸馏新防护,Claude 被窃取数据量降九成以上
模型蒸馏是指让小模型学习大模型输出来复刻其能力的技术,头部 AI 企业担忧竞争对手可借此以更低成本、更快速度复刻前沿模型能力。
Anthropic 表示,新防护已将蒸馏攻击中被窃取的数据量降低约 90%至 99%,攻击者如今能提取的 Claude 推理词元仅为之前的十分之一至百分之一,利用代理网络反复探测受保护推理链路的难度也随之加大。
Anthropic 称,这套安全系统的稳健程度大致相当于阻止 Claude 协助制造生物武器的防护体系,误报率低于 0.1%。该公司还封禁了数万个与蒸馏活动相关的账号。
Anthropic 以中国 AI 初创企业智谱 AI 为例,称其在研发 GLM-5.3 模型期间曾尝试从 Claude 蒸馏提取能力,并警告此类行为会带来安全与国家安全风险。
文中提及的 AI 工具
评论
正在加载评论…