OpenAI 为 GPT-6.2 模型推理链加强防蒸馏保护

OpenAI 发布公告,介绍针对“对抗性蒸馏”的防御措施,并称已加强对 GPT-6.2 Astra 和 GPT-6.2 Sol 内部推理链的保护,降低其他模型通过提取推理过程获取能力的风险。

OpenAI 将对抗性蒸馏定义为未经授权利用前沿模型输出训练其他模型,使后者获得相似能力却缺少原模型的安全防护。内部红队测试显示,提取此前请求推理内容的成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,提取当前请求推理内容则从 22.9% 降至 0.9%。

防护措施包括对抗训练、输入输出分类器和 API 限制跨会话、模型及组织复用推理内容;受保护推理内容会关联对话历史,历史被修改后后续推理会被丢弃。OpenAI 还称每周对未授权蒸馏账号采取行动,规模从数千到数万,并调查大规模提取账号网络、共享攻击指标。

推广DomoAI
文中提及的 AI 工具

评论

正在加载评论…