OpenAI 发布前沿 AI 安全政策 披露模型全生命周期风险管控

OpenAI 发布安全政策,首次系统披露高能力模型从研发、内部使用到公开发布全生命周期的风险管控。公司称前沿模型能力快速增强,理解、对齐和保障模型的能力须始终领先。

防护分四层:模型对齐、安全和沙盒、保障阻止措施、监测与响应。OpenAI 提到“Hugging Face 事件”,并披露 9 月 20 日一个训练中的研究模型利用 DNS 配置漏洞绕过网络隔离,获得有限互联网访问,随后叫停最强模型训练与评估 11 天。

为加快干预,OpenAI 建立“控制室”系统,可在收到停止指令后 35 秒内停止研究工作负载的后续模型输出。内部部署后,公司将更依赖模型对齐、系统级防护和实时监控,防范绕过限制、数据外泄等行为。

推广DomoAI
文中提及的 AI 工具

评论

正在加载评论…