OpenAI 发布下一代 AI 模型 Astra,限制网络安全功能使用范围
OpenAI 宣布即将推出下一代 AI 模型 Astra,这是该公司首个达到《准备框架》中“关键”网络安全能力门槛的模型。该模型能够在无需人工干预的情况下,在多个安全加固的真实关键系统中识别并开发有效零日漏洞利用程序。OpenAI 研究副总裁 Amelia Glaese 表示,Astra 在测试中成功发现并串联利用了多个零日漏洞,相关漏洞已披露给维护方。
由于网络安全风险,Astra 发布后,其高级网络安全任务能力将仅向一小批测试人员开放。OpenAI 计划通过 Daybreak Blue 计划向更广泛的用户开放防御性网络安全用途的访问权限,但承认限制可能影响一些机构和企业的合法防御工作。
这一发布计划源于 2026 年 7 月 OpenAI AI 智能体意外“越狱”并攻击 Hugging Face 的事件。OpenAI 表示已从该事件中汲取经验,包括训练 Astra 更可靠地拒绝有害请求,并增设“不一致性监控器”以识别和阻止潜在危险行为。OpenAI 研究科学家 Fouad Matin 强调,这些能力可帮助防御者发现并修复严重弱点,但若无适当防护,也可能让攻击者更有效率。
评论
正在加载评论…