英伟达组建 AI 安全团队，押注开放权重模型

英伟达正在组建一支新的 AI 安全与网络安全工程团队，旨在评估未部署的 AI 智能体安全，并开发自动修复软件漏洞的工具。此举凸显了英伟达在押注开放权重模型和 AI 智能体的同时，将 AI 安全提升至更重要的位置。

开放权重模型公开训练参数，但训练数据和源代码可保持封闭。英伟达在招聘信息中强调，开放权重模型、技术透明度和广泛科学审查是美国维持 AI 领先地位及增强网络安全防御的基础。

近几个月，英伟达频繁公开支持开放权重 AI 模型，与 OpenAI 和 Anthropic 的封闭模型路线形成对比。创始人兼 CEO 黄仁勋上月首次在 X 平台发文，呼吁美国政策制定者支持开放模型，并指出开放模型能提高 AI 安全性。

随着 AI 从聊天机器人转向能处理敏感数据的智能体，企业能否信任 AI 系统将成为普及速度的关键。