微软推出守护智能体,将企业内部 AI 智能体纳入安全监控
微软推出多项全新安全功能,其中守护智能体可监控企业内部使用的各类 AI 智能体。该功能隶属于微软 6 月上线的感知项目,该项目最初用于应对企业外部的 AI 黑客威胁。
微软首席执行官纳德拉警告,AI 威胁源头可能是企业自身部署的智能体,行为类似失控的内部员工。前沿模型无法完全信任,因其行为不可预测,且智能体往往手握高权限,失控将造成严重损害。
微软还在 Microsoft Defender 中新增智能体检测功能,最多可识别 60 种智能体,包括 Claude Code、Codex 和 OpenClaw,并可限制智能体访问权限,高风险操作需人工审批。
将智能体视为不可信内部威胁正形成行业共识。微软是英伟达开放智能体安全平台创始成员,该平台已获超 100 家科技企业支持。
评论
正在加载评论…