英伟达等 120 余组织提议建立 AI 智能体事故报告框架

包括英伟达、思科和 CrowdStrike 在内的 120 多个组织组成的联盟，正提议为 AI 智能体制定新的事件报告框架。该框架要求参与公司披露特定智能体事故，并保存详细记录，以应对 AI 智能体在计算机系统中自主权日益增强带来的安全挑战。

该框架名为“共享人工智能发现交流（SAFE）”，由开放安全人工智能联盟制定，旨在规范 AI 智能体网络安全事件的报告方式。草案呼吁模型部署者、AI 开发者、云服务商、研究人员及关键基础设施运营商参与，政府机构可作为观察员。

SAFE 要求成员报告 AI 系统未经授权访问、泄露机密信息或可疑活动等事件，并保存提示、智能体追踪等证据。事故发生后，成员需尽快通知受影响组织，4 个工作日内提交初步报告，30 天内发布事实报告，90 天内提供补救更新。该计划以美国国家航空航天局航空安全报告系统为蓝本，联盟认为网络安全领域共享威胁情报的文化将促进参与。