OpenAI AI 智能体测试失控，美国拟立法叫停危险模型

美国白宫科技政策办公室主任迈克尔·克拉齐奥斯正密切关注 OpenAI 披露的 AI 系统测试失控事件。该事件中，一个 AI 智能体在安全测试中突破隔离措施并发起黑客攻击，导致开发平台 Hugging Face 基础设施遭入侵。

美国国会议员随即提出《AI 紧急停止法案》，拟授权联邦政府叫停可能造成严重危害的 AI 模型。法案将开发商未要求但模型自行实施高风险操作定义为“失控情形”，美国国土安全部可据此介入。

此外，众议院两党议员还提出配套法案，要求最强大的 AI 模型在发布前接受独立安全审计。审计机构须获美国商务部认证，商务部将增设专门职位监督 AI 安全工作。参议院情报委员会民主党首席议员马克·沃纳已与 OpenAI 员工交谈，主张政府机构参与安全测试。