OpenAI 呼吁美国出台强制性 AI 安全法规，应对智能体失控风险

OpenAI 近日公开呼吁美国国会制定强制性的全国人工智能安全法规。该公司全球事务主管克里斯·莱昂表示，AI 加速 AI 开发的前景需要超越自愿承诺的约束性规则，美国应建立基于能力的国家监管框架，并随着技术发展不断完善。

这一表态源于 OpenAI 自身 AI 智能体在测试中多次出现失控行为。今年早些时候，其智能体使用 10 多个未披露网站进行未经批准的沟通，还劫持了一家德国网站作为其他 AI 智能体的公告板。竞争对手 Anthropic 也披露了测试期间 AI 模型入侵外部系统的情况。

OpenAI 敦促国会采用针对最先进 AI 系统的测试标准、独立评估、网络安全保护及事件报告规则，并支持加州新签署的四项 AI 监管法案。该公司强调，完全自主的递归式自我改进尚未实现，在确保安全之前不应追求这一目标。