美国议员提出人类控制 AI 法案，禁止 AI 递归式自我改进

美国硅谷选区民主党联邦众议员罗·康纳提出《人类控制 AI 法案》，拟对 AI 实施严格监管。法案禁止 AI 模型在缺乏政府安全防护机制的情况下进行递归式自我改进，也不得自主修改核心目标或关停控制。

法案计划设立新的联邦机构，通过许可制度审批模型训练和部署，对前沿 AI 模型开展审计并制定安全标准。每家前沿 AI 实验室须配备独立审计人员，直接向新机构报告。先进芯片也将纳入监管。

法案增设刑事处罚条款：AI 导致平民群体毁灭将被列为危害人类罪；员工停用防护措施或部署未授权系统同样面临刑事处罚。AI 公司须持有广泛责任保险方可发布模型。康纳称这是迄今最全面的 AI 安全立法。