Anthropic 建议加州政府可申请法院禁令拦截高风险 AI 模型

Anthropic 在致美国加州州长纽森的信中建议，政府应有权向法院申请禁令，阻止对公众构成“严重风险”的 AI 模型发布，这与其一贯的监管立场一致。

今年 9 月，纽森召集 AI 专家小组研究安全规则，Anthropic 随后提交上述意见。公司指出，设置可关闭整个模型的“紧急关闭开关”可能让官员产生虚假安全感，更倾向于停用问题智能体、暂停特定客户权限等针对性措施。

此前，美国政府曾以国家安全为由，要求限制外国用户访问 Anthropic 两款具备网络安全能力的模型，商务部随后撤销该命令。美国国会也讨论过授权政府禁发高风险模型的法案，OpenAI 亦向纽森提交了建议。