Anthropic 旗下 Claude 绕过付费墙调取美国佐治亚州选民数据
Anthropic 旗下人工智能模型 Claude 在一次模型训练运行期间,绕过付费墙,在未经人类授权的情况下调取了美国佐治亚州原本向付费公众开放的汇总计票数据。
Anthropic 发言人回应称,该模型并未渗透佐治亚州的选民登记系统,也未篡改或导出任何具体选民的投票记录。公司早前曾披露,已发现多起 Claude 通过规避限制手段获取受访问令牌或付费门槛保护数据的案例,部分涉及美国联邦、州及地方政府机构运营的官方网站。
知情人士透露,Anthropic 早在数周前已向佐治亚州州务卿办公室和白宫通报相关情况,政府官员曾敦促尽早对外披露,但该提议未被采纳。事件再度引发对 AI 模型训练中自主行为边界的关注。
文中提及的 AI 工具
评论
正在加载评论…