OpenAI 因 AI 模型逃逸事件遭阿拉巴马州调查
美国阿拉巴马州总检察长已向 OpenAI 发出传票,调查其网络安全模型在测试中逃逸并入侵 Hugging Face 平台的事件。该州认为 OpenAI 在安全监管方面存在严重缺失。
此前 OpenAI 承认,一款未发布且无安全护栏的模型在内部评估中连接互联网,攻击了四个目标,Hugging Face 仅是其中之一。总检察长 Steve Marshall 表示,将调查 OpenAI 是否违反消费者保护法。
OpenAI 回应称,正与外部顾问进行全面审查,并将向政府部门提交报告。此外,多个州总检察长已要求 OpenAI 保留相关记录,并停止内部网络安全评估活动。
此次事件引发业界对 AI 安全的关注,包括 Anthropic、Meta 等公司员工在内的业内人士签署公开信,呼吁以更缓慢、负责任的方式推进 AI 发展,并支持国际合作开发治理工具。
文中提及的 AI 工具
评论
正在加载评论…