xAI 起诉用户滥用 Grok 生成儿童性虐待材料

马斯克旗下 AI 公司 xAI 对南卡罗来纳州男子特里·哈伍德提起诉讼，指控其滥用 Grok 生成儿童性虐待材料。哈伍德今年 2 月因涉嫌性剥削未成年人被捕。xAI 在得克萨斯州联邦法院提交诉状，称其违反服务条款。

xAI 表示已暂停 52222 个账户，并向美国国家失踪与受虐儿童中心提交 73604 份报告，促成至少 244 人被捕。诉状指出，哈伍德上传普通照片至 Grok，试图生成以照片人物为对象的色情深度伪造内容，包括未成年人。

xAI 要求法院判令哈伍德支付赔偿金，并永久禁止其使用 Grok。公司称被告蓄意将工具变成犯罪武器，造成受害者深重伤害，也使 xAI 面临法律风险和声誉损失。