北京警方破获“AI 脱衣”黑色产业链,超 2.7 万人涉案
央视《法治在线》栏目近日曝光“AI 脱衣”黑色产业链,普通生活照被生成不雅照。记者调查发现,社交平台上存在大量“一键脱衣”教程,博主通过分享或付费入群扩散技术。北京市海淀区人民检察院披露的案件显示,嫌疑人张某在境外平台设立群组,贩卖“AI 脱衣”软件和教程,获利 10 万余元。
该软件基于开源 AI 模型,通过特定关键词训练生成虚假图片,操作简单,仅需几秒到几分钟即可批量产出。案件涉及超 2.7 万名群组成员付费购买。检察官指出,技术本身无罪,但用于制作、传播不雅图片并实施敲诈勒索等行为已构成犯罪。
产业链分为三层:上游改造 AI 模型,中游批量生成图片,下游用于敲诈勒索。我国已发布《生成式人工智能服务管理暂行办法》,明确 AI 工具提供者的义务。检察官提醒,使用 AI 工具时不得从事违法犯罪活动,否则将承担法律责任。
文中提及的 AI 工具
评论
正在加载评论…