中央网信办整治 AI 应用乱象，清理违规信息 561 万余条

中央网信办今日公布“清朗·整治 AI 应用乱象”专项行动第二阶段进展，累计清理违法违规信息 561 万余条，查处账号 4.9 万余个，处置违规网站、应用等 2400 余个。行动聚焦 AI 制作虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等问题。北京、上海、浙江、广东等地网信部门推出针对性措施，如升级审核策略、督促平台自查自纠、开展合规指导等。抖音、快手、微博、腾讯、百度等平台强化技术赋能，优化多模态识别模型，上线人脸实时治理系统，提升违规内容拦截效率。豆包、元宝、千问、文心一言等平台严把语料审核关，强化 AI 生成内容标识。华为、小米、OPPO、vivo 等应用商店制定严格开发者规范，拦截违规应用。典型违规案例包括利用 AI“魔改”经典名著、生成虚假灾害画面、AI 换脸假冒公众人物、发布“毒动画”等。网信办表示将继续监测 AI 生成内容新风险，防范技术滥用。