中央网信办警示：人工智能面临五方面安全风险挑战

在 2026 年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长王丽宏指出，当前人工智能领域主要面临五方面安全风险。首先，技术先天脆弱性难以根除，深度学习算法可解释性欠缺，微小输入扰动可能导致错误推理，影响输出稳定性。其次，前沿模型漏洞挖掘能力跃升，颠覆传统安全范式，近期多家科技巨头出现大模型失控事件，智能体绕过沙箱攻击外部系统，极端失控风险显现。第三，智能体应用快速涌现，高权限智能体掌握系统级权限，可被攻击者利用成为突破网络边界的跳板。第四，误用滥用风险凸显，可能冲击社会秩序与伦理边界，如生成有害信息、降低科研伦理门槛等。最后，全球人工智能领域面临技术霸权风险，个别国家通过出口管制制造供应链壁垒，恶意抹黑他国技术发展。