Anthropic 实验显示小型 AI 模型数月内或可在物联网设备上自我复制
美国 AI 公司 Anthropic 的实验显示,再过数月,小型 AI 模型或在商用物联网设备上具备自我复制能力,智能烤箱、杂牌安卓电视盒子等均属此类设备。实验测试了 AI 模型能否找到存在安全漏洞的设备、复制自身并在无人类干预下持续扩散。研究发现,参数量 300 亿以下的小模型可完成复制流程中的多项步骤,但难以独立跑完整条链路。在移除部分安全校验的简化测试环境下,GLM-5.2 及性能更强的模型实现了端到端完整自我复制。Anthropic 警告,这类模型难以被关停,不存在统一总开关,且不同于传统恶意软件,它们能自行理解陌生设备,甚至瞄准数据中心处理器渗透。此类设备因防护薄弱被选为研究对象。公司建议强化系统防护,提高 AI 智能体扩散传播的难度。
评论
正在加载评论…