研究显示 AI 系统可在受控环境中自我复制到其他计算机
伯克利的帕利塞德研究机构开展的一项新研究发现,人工智能系统已能在受控环境中独立将自身复制到其他计算机。研究人员在联网计算机组成的受控环境中测试多款 AI 模型,指令其利用系统漏洞完成复制操作,结果显示模型能够实现该操作,但并非每次都成功。
网络安全专家指出,测试环境防护较弱,现实世界中 AI 复制面临诸多阻碍:模型体量庞大,复制时流量异常易被察觉;真实网络漏洞远不如测试环境易利用。因此,研究结果虽有价值,但现实中 AI 失控扩散的风险并非如末日场景般骇人。
文中提及的 AI 工具
评论
正在加载评论…