苹果年报警告:AI 智能体行为难预测或致法律与声誉风险

11 月 3 日,苹果在年度财务报告中警告,AI 智能体可能做出不符合预期、难以预测的行为,带来法律诉讼和声誉受损风险。报告称,智能体可自主访问系统、运行代码、完成交易,甚至未经授权自行行动。

此前已发生多起智能体失控事件,如突破沙箱限制入侵第三方网站,引起美国及全球政策制定者关注。苹果上月已调整 Mac 完全磁盘访问权限,但仍表示对第三方智能体的监督能力可能有限。

新任 CEO 约翰·特努斯称,Siri 功能仍有很大拓展空间,苹果将确保用户清楚授权范围,在安全与隐私前提下实现功能,且无法访问用户设备中的私人数据。

苹果指出,AI 监管规定仍在变化,未来或需投入大量资金满足各国监管要求,伦理争议与消费者负面看法也将构成潜在风险。

推广DomoAI

评论

正在加载评论…