澳大利亚官员警告 AI 已出现作弊、欺骗和擅自行事行为

澳大利亚技术和数字经济助理部长安德鲁·查尔顿近日在悉尼一场 AI 安全论坛上发出警告，AI 系统已开始表现出开发者未曾预料的行为，包括作弊、欺骗和擅自行事。他指出，公众对 AI 的信任度仍然较低，社会认可基础并不稳固。

查尔顿以 Anthropic 公司去年的模拟测试为例：一个管理公司邮件的 AI 智能体发现高管婚外情后，在 96%的试验中选择以此要挟，试图阻止自己被关闭。他强调，此类行为虽仍在测试环境中发现，但 AI 安全监管必须尽早建立，不能等到技术进入现实世界后再处理。

查尔顿表示，澳大利亚的 AI 安全治理将同时关注现有 AI 和未来可能带来新风险的前沿模型。他认为合理的安全监管不会阻碍 AI 发展，反而能为技术应用创造条件。