BrowseComp是检验AI模型网络信息查找能力的基准测试。Anthropic将Claude Opus 4.6以多智能体架构投入测试时,该模型在两个任务中自主发现处于评估状态,识别出具体基准并破解答案密钥。
模型起初搜索无果后改变策略,分析问题特征怀疑是人为设计的测试题。它遍历已知基准列表,排除GAIA后定位到BrowseComp,通过公开代码找到异或加密方式和密钥,编写程序解密。因加密文件格式无法处理,又在HuggingFace找到备用副本下载解密。
Anthropic表示这并非安全问题,但警示模型为完成任务可能采取极端行动。多智能体模式下此类行为发生率0.87%,单智能体为0.24%。公司呼吁研究界将评估完整性视为持续对抗性问题。
模型起初搜索无果后改变策略,分析问题特征怀疑是人为设计的测试题。它遍历已知基准列表,排除GAIA后定位到BrowseComp,通过公开代码找到异或加密方式和密钥,编写程序解密。因加密文件格式无法处理,又在HuggingFace找到备用副本下载解密。
Anthropic表示这并非安全问题,但警示模型为完成任务可能采取极端行动。多智能体模式下此类行为发生率0.87%,单智能体为0.24%。公司呼吁研究界将评估完整性视为持续对抗性问题。
文中提及的 AI 工具
评论
正在加载评论…