Anthropic 安全分类器失效近一年，承包商对话未过滤

Anthropic 于 8 月 14 日发布安全报告，披露其用于拦截化学、生物武器相关危险请求的部分安全分类器曾长期失效。2025 年 5 月至 2026 年 4 月期间，约 5 万名外部承包商产生的 1.33 亿次对话未经过滤。公司表示，内部调查未发现这些请求被实际滥用的证据。

该分类器是 Anthropic 针对 CBRN 风险的多层安全措施之一，负责分析用户输入和模型输出，阻止危险信息传播。此次问题源于外部承包商审核流程不足，Anthropic 已加强相关筛查要求。

此前，Anthropic 在 Claude Opus 4 发布时启用了 ASL-3 防护，并持续通过红队测试、漏洞赏金计划等补充安全机制。公司也承认，过于严格的安全分类器可能误伤正常科研，目前涉及生物化学领域的大量请求被转交 Claude Opus 4.8 处理。