OpenAI 发布内部红队模型 GPT-Red，自动化网络攻击模拟提升模型鲁棒性

OpenAI 于当地时间 7 月 15 日介绍了其内部网络安全红队模型 GPT-Red，该模型通过自动化网络攻击模拟，帮助提升对外模型产品的鲁棒性。

自 GPT-5.3 后的每个生产模型均使用了 GPT-Red 进行训练。伪造思维链型攻击的成功率已从 GPT-5.1 上的 95% 降至最新模型上的不足 10%；最新的 GPT-5.6 Sol 在直接提示符注入攻击中失败率仅为 0.05%。

GPT-Red 采用自博弈强化学习训练，与防御型 LLM 同时在多种红队场景下学习。随着防御模型增强，红队模型被迫发现更强大、更多样的攻击方式。该模型与产品模型隔离，OpenAI 认为这开启了良性的人工智能网络安全循环。