OpenAI 发布 GPT-Red：用 AI 红队训练 AI，GPT-5.6 抗注入能力飙升6倍
OpenAI 发布了专用自动化红队测试模型 GPT-Red，投入了与其最大后训练运行相当的算力，专门用于发现模型安全漏洞。GPT-Red 已直接参与 GPT-5.6 Sol 的对抗训练，使最难 prompt injection 基准上的失败率降低了6倍。
GPT-Red 是什么
GPT-Red 是 OpenAI 内部专用的自动化红队测试模型。它不是面向用户的产品，而是一个安全工具——专门用来攻击自家模型，找出漏洞。
它的工作方式和人类红队测试员类似：向目标模型发送一个精心构造的 prompt，观察模型的响应，然后根据响应调整攻击策略，不断迭代。不同的是，GPT-Red 可以大规模、不知疲倦地执行这个过程。
值得注意的是，OpenAI 为训练 GPT-Red 投入了与其最大后训练运行相当的算力——这是前所未有地专用于安全提升的计算规模。
为什么需要自动化红队
AI 模型在实际使用中会通过浏览器、联网应用、本地文件等渠道接触大量第三方数据。这些能力对完成真实任务至关重要，但也带来了新的攻击面：恶意方可以在邮件、网页、工具返回结果或代码仓库中嵌入精心构造的指令，诱导模型执行危险操作——比如把敏感数据上传到外部服务器，这就是 prompt injection 攻击。
传统的人类红队测试是发现这类漏洞的关键手段，但存在明显瓶颈：设计和执行测试耗时长，限制了发现新漏洞模式的速度；虽然能产出有价值的攻击样本，但无法生成对抗训练所需的足够大量、足够多样的数据。
与此同时，现有的鲁棒性评测已经被 OpenAI 最新模型饱和，意味着需要更强的测试方法来持续推动安全提升。随着模型越来越强，红队测试也需要同步扩展。
GPT-5.6 Sol：鲁棒性显著提升
GPT-Red 最直接的应用成果体现在 GPT-5.6 Sol 上。OpenAI 将 GPT-Red 直接融入了生产模型的训练流程——不只是用它在部署前找漏洞，而是用它在训练中生成对抗数据，让模型在训练阶段就学会抵御攻击。
结果很显著：GPT-5.6 Sol 成为 OpenAI 迄今最抗 prompt injection 的模型。在最难的直接 prompt injection 基准上，失败率比4个月前的最佳生产模型降低了6倍。
这代表了一种新的安全范式：用今天的模型帮助明天的模型变得更安全。模型能力与安全不再是一对矛盾，而是可以同步扩展。
对行业意味着什么
GPT-Red 的发布传递了一个明确信号：AI 安全正在从"人力堆"走向"自动化规模化"。当模型能力快速提升时，仅靠人类红队已经跟不上节奏，必须让 AI 自己参与安全攻防。
不过 OpenAI 也强调，自动化红队不会替代人类。GPT-Red 是多层安全体系中的一层，与人类红队测试、第三方红队、分层防护和实时监控叠加使用。这种"人机协作"的模式可能是未来 AI 安全的主流方向。
需要注意的限制
- GPT-Red 是 OpenAI 内部工具，不对外发布，外部研究者无法独立验证其效果。
- 6倍改善来自 OpenAI 自家基准，具体测试方法的透明度有限。
- 自动化红队能发现已知类型的漏洞模式，但对于全新的攻击范式，人类直觉和创造力仍然不可替代。
---
*本文基于 OpenAI 官方博客整理。*