OpenAI 刚刚开源了两个专门用于安全分类的推理模型。
这次发布的 gpt-oss-safeguard 包含两个版本：120b 和 20b 参数量，都是基于 gpt-oss 开源模型微调而来。
且采用的是 Apache 2.0 许可证，即任何人都可以自由使用、修改和部署！
告别传统分类器的束缚
传统的安全分类器是怎么工作的呢？
先收集成千上万个安全和不安全内容的例子，然后训练模型从中学习区分规律。
要知道，这种方法有个致命缺陷：分类器从来没有真正「看到」过安全策略本身，它只是在猜测标注背后的逻辑。
而 gpt-oss-safeguard 完全不同：
它能直接理解开发者提供的策略文档，然后根据这个策略来分类内容。就像给了 AI 一本规则手册，它能实时查阅并作出判断。
更为便利的是，开发者可以随时修改策略，不需要重新训练模型。
游戏论坛想要识别作弊讨论？
产品评论网站要筛查虚假评论？
写个策略文档，就行了！
推理能力超越 GPT-5
OpenAI 在内部评估中做了个有趣的实验：同时给模型多个策略，看它能否准确分类。
这只有在所有策略上都判断正确才算成功。
结果让人有些意外：
gpt-oss-safeguard 的表现超过了 GPT-5-thinking 和基础的 gpt-oss 模型。
要知道，gpt-oss-safeguard 的参数量可比 GPT-5 小多了，这样的「以小博大」的胜利尤其令人印象深刻。
在 2022 年的内容审核评估集上，gpt-oss-safeguard 略微领先所有测试模型，包括 OpenAI 内部的 Safety Reasoner 和 GPT-5-thinking。
在 ToxicChat 数据集上，虽然 GPT-5-thinking 和 Safety Reasoner 略占上风，但考虑到 gpt-oss-safeguard 的模型规模，它的性价比明显更高。
内部秘密武器
其实，这套方法 OpenAI 自己已经用了很久。
他们内部有个叫 Safety Reasoner 的工具，正是 gpt-oss-safeguard 的原型。
OpenAI 透露，在最近的一些产品发布中，用于安全推理的算力占比高达 16%！
在图像生成和 Sora 2 中，Safety Reasoner 会动态评估输出，实时拦截不安全的生成内容。
在生物学和自残等敏感领域，他们先用快速的小模型进行初筛，再用 Safety Reasoner 进行详细审查。
这种「先快速过滤，再精准判断」的分层架构，已经成为 OpenAI 安全系统的核心组件，覆盖了 GPT-5 和 ChatGPT Agent 等所有系统。
开发者的新玩具
Hugging Face 的 Vaibhav (VB) Srivastav (@reach_vb) 看到后，第一时间兴奋地分享：
Wohoooo! 恭喜发布 🔥 Love the weights on the hub 🤗
模型已经上传到 Hugging Face，开发者可以立即下载使用。
OpenAI 还贴心地准备了详细的开发文档，教你如何编写策略提示词、选择合适的策略长度，以及如何将推理输出集成到生产环境的信任与安全系统中。
但 Mark 마크 (@Makuh90) 力挺 OpenAI：
我欣赏这种精神。坚持到底，绝不放弃。安全至上，必须面对。
与社区共建
OpenAI 这次选择与 ROOST 合作，共同打磨这个开源版本。
还共同确定了开发者的关键需求，测试了模型，并编写了开发者文档。并放出了 cookbook 解释了如何编写策略提示以最大限度地发挥 gpt-oss-safeguard 的推理能力，选择合适的策略长度进行深度分析，并将 oss-safeguard 的推理输出集成到生产信任与安全系统中。
ROOST 的 CTO Vinay Rao 评价说：
gpt-oss-safeguard 是第一个采用『自带策略和危害定义』设计的开源推理模型。在我们的测试中，它在理解不同策略、解释推理过程和应用策略的细微差别方面都表现出色。
ROOST 还建立了一个模型社区，专门探索如何用开源 AI 模型保护网络空间。
这个社区将汇集安全从业者和研究人员，分享实施开源 AI 模型到安全工作流程的最佳实践。
当然，gpt-oss-safeguard 也有局限性。
对于特别复杂的风险，基于数万个高质量标注样本训练的专用分类器可能表现更好。而且推理模型需要更多计算资源和时间，这让它难以扩展到所有平台内容。
但这些,都不妨碍它成为开发者工具箱中的利器。
当你需要快速适应新出现的风险、处理高度细分的领域、或者没有足够样本训练专用分类器时，gpt-oss-safeguard 就是你的最佳选择。
