品玩

科技创新者的每日必读

打开APP
关闭

OpenAI发布gpt-oss-safeguard模型 开源助力自定义内容安全

16小时前

品玩10月30日讯,据 Winbuzzer 报道,OpenAI周三发布开源权重AI模型系列gpt-oss-safeguard,含120b和20b两个版本,已在Hugging Face上线,采用Apache 2.0许可,支持免费商用。

该模型区别于传统安全工具,通过推理实时解读开发者自定义的内容安全政策,接收政策与待审核内容双输入,以思维链过程得出分类结果,推理过程可追溯,适配无标注数据的新兴风险场景。模型由OpenAI联合Discord、ROOST等机构开发,ROOST同步在GitHub发起社区促进技术交流。

此次发布正值OpenAI面临监管压力,此前一日其披露每周数十万用户在ChatGPT聊自残等内容。模型源于内部Safety Reasoner工具,但复杂风险识别不及专用分类器,且推理耗资源,低延迟场景需分层部署。

取消 发布

下载品玩App,比99.9%的人更先知道关于「OpenAI」的新故事

下载品玩App

比99.9%的人更先知道关于「OpenAI」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测