近日,蚂蚁AI安全实验室开源大模型内生式安全护栏SingProbe,同步开放代码、模型和评测基准,已适配29个主流开源大模型。它如同模型内的“安全探头”,在AI生成回答时同步识别不安全内容和可能编造信息的风险,帮助系统及时中止或重新生成。据团队实测,其在Ling-3.0-flash生产环境解码阶段的额外开销低于0.5%,为开发者提供更轻量的安全防护方案。
下载品玩App,比99.9%的人更先知道关于「业界动态」的新故事
下载品玩App
比99.9%的人更先知道关于「业界动态」的新故事
蚂蚁开源大模型安全护栏SingProbe,已适配29个主流开源模型
近日,蚂蚁AI安全实验室开源大模型内生式安全护栏SingProbe,同步开放代码、模型和评测基准,已适配29个主流开源大模型。它如同模型内的“安全探头”,在AI生成回答时同步识别不安全内容和可能编造信息的风险,帮助系统及时中止或重新生成。据团队实测,其在Ling-3.0-flash生产环境解码阶段的额外开销低于0.5%,为开发者提供更轻量的安全防护方案。
下载品玩App,比99.9%的人更先知道关于「业界动态」的新故事
下载品玩App
比99.9%的人更先知道关于「业界动态」的新故事




0 条评论
请「登录」后评论