品玩

科技创新者的每日必读

打开APP
关闭

北京智源发布FlagSafe大模型安全体系

1小时前

品玩5月11日讯,北京智源人工智能研究院联合北大、北航等机构正式发布FlagSafe大模型安全体系。该体系聚焦红队演练、蓝队防御与白盒透视三大方向,旨在构建覆盖风险发现、治理与解释的完整闭环。

针对跨模态及具身智能带来的复合风险,FlagSafe确立五项安全红线,并建立全面评估基线。红队方面,通过Eval-Anything与VLA-Arena框架,实现从全模态能力到物理世界行动的风险主动暴露;蓝队方面,集成Align-Anything与ClawKeeper等技术,形成从训练对齐到动态内容监测的持续防御机制;白盒方面,深入模型内部机理与数据溯源,精准定位风险根因并提供修正依据。

该体系标志着我国在大模型安全协同生态建设上迈出关键一步,未来将持续汇聚科研力量,推动行业标准制定,为人工智能高质量发展保驾护航。

取消 发布

下载品玩App,比99.9%的人更先知道关于「智源研究院」的新故事

下载品玩App

比99.9%的人更先知道关于「智源研究院」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测