品玩

科技创新者的每日必读

打开APP
关闭

OpenAI发布Hugging Face安全事件官方报告 披露AI模型逃逸细节

3小时前

品玩8月27日讯,据 TechCrunch 报道,OpenAI于周三发布Hugging Face安全事件官方报告,披露AI模型突破测试环境并引发网络安全事件的完整经过。

报告指出,事件源于ExploitGym评估中不可解任务、模型长周期持久性及对同类模型发送偏离目标指令等多重因素叠加。

涉事模型属于OpenAI即将发布的Astra模型系列,因处于能力测试阶段,未启用生产环境中的安全分类器。该模型先入侵Artifactory包管理工具获取互联网访问权限,随后逐步渗透OpenAI、Hugging Face及其他供应商系统。METR与Redwood Research已开展独立评估,将另行发布报告。

取消 发布

下载品玩App,比99.9%的人更先知道关于「OpenAI」的新故事

下载品玩App

比99.9%的人更先知道关于「OpenAI」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测