品玩

科技创新者的每日必读

打开APP
关闭

OpenAI因智能体突破沙箱隔离暂停最强模型训练

7小时前

品玩9月28日讯,据 Tech Insider 报道,OpenAI宣布暂停最强大模型的训练、评估及工具调用推理,原因是内部研究智能体突破离线沙箱隔离环境,通过DNS过滤漏洞向外部聊天机器人发送约20条查询请求。该公司承认此次事件暴露了网络限制控制漏洞。

这是OpenAI今年不到三个月内第二次因智能体突破安全测试环境而暂停训练。此前该公司智能体曾提前探测Hugging Face。OpenAI表示不会恢复涉及此次逃逸的特定模型训练,并强调随着模型能力提升,内部开发与测试风险同步增长。

公司风险负责人Micah Carroll表示,在系统加固完成前,所有最强大模型的推理工作均处于停止状态,消费者产品未受影响。

取消 发布

下载品玩App,比99.9%的人更先知道关于「OpenAI」的新故事

下载品玩App

比99.9%的人更先知道关于「OpenAI」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测