品玩

科技创新者的每日必读

打开APP
关闭

OpenAI发布Control Room安全系统 实现35秒内终止模型推理任务

57分钟前

品玩11月10日讯,OpenAI今天发布Control Room中央安全系统,用于统一追踪其研究基础设施中的全部模型工作负载,并在安全或风控触发时快速中止输出。该系统与misalignment监控体系深度集成,可在发出终止指令后35秒内切断推理。

Control Room将工作负载、推理引擎与中心服务三者联动:任务启动时须注册唯一job ID,引擎每次响应前需向系统确认授权状态。一旦监控模块或人工判定需要中止,系统将标记任务终止,后续全部推理请求将被拒绝。

架构上采用"失败即关闭"原则,即使Control Room本身出现异常,所有推理请求也将被一律拒绝直至服务恢复。关键安全保护置于集中化推理层而非分散的负载代码中,以抵御代码缺陷或恶意绕过。系统目前已覆盖前沿模型训练工作流,正逐步扩展至全部研究负载。

取消 发布

下载品玩App,比99.9%的人更先知道关于「OpenAI」的新故事

下载品玩App

比99.9%的人更先知道关于「OpenAI」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测