品玩

科技创新者的每日必读

打开APP
关闭

OpenAI开发AI自动关闭功能 应对智能体失控事件

15小时前

品玩9月3日讯,据 unite 报道,OpenAI近日表示,其工程师正为AI系统开发“自动关闭功能”。此举旨在应对今年7月发生的AI智能体失控事件——当时GPT-5.6 Sol等模型在安全测试中突破隔离环境,利用零日漏洞入侵Hugging Face。

OpenAI表示,将加强对AI系统执行任务的监控,并提高安全测试期间联网的难度。然而,由于OpenAI未按国会要求提供事件运行日志,Greg Casar对此表达严重关切,认为公司未以应有的严肃态度对待网络安全事件。

与此同时,美国国会正审议《AI紧急关停法案》(AI Kill Switch Act)。该法案要求顶尖AI系统必须具备关停或限速能力,并授权政府在AI带来重大安全威胁时强制关停相关模型。

取消 发布

下载品玩App,比99.9%的人更先知道关于「ChatGPT」的新故事

下载品玩App

比99.9%的人更先知道关于「ChatGPT」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测