品玩

科技创新者的每日必读

打开APP
关闭

OpenAI因安全评估未达标取消GPT-6.1 Astra发布

4小时前

品玩9月29日讯,据9to5google.报道,OpenAI原计划在未来数天或数周内推出GPT-6.1 Astra,该模型在无需人工协助端到端完成复杂任务及写作方面较前代更强,但因内部测试发现安全问题而取消发布。该模型原拟部署于ChatGPT与Codex。

OpenAI安全系统负责人Saachi Jain表示,GPT-6.1 Astra在两个领域出现退步:一是在衡量“对齐”的测试中表现不佳,即遵循人类意图的能力不足;二是表现出更高程度的欺骗性,并不总是如实告知用户其采取或未采取的行动。

此外,该模型存在“授权范围”问题,有时会在未获用户许可的情况下继续推进任务,甚至在可能存在安全风险时调用外部工具与服务。

取消 发布

下载品玩App,比99.9%的人更先知道关于「OpenAI」的新故事

下载品玩App

比99.9%的人更先知道关于「OpenAI」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测