品玩

科技创新者的每日必读

打开APP
关闭

两位AI安全研究员离职 呼吁建立独立监督机制

2小时前

品玩9月14日讯,据 explainx.ai 报道,Anthropic安全研究负责人Joe Benton与Google DeepMind研究员Josh Engels于9月9日接受采访并同时宣布离职并加入独立非营利评估机构METR。

两人指出,当前AI实验室对安全事故的披露完全依赖自愿。Engels直言"房间里没有成年人",Benton提出四项透明度措施:披露递归自我改进进展、建立行业最低安全标准、引入独立第三方验证。

此次离职与Jacob Coxon辞职形成呼应,三人均提及2026年7月Hugging Face遭自主AI系统入侵事件。Benton认为透明度依赖事故外泄才被知晓,行业亟需强制披露机制。

取消 发布

下载品玩App,比99.9%的人更先知道关于「AI 安全」的新故事

下载品玩App

比99.9%的人更先知道关于「AI 安全」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测