品玩

科技创新者的每日必读

打开APP
关闭

Anthropic向METR开放员工级访问权限 引入独立安全评估

3小时前

品玩10月16日讯,据 TechCrunch 报道,Anthropic于10月15日宣布,已向非营利机构METR的6名研究人员提供员工级访问权限,以独立评估其模型、安全实践及风险管理。METR研究人员将获得公司笔记本电脑、办公空间及与内部风险评估团队大致同级的内部工具访问权限。

Anthropic将此举类比为银行业监管中向大型银行派驻常驻检查员的模式,旨在缩小外部评估机构与公司自身对系统理解之间的差距。METR将独立发布对Anthropic风险、事件及实践的评估报告,Anthropic放弃否决权,仅可在客户数据、律师-客户特权信息及模型架构等预设范围内要求脱敏。

该安排是Anthropic正在构建的三层评估体系中的最高层级。此前Anthropic CEO Dario Amodei在9月提出嵌入外部评估者的倡议,OpenAI随后表示跟进。目前,OpenAI、Google、Meta、Nvidia和xAI均已签署白宫协议,承诺接受独立审查。

取消 发布

下载品玩App,比99.9%的人更先知道关于「Anthropic」的新故事

下载品玩App

比99.9%的人更先知道关于「Anthropic」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测