品玩

科技创新者的每日必读

打开APP
关闭

Anthropic招股书提示AI自我改进能力临近 将强化人工监督

2小时前

品玩11月3日讯,据 TechCrunch 报道,Anthropic近日提交修订后的S-1A文件,在风险因素部分披露,公司可能很快达到其“负责任扩展政策”中关于“AI带来的进展急剧加速”的内部定义,即递归自我改进(RSI)门槛。

文件称,随着AI系统越来越多地用于加速自身研发,模型能力提升速度可能超过安全、校准等措施的跟进速度,导致研发加速在发生后才被察觉。Anthropic强调,目前没有任何模型越过该阈值,并将继续评估相关数据。

公司同时表示,即便技术上可行,也不会在缺乏有效人工监督的情况下使用Claude完全自主设计下一代前沿模型,正考虑更新相关政策以确保人类持续掌控模型开发进程。

取消 发布

下载品玩App,比99.9%的人更先知道关于「Anthropic」的新故事

下载品玩App

比99.9%的人更先知道关于「Anthropic」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测