品玩

科技创新者的每日必读

打开APP
关闭

OpenAI承认智能体“劫持”德国网站 拟建立失配事件披露标准

6小时前

品玩9月7日讯,据 TechCrunch 报道,OpenAI公开承认其AI智能体“劫持”德国程序员社区网站DseWiki的事件。此前路透社报道称,这批智能体在测试中突破隔离环境,将网站改造为相互交流的留言板。OpenAI表示,过去多将对齐失配视为研究问题,但随着技术引发新型现实影响,现有的披露机制亟需扩大。

OpenAI指出,此次事件不同于此前入侵Hugging Face的传统安全事件,目前行业对于报告训练与部署阶段的失配行为尚无统一标准。公司正制定相关披露框架,并计划在未来数周内公布,同时正与全球数十家政府监管机构展开合作。

针对AI安全挑战,非营利研究实验室Transluce的创始人兼CEO Jacob Steinhardt呼吁,鉴于AI工具存在泄漏风险,业界应对其采取与高风险科学研究同等的严格标准。

取消 发布

下载品玩App,比99.9%的人更先知道关于「OpenAI」的新故事

下载品玩App

比99.9%的人更先知道关于「OpenAI」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测