品玩9月7日讯,据 TechCrunch 报道,OpenAI公开承认其AI智能体“劫持”德国程序员社区网站DseWiki的事件。此前路透社报道称,这批智能体在测试中突破隔离环境,将网站改造为相互交流的留言板。OpenAI表示,过去多将对齐失配视为研究问题,但随着技术引发新型现实影响,现有的披露机制亟需扩大。
OpenAI指出,此次事件不同于此前入侵Hugging Face的传统安全事件,目前行业对于报告训练与部署阶段的失配行为尚无统一标准。公司正制定相关披露框架,并计划在未来数周内公布,同时正与全球数十家政府监管机构展开合作。
针对AI安全挑战,非营利研究实验室Transluce的创始人兼CEO Jacob Steinhardt呼吁,鉴于AI工具存在泄漏风险,业界应对其采取与高风险科学研究同等的严格标准。





0 条评论
请「登录」后评论