品玩

科技创新者的每日必读

打开APP
关闭

OpenAI宣布收购AI安全Promptfoo

3小时前

品玩3月10日讯,OpenAI宣布将收购Promptfoo,一家专注于识别和修复AI系统开发阶段安全漏洞的企业级平台。收购完成后,Promptfoo的技术将深度集成至OpenAI Frontier——其面向企业构建与运营AI协作者的平台。

随着企业将AI协作者部署至真实业务流程,安全、合规与可审计性已成为基础需求。Promptfoo由Ian Webster与Michael D’Angelo共同领导,其开源CLI及评估库已被超25%的《财富》500强企业采用,广泛用于大模型应用的红队测试与行为验证。

OpenAI B2B应用首席技术官Srinivas Narayanan表示:“Promptfoo在企业级AI系统安全评估方面具备深厚工程能力,其技术将直接增强Frontier的安全内生能力。”未来,Frontier将内置自动化安全测试,覆盖提示注入、越狱攻击、数据泄露及越权工具调用等风险,并强化开发流程中的风险追溯、治理报告与合规支持。

Promptfoo联合创始人兼CEO Ian Webster称,此次整合将加速构建更安全、可靠的AI系统验证体系,助力企业在真实场景中负责任地部署AI。双方将继续维护并发展Promptfoo开源项目。

取消 发布

下载品玩App,比99.9%的人更先知道关于「OpenAI」的新故事

下载品玩App

比99.9%的人更先知道关于「OpenAI」的新故事

iOS版本 Android版本
立即下载
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测