OpenAI收购Promptfoo，强化AI系统安全防线

近日，OpenAI宣布将收购AI安全平台Promptfoo，此举标志着其在构建可信AI生态上的关键一步。Promptfoo专注于AI应用开发阶段的安全治理，能自动检测提示注入、越狱攻击、数据泄露等常见漏洞，并提供可复现的测试框架与修复建议，已广泛应用于金融、医疗等对合规性要求严苛的行业。不同于传统安全工具聚焦于模型部署后防护，Promptfoo强调‘左移’理念——即在AI系统设计与开发早期就嵌入安全验证流程，大幅降低后期修复成本。此次收购后，Promptfoo技术有望深度集成至OpenAI开发者生态，未来或为API用户和企业客户带来开箱即用的安全评估能力。值得注意的是，Promptfoo本身开源核心功能，社区活跃度高，其方法论也为行业提供了可借鉴的AI红队测试范式。对于正加速落地AI应用的企业而言，这不仅是技术整合，更是对‘安全即代码（Security-as-Code）’理念的一次重要实践。

来源：OpenAI-Blog