OpenAI 宣布收购 AI 安然平台 Promptfoo

Promptfoo 团队由结合开创人 Ian Webster 与 Michael D’Angelo 引导，其产品已经构建出一套成熟而强大年夜的对象，用于评估与进击模仿（red-teaming），赞助企业在范围化应用大年夜模型时辨认潜在风险。OpenAI 方面称，Promptfoo 在企业级 AI 体系评估、安然与测试方面具有深挚工程积聚，其工作有助于企业安排更安然、靠得住的 AI 应用，将这些才能直回收入 Frontier 将明显晋升平平安台整体安然水位。

根据 OpenAI 颁布的信息，将来在 Frontier 平台上构建智能体的企业，将在几个核心才能上获得加强。起首，安然与安然性测试将被内嵌为平台原生才能：主动化安然测试与红队进击功能将赞助企业辨认懈弛解提示注入、逃狱、数据泄漏、对象误用以及超出策略范围的智能体行动等风险。其次，安然与评估才能将更慎密地融入开辟工作流，使团队可以或许在更早阶段辨认、排查并修复智能体风险，把安然作为企业级 AI 体系开辟与运维的核心环节之一。第三，平台将强化监督与问责才能，经由过程集成申报与可追溯性对象，赞助组织记录测试过程、监测随时光变更的风险状况，并知足日益严格的治理、风险与合规请求。

Promptfoo 结合开创人兼首席履行官 Ian Webster 表示，Promptfoo 的创建初志，是为开辟者供给一套务实可行的筹划，用于保障 AI 体系安然。跟着 AI 智能体与真实数据和关键体系的连接愈发慎密，对其进行安然防护与体系化验证的难度和重要性都在敏捷晋升。他称，参加 OpenAI 将使 Promptfoo 可以或许加快这一偏向的投入，把更强的安然性、靠得住性与治理才能带给正在构建真实世界 AI 体系的团队。

OpenAI 表示，跟着企业将 “AI 同事”（AI coworkers）真实安排到营业流程中，评估、安然与合规已成为基本性请求。企业不仅须要体系化的办法来测试智能体行动、在上线前发明风险，还须要在经久运维中保存清楚的记录，以知足监管、治理与问责需求。OpenAI 筹划在延续 Promptfoo 开源项目标同时，把其才能深度融入 Frontier，为企业用户供给更完全的一体化解决筹划。

OpenAI 表示，对 Promptfoo 团队的参加认为高兴，并将持续打造相干对象，赞助企业安然、靠得住地安排 AI 应用和智能系一切。此次收购的完成仍有赖于惯常的交易交割前提的知足。