Anthropic萬名工程師都離不開！深夜隨手?jǐn)]出的開源神器，被OpenAl高價收購，23人創(chuàng)業(yè)逆襲

整理 | 華衛(wèi)

昨日，OpenAI 宣布收購了 Promptfoo 以保障其 AI 智能體的安全。這家成立于 2024 年的 AI 安全初創(chuàng)公司，專注于保護(hù)大語言模型免受網(wǎng)絡(luò)攻擊。OpenAI 在一篇博客文章中表示，交易完成后，Promptfoo 的技術(shù)將整合進(jìn) OpenAI Frontier，該平臺是其近期推出的、供企業(yè)構(gòu)建和管理 AI 智能體的平臺。

而 Promptfoo 背后的故事簡直令人難以置信：一位 Discord 工程師出于興趣開發(fā)了一款 AI 安全工具。一夜之間，來自 Anthropic、亞馬遜和 Shopify 的 25000 名工程師就開始使用它，這甚至在它正式發(fā)布之前。一年后，財(cái)富 500 強(qiáng)企業(yè)中有 25% 的公司和 100000 名工程師都在使用它。

23 個人干兩年，

“收割”35 萬 AI 開發(fā)者

成立僅兩年的 Promptfoo 開發(fā)用于測試 AI 系統(tǒng)安全的開源工具，其中包括開源界面與函數(shù)庫，同時幫助企業(yè)通過模擬攻擊自家產(chǎn)品來尋找漏洞，這一過程被稱為紅隊(duì)演練。

這家總部位于舊金山的初創(chuàng)公司目前擁有 23 名員工，由 Ian Webster 和 Michael D’Angelo 創(chuàng)立，后者曾擔(dān)任身份驗(yàn)證公司 Smile Identity 的工程副總裁兼 AI 負(fù)責(zé)人，擁有將機(jī)器學(xué)習(xí)解決方案擴(kuò)展到服務(wù)超過一億人、覆蓋數(shù)百家企業(yè)的業(yè)績。

Michael D’Angelo

Webster 此前在 Discord 領(lǐng)導(dǎo) LLM 工程和開發(fā)平臺團(tuán)隊(duì)，將交付的 AI 產(chǎn)品擴(kuò)展到 2 億用戶。他當(dāng)時發(fā)現(xiàn)，安全行業(yè)尚未跟上時代：團(tuán)隊(duì)用來保障產(chǎn)品安全的工具，都是為另一個時代設(shè)計(jì)的。傳統(tǒng)漏洞掃描器無法理解提示詞注入，靜態(tài)分析也無法識別模型向用戶承諾超出其權(quán)限的內(nèi)容。他得出結(jié)論：針對 AI 應(yīng)用的測試基礎(chǔ)設(shè)施，根本就不存在。

Ian Webster

于是，他利用夜晚和周末時間，自己動手打造了一個開源項(xiàng)目。后來，這個項(xiàng)目成為了 Promptfoo。

該產(chǎn)品的工作原理是扮演自動化攻擊者。Promptfoo 平臺不依賴人工滲透測試，而是通過聊天界面或 API 直接對接客戶的 AI 應(yīng)用，使用專門的模型與智能體模擬普通用戶甚至攻擊者的行為。一旦攻擊成功，平臺會記錄結(jié)果、分析成因，并通過智能體推理循環(huán)迭代優(yōu)化測試，暴露更深層的漏洞。平臺針對的風(fēng)險包括：提示詞注入、數(shù)據(jù)泄露、模型越獄以及“應(yīng)用層故障”，如 AI 系統(tǒng)向用戶承諾無法兌現(xiàn)的功能、在客服查詢中泄露數(shù)據(jù)庫內(nèi)容或在作業(yè)輔導(dǎo)中發(fā)表政治觀點(diǎn)等。

Promptfoo 于 2024 年正式商業(yè)化運(yùn)營，并獲得 a16z 500 萬美元種子輪融資。該輪融資吸引了一眾知名天使投資人，包括 Shopify 首席執(zhí)行官 Tobi Lütke、Discord 首席技術(shù)官 Stanislav Vishnevskiy 以及 Okta 聯(lián)合創(chuàng)始人 Frederic Kerrest。在 2025 年 7 月，公司完成由 Insight Partners 領(lǐng)投、a16z 繼續(xù)參投的 1840 萬美元 A 輪融資。據(jù)金融數(shù)據(jù)平臺 PitchBook 披露，Promptfoo 自成立以來僅融資 2300 萬美元，最新一輪融資后的估值達(dá) 8600 萬美元。

Webster 剛剛在 X 上稱，已有超過 35 萬名開發(fā)者以及超過 25% 的世界 500 強(qiáng)企業(yè)使用其產(chǎn)品。

被收購后保持開源，

還供 Anthropic 使用、捐款

本次收購的具體金額當(dāng)前并未被披露，但 OpenAI 表示 Promptfoo 團(tuán)隊(duì)將加入 OpenAI。Promptfoo 首席執(zhí)行官 Ian Webster 在一份聲明中表示，“隨著 AI 智能體與真實(shí)數(shù)據(jù)和系統(tǒng)的連接日益緊密，對其進(jìn)行安全防護(hù)與驗(yàn)證變得比以往任何時候都更具挑戰(zhàn)性，也更為重要。加入 OpenAI 能讓我們加速推進(jìn)這項(xiàng)工作，為構(gòu)建實(shí)際落地 AI 系統(tǒng)的團(tuán)隊(duì)提供更強(qiáng)的安全、保障與治理能力。”

在 X 平臺上，OpenAI 還發(fā)文稱，此次收購將 “強(qiáng)化 Frontier 平臺內(nèi)智能體的安全測試與評估能力”。作為本次收購的一部分，OpenAI Frontier 平臺將新增自動化安全測試與紅隊(duì)演練功能。該產(chǎn)品還將具備幫助企業(yè)監(jiān)控變更、追蹤測試過程的能力，以滿足風(fēng)險管控與合規(guī)要求。OpenAI 將 Frontier 定位為企業(yè)的 “AI 同事”，旨在讓智能體接入生產(chǎn)系統(tǒng)、客戶關(guān)系管理平臺、數(shù)據(jù)倉庫、內(nèi)部工單工具，并執(zhí)行具有實(shí)際影響的工作流程。

并且，OpenAI 承諾，Promptfoo 將在現(xiàn)有許可下保持開源，并繼續(xù)為現(xiàn)有客戶提供支持。該開源項(xiàng)目允許開發(fā)者測試各類與 AI 相關(guān)的提示詞和智能體，并對比 ChatGPT、Anthropic 的 Claude、谷歌 Gemini 等大語言模型的性能。“Promptfoo 依然是開源的。我們將繼續(xù)維護(hù)項(xiàng)目，接受捐款，支持多種供應(yīng)商和模式，并為客戶服務(wù)。”D'Angelo 也在昨日的 LinkedIn 帖子中表示。

在 Github 上，該項(xiàng)目獲得了 11.3k Stars。同時，該項(xiàng)目擁有超過 248 名貢獻(xiàn)者，且被包括 Anthropic、谷歌在內(nèi)的全行業(yè)開發(fā)者廣泛使用。

開源項(xiàng)目鏈接：https://github.com/promptfoo/promptfoo#readme

頭部 AI 玩家全面加碼，

安全工具集中上線

如今，OpenAI 及其競爭對手正競相研發(fā)更先進(jìn)的 AI 智能體，這些智能體可代表用戶完成復(fù)雜任務(wù)，且僅需極少的人工干預(yù)。而當(dāng)下，不法分子正利用類似技術(shù)尋找入侵關(guān)鍵網(wǎng)絡(luò)的途徑。能夠自主執(zhí)行數(shù)字任務(wù)的獨(dú)立 AI 智能體的發(fā)展，讓人們對生產(chǎn)力提升充滿期待，也給不法分子提供了新的可乘之機(jī)，使其能夠竊取敏感數(shù)據(jù)或操控自動化系統(tǒng)。

與此同時，每家大型 AI 開發(fā)商都正通過確保產(chǎn)品高效、安全，努力說服更多類型的企業(yè)為這項(xiàng)技術(shù)付費(fèi)，但方式有所不同。

“OpenAI 收購 Promptfoo 明確表明，其致力于讓企業(yè)級 AI 不僅強(qiáng)大，而且在規(guī)模化應(yīng)用中安全可靠。” 投資機(jī)構(gòu) Insight Partners 董事總經(jīng)理 Ganesh Bell 表示。Promptfoo 作為眾多開發(fā) AI 網(wǎng)絡(luò)安全產(chǎn)品、用以防范黑客的初創(chuàng)公司之一，能夠幫助大型企業(yè)在 AI 模型開發(fā)階段發(fā)現(xiàn)并修復(fù)安全問題。

此外，OpenAI 也已著手為其 AI 產(chǎn)品和智能體加入安全功能。就在上周，該公司推出了一款旨在幫助安全團(tuán)隊(duì)發(fā)現(xiàn)并修復(fù)大型數(shù)據(jù)庫漏洞的 AI 智能體 Codex Security，在宣布收購 Promptfoo 當(dāng)天正式擴(kuò)大開放范圍。

Anthropic 則是另一種選擇：依托 Claude 代碼內(nèi)部自研構(gòu)建。2 月，Anthropic 推出了 Claude Code Security，該工具利用 Claude Opus 4.6 的強(qiáng)大推理能力，可掃描整個代碼庫，發(fā)現(xiàn)傳統(tǒng)規(guī)則型掃描器常忽略的上下文依賴型漏洞，并直接生成針對性修復(fù)補(bǔ)丁。

https://openai.com/index/openai-to-acquire-promptfoo/

https://techcrunch.com/2026/03/09/openai-acquires-promptfoo-to-secure-its-ai-agents/

https://thenextweb.com/news/openai-acquires-promptfoo-ai-security-frontier

聲明：本文為 AI 前線整理，不代表平臺觀點(diǎn)，未經(jīng)許可禁止轉(zhuǎn)載。

會議推薦

2026，AI 正在以更工程化的方式深度融入軟件生產(chǎn)，Agentic AI 的探索也將從局部試點(diǎn)邁向體系化工程建設(shè)！

QCon 北京 2026 已正式啟動，本屆大會以“Agentic AI 時代的軟件工程重塑”為核心主線，推動技術(shù)探索從「AI For What」真正落地到可持續(xù)的「Value From AI」。從前沿技術(shù)雷達(dá)、架構(gòu)設(shè)計(jì)與數(shù)據(jù)底座、效能與成本、產(chǎn)品與交互、可信落地、研發(fā)組織進(jìn)化六大維度，系統(tǒng)性展開深度探索。開往 2026 的 Agentic AI 專列即將啟程！匯聚頂尖專家實(shí)戰(zhàn)分享，把 AI 能力一次夯到位！

今日薦文

你也「在看」嗎？