Durable用6個工程師扛住3600億token

去年一年，Durable的客戶消耗了3600億個token。這個數(shù)字放在2023年，足夠讓一家中型AI公司直接破產(chǎn)。

但他們只雇了6個工程師。

更狠的是，他們把基礎(chǔ)設(shè)施成本壓到了自建方案的三分之一以下，同時每天給300萬客戶推送新功能。這不是什么大廠的技術(shù)秀，而是一家?guī)推胀ㄈ碎_公司的SaaS公司，在AI代理（AI Agent，即自主執(zhí)行任務(wù)的AI程序）成為核心產(chǎn)品后，被迫重構(gòu)了整個技術(shù)棧。

「死亡 by 一千個工具」

James Clift創(chuàng)辦Durable時，盯上了一個反常識的數(shù)據(jù)：60%的美國成年人想當(dāng)自己的老板，實際去做的只有4%。

「不是沒野心，是 friction（摩擦成本）太高了。」Clift說。他的原話更毒：「小公司是死于一千個工具、登錄賬號、工作流程和設(shè)計稿。」

Durable的解法是把開公司打包成一個AI產(chǎn)品——輸入想法，幾分鐘生成網(wǎng)站、CRM、發(fā)票系統(tǒng)，再派AI代理去干SEO、內(nèi)容運營、客戶跟進。對用戶來說，這是一件事；對Durable來說，這是幾百萬個獨立業(yè)務(wù)在共享同一套基礎(chǔ)設(shè)施。

多租戶架構(gòu)的麻煩在于：一個客戶的網(wǎng)站可能突然流量暴漲100倍，而攻擊者針對A客戶的DDoS，理論上可以拖垮B、C、D所有鄰居。自建方案時期，Durable的基礎(chǔ)設(shè)施團隊光是維護多區(qū)域集群、給定制域名配SSL證書，就「足夠成為第二個產(chǎn)品」。

技術(shù)負責(zé)人Khan列過一張痛苦清單：SSL終止費用按千美元計；跨地域集群需要專人盯；安全隔離和成本歸因在百萬級租戶規(guī)模下幾乎無解。

從「AI當(dāng)水管」到「AI當(dāng)產(chǎn)品」

早期的AI對Durable來說只是 plumbing（ plumbing，即 plumbing，基礎(chǔ)設(shè)施管道）——嵌入功能的工具。但當(dāng)AI代理成為核心賣點，游戲規(guī)則變了。

他們遇到三個自建方案完全搞不定的問題：

模型調(diào)度成了戰(zhàn)略問題。 需要在一小時內(nèi)切換模型或供應(yīng)商，既為了可靠性，也為了不被長約鎖死。自建系統(tǒng)每換一次模型，等于重構(gòu)一次。

代理產(chǎn)品的特性是突發(fā)性強、長尾分布極端。一個客戶的AI代理可能全天沉睡，也可能在某個小時狂燒10萬token。傳統(tǒng)的預(yù)留實例和固定容量在這種模式下直接虧錢。

更隱蔽的坑是觀測。當(dāng)AI代理開始自主決策，「為什么給客戶推薦了這個SEO策略」比「服務(wù)有沒有宕機」更難追蹤。百萬租戶 × 多代理 × 多模型，日志和成本歸因的復(fù)雜度是指數(shù)級。

Durable的選擇是快速整合而非漸進優(yōu)化：一個代碼庫，一個基礎(chǔ)設(shè)施平臺。這個決策在2024年看起來激進，現(xiàn)在回頭看是生存必需。

10倍杠桿怎么算出來的

Durable內(nèi)部有個粗略公式：每個工程師、產(chǎn)品經(jīng)理、設(shè)計師的生產(chǎn)力被放大了10倍。算法很簡單——以前需要10個人維護的基礎(chǔ)設(shè)施，現(xiàn)在1個人盯。

成本結(jié)構(gòu)的變化更直觀。自建方案的隱性成本包括：多區(qū)域運維人力、SSL證書批發(fā)價、為峰值預(yù)留的閑置算力。切換到統(tǒng)一平臺后，這些被壓縮成可預(yù)測的單位成本。Khan提到的「3-4倍成本優(yōu)勢」是保守估計，實際在流量波動大的月份差距更大。

代理功能的交付速度是另一個指標(biāo)。Durable現(xiàn)在可以在一天內(nèi)把新代理推給全部客戶。這個速度在自建時代不可想象：測試環(huán)境、灰度發(fā)布、回滾方案，每個環(huán)節(jié)都需要基礎(chǔ)設(shè)施團隊介入。

有個細節(jié)能說明問題。Durable的AI代理需要處理多模態(tài)輸入——客戶上傳的圖片、語音、PDF。自建方案時，每種模態(tài)都要單獨對接模型API、單獨做容錯。統(tǒng)一平臺后，模態(tài)切換對上層應(yīng)用透明，工程師只關(guān)心業(yè)務(wù)邏輯。

小團隊的豪賭

6個工程師扛3600億token，聽起來像壓榨，實際是架構(gòu)選擇的副產(chǎn)品。

Durable沒有走「先堆人再優(yōu)化」的路。他們在代理功能爆發(fā)前就押注了平臺化，把基礎(chǔ)設(shè)施的復(fù)雜度下沉到供應(yīng)商層。這個決策的風(fēng)險是鎖定——如果選錯平臺，遷移成本極高。但收益是團隊可以專注在客戶業(yè)務(wù)上，而不是半夜被多區(qū)域集群報警吵醒。

Clift在內(nèi)部提過一個問題：「我們到底是在賣基礎(chǔ)設(shè)施，還是在幫客戶開公司？」答案決定了資源分配。Durable選擇了后者，所以前者必須被壓縮到極簡。

現(xiàn)在的數(shù)據(jù)是：每天11億token，一年3600億，300萬客戶，6個工程師。這個比例在SaaS行業(yè)沒有參照系——不是因為Durable特別強，而是因為AI代理的 workload（工作負載）特性，讓傳統(tǒng)的「人頭換穩(wěn)定性」邏輯失效了。

最后一個數(shù)字：Durable的客戶里，有多少知道他們的AI代理背后只有6個人在維護基礎(chǔ)設(shè)施？