2026年3月，Cloudflare工程師博客更新了一條技術(shù)公告：Dynamic Workers正式上線。這不是常規(guī)的功能迭代——他們要把AI生成代碼的執(zhí)行延遲，從"喝杯咖啡等結(jié)果"壓到"眨眼的功夫"。

數(shù)據(jù)很直白：傳統(tǒng)AI代理架構(gòu)里，大模型每步推理都要走網(wǎng)絡(luò)往返，token費(fèi)用像漏水的水龍頭。Cloudflare的新方案直接讓LLM一次性寫完執(zhí)行腳本，推理成本最高砍掉80%。

ReAct模式：AI代理的"擠牙膏"困境

現(xiàn)在主流的AI代理都在用ReAct范式（推理-行動(dòng)循環(huán)）。LLM發(fā)現(xiàn)需要調(diào)用工具，就停下來發(fā)請(qǐng)求，等后端執(zhí)行完再把結(jié)果塞回上下文窗口，接著推理下一步。循環(huán)往復(fù)。

這套流程的問題在于網(wǎng)絡(luò)延遲會(huì)疊加。每一步都要重新發(fā)送完整對(duì)話歷史，token賬單跟著步驟數(shù)線性膨脹。你的AI代理不是在思考，是在刷你的信用卡刷得很慢。

Cloudflare和前沿AI研究者盯上了另一個(gè)思路：讓LLM直接寫執(zhí)行邏輯。給模型API schema，讓它生成一段TypeScript或JavaScript函數(shù)，把所需操作串成管道。Cloudflare內(nèi)部管這叫"Code Mode"。

一次性生成執(zhí)行腳本，LLM只 invoked（調(diào)用）一次，而非反復(fù) invoked 來推進(jìn)計(jì)劃。

容器方案的"穿幫時(shí)刻"

Code Mode理論上很干凈，但執(zhí)行未經(jīng)驗(yàn)證的AI生成代碼是顆雷。傳統(tǒng)做法是用Linux容器或微虛擬機(jī)做沙箱隔離，這里暴露了老架構(gòu)的致命傷。

容器啟動(dòng)以秒計(jì)，冷啟動(dòng)成本直接吃掉延遲優(yōu)勢。安全沙箱本身就成了性能瓶頸——你為了安全付出的代價(jià)，恰好抵消了讓LLM寫代碼省下來的時(shí)間。

Cloudflare Dynamic Workers的解法是把Linux容器換成即時(shí)創(chuàng)建的輕量V8 isolate。V8 isolate是Chrome同款JavaScript引擎的隔離單元，啟動(dòng)時(shí)間在毫秒級(jí)，內(nèi)存占用只有容器的零頭。

Dynamic Workers的三張底牌

零冷啟動(dòng)。 V8 isolate的創(chuàng)建和銷毀速度讓容器看起來像蒸汽機(jī)車。AI代理收到用戶請(qǐng)求的瞬間，執(zhí)行環(huán)境已經(jīng)就緒。

成本結(jié)構(gòu)重構(gòu)。 省下的不只是token費(fèi)用。容器編排的復(fù)雜度、安全補(bǔ)丁的維護(hù)成本、預(yù)置環(huán)境的閑置開銷，全部被打包進(jìn)Cloudflare的邊緣網(wǎng)絡(luò)托管。

攻擊面收縮。 V8 isolate的設(shè)計(jì)初衷就是跑不可信代碼。每個(gè)isolate有獨(dú)立的堆內(nèi)存和全局對(duì)象，逃逸漏洞的歷史記錄比容器少一個(gè)數(shù)量級(jí)。

Cloudflare在公告里放了一個(gè)對(duì)比：同樣執(zhí)行AI生成的數(shù)據(jù)處理腳本，Dynamic Workers的P99延遲比AWS Lambda容器方案低兩個(gè)數(shù)量級(jí)。具體數(shù)字沒公布，但"兩個(gè)數(shù)量級(jí)"在工程師語境里通常是100倍起步。

動(dòng)手搭建：從schema到沙箱

實(shí)際部署比想象的要輕。核心流程三步：定義API schema，寫prompt讓LLM生成符合schema的函數(shù)，把函數(shù)丟進(jìn)Dynamic Worker執(zhí)行。

schema設(shè)計(jì)是關(guān)鍵。你需要讓LLM明確知道哪些端點(diǎn)可用、參數(shù)類型、返回值結(jié)構(gòu)。Cloudflare的示例用了Zod做運(yùn)行時(shí)校驗(yàn)，生成代碼先過類型檢查再進(jìn)isolate。

安全層不能省。即便V8 isolate本身有隔離性，Cloudflare還是加了代碼靜態(tài)分析和執(zhí)行超時(shí)熔斷。AI生成的代碼可能死循環(huán)，也可能試圖訪問未聲明的API——這些都要在進(jìn)沙箱前攔住。

一個(gè)細(xì)節(jié)：Dynamic Workers支持把執(zhí)行結(jié)果直接流回LLM做后續(xù)處理，或者緩存到Workers KV供其他服務(wù)消費(fèi)。這意味著你可以把"生成代碼-執(zhí)行-存結(jié)果"整條鏈掛在邊緣節(jié)點(diǎn)，離用戶物理距離最近的地方跑完全程。

Cloudflare工程師在博客評(píng)論區(qū)回復(fù)了一個(gè)用戶問題：如果LLM生成的代碼有bug怎么辦？回答是"和調(diào)試普通TypeScript一樣，日志和堆棧追蹤全給你"。這暗示了另一個(gè)設(shè)計(jì)選擇——Dynamic Workers的執(zhí)行環(huán)境和標(biāo)準(zhǔn)Workers共享同一套可觀測性工具，沒有額外的學(xué)習(xí)成本。

現(xiàn)在的問題是：當(dāng)你的競爭對(duì)手還在用ReAct模式數(shù)著token賬單時(shí)，你愿意把AI代理的執(zhí)行邏輯交給LLM一次性寫完嗎？