那個(gè)讓我臉疼的時(shí)刻：Black Friday當(dāng)天50K RPS，CPU 15%，內(nèi)存平穩(wěn)，p95正常。我對(duì)著會(huì)議室說"這架構(gòu)能撐一年"——兩年后爬到5M RPS時(shí)，這句話成了內(nèi)部梗。

50K時(shí)調(diào)參數(shù)，5M時(shí)重新談判物理規(guī)則。每納秒都是角色，思維從"請(qǐng)求"變成緩存行、隊(duì)列深度、PCIe通道。內(nèi)核禮貌微笑，順手偷走你的周期。

好圖表≠好架構(gòu)

中等負(fù)載下，沒壓到故障模式的系統(tǒng)看起來都很干凈。隱藏成本——內(nèi)存拷貝、上下文切換、冷緩存行——都在，只是聲音不夠大。直到它們尖叫。

基準(zhǔn)測(cè)試偏愛快樂路徑。百萬級(jí)生產(chǎn)環(huán)境是錯(cuò)位的MTU、突發(fā)客戶端、意外TLS重協(xié)商的集合。某處固件有個(gè)怪癖，你的完美假設(shè)就會(huì)崩塌。

SSL的30%吞吐量稅

5M RPS時(shí)，30%意味著150萬請(qǐng)求/秒花在無法討價(jià)還價(jià)的數(shù)學(xué)上。沒法用"氛圍"優(yōu)化指數(shù)運(yùn)算。選擇只有三個(gè)：卸載、會(huì)話恢復(fù)，或?qū)用芪恢?ruthless。

握手風(fēng)暴會(huì)在最糟糕的日子找到你。

部分故障下的尾延遲懸崖

后端抖動(dòng)時(shí)，樸素算法把重試變成驚群效應(yīng)。10萬時(shí)你能注意到，500萬時(shí)直接點(diǎn)燃。我們學(xué)會(huì)隔離、阻尼，把"重試"當(dāng)上了膛的槍對(duì)待。

三次推倒重來

第一次：內(nèi)核網(wǎng)絡(luò)，經(jīng)典配置

HAProxy風(fēng)格，nbproc 4，輪詢均衡。夠用——直到上下文切換和內(nèi)核鎖成為主角。

第二次：用戶態(tài)網(wǎng)絡(luò)，DPDK路徑

繞過內(nèi)核，輪詢模式驅(qū)動(dòng)，零拷貝。吞吐量上去了，但NUMA感知缺失和內(nèi)存池碎片在新尺度下暴露。

第三次：完全重設(shè)計(jì)

無共享架構(gòu)，每個(gè)核心獨(dú)立運(yùn)行。連接親和性綁定到特定CPU，消除跨核緩存同步。TLS終止前置到專用集群，會(huì)話票證緩存跨實(shí)例共享。

關(guān)鍵認(rèn)知：5M RPS時(shí)，"更多機(jī)器"是第一個(gè)謊言。網(wǎng)絡(luò)帶寬、PCIe總線、內(nèi)存通道成為硬邊界。橫向擴(kuò)展之前，先榨干縱向的每個(gè)字節(jié)。

時(shí)間去了哪里

第一次重寫以為問題在網(wǎng)絡(luò)棧。第二次以為在內(nèi)存分配。第三次才看清：真正的戰(zhàn)場是數(shù)據(jù)局部性和故障隔離的交叉點(diǎn)。

每個(gè)請(qǐng)求的路徑必須可預(yù)測(cè)。任何跨核、跨NUMA、跨機(jī)架的跳轉(zhuǎn)都是待支付的利息。故障時(shí)，系統(tǒng)行為必須 graceful degradation 而非 cascading retry。

監(jiān)控也從"看圖表"變成"讀火焰圖和PMC計(jì)數(shù)器"。p99不夠，看p99.9和p99.99的抖動(dòng)模式。異常值不是噪聲，是早期信號(hào)。

給正在爬坡的人

如果你還在50K RPS，別慶祝太早。現(xiàn)在的平滑曲線是債務(wù)，不是資產(chǎn)。趁聲音還小，用火焰圖找到那些"現(xiàn)在不重要"的拷貝和切換。

負(fù)載均衡器的終極形態(tài)不是分發(fā)請(qǐng)求，而是在物理約束和故障概率之間做最優(yōu)談判。5M RPS教會(huì)我：規(guī)模是透鏡，把每個(gè)隱藏假設(shè)燒到可見。