還認為 Focal Loss 只能在有監(jiān)督場景使用？還在為 3D 檢測模型在分布外泛化的不穩(wěn)定性焦慮

來自北京大學(xué)，香港中文大學(xué)和鵬城實驗室的最新研究提出了DUO 框架（Dual Uncertainty Optimization，首次將語義不確定性與幾何不確定性融合建模，讓檢測模型在雨夜、霧天也能“看得更穩(wěn)、更準”。

論文標題： Adaptive Dual Uncertainty Optimization: Boosting Monocular 3D ObjectDetection under Test-Time Shifts 論文鏈接： https://arxiv.org/abs/2508.20488 開源地址： https://github.com/hzcar/DUO

當(dāng)訓(xùn)練好的 3D 檢測模型被直接拿到雨夜、霧天、傳感器抖動等分布外場景中時，性能往往會顯著下降。這背后隱藏的關(guān)鍵原因，是雙重不確定性（Dual Uncertainty）的累積效應(yīng)。

然而在單目 3D 檢測場景中，常見的不確定性優(yōu)化策略暴露出兩個嚴重問題：

• 語義不確定性: 模型在分類時的猶豫和模糊。當(dāng)遇到復(fù)雜光照或惡劣天氣時，模型對物體類別的概率分布會變得分散，高分樣本更容易被強化，而低分樣本（通常是小目標或被遮擋的物體）幾乎得不到優(yōu)化，導(dǎo)致漏檢率顯著升高。

• 幾何不確定性: 模型在空間定位中的不穩(wěn)定性。3D 檢測往往依賴深度估計器來預(yù)測目標位置，但在分布外場景中，直接最小化深度不確定性會導(dǎo)致多頭估計器“塌縮”為單一預(yù)測器，失去冗余性和魯棒性，進而空間理解能力下降。

這種雙重不確定性疊加會加劇檢測模型在分布外場景下的性能崩潰。因此，我們迫切需要一種能夠同時建模并優(yōu)化語義與幾何不確定性的新范式，以真正提升檢測模型的泛化能力。

二、DUO框架：雙重不確定性的協(xié)同優(yōu)化

DUO 框架創(chuàng)新性地提出一個觀點：模型的分布外泛化需要同時建模并優(yōu)化語義和幾何的不確定性，并通過相輔相成的機制來優(yōu)化。其包含兩個核心設(shè)計：

2.1 語義側(cè)：Unsupervised Focal Loss，無監(jiān)督版本的TA來了

傳統(tǒng) Focal Loss 可以平衡樣本難易度，但依賴真實標簽，無法在測試時無監(jiān)督場景中使用。DUO 基于凸優(yōu)化的 Legendre–Fenchel 對偶理論，首次把 Focal Loss 改寫為一個無標簽的對偶優(yōu)化問題。

通過高階近似，推導(dǎo)出新的損失：

這里，不同類別的權(quán)重會隨預(yù)測概率自動調(diào)整，超參數(shù) , 直接沿用訓(xùn)練階段的設(shè)置，無需額外調(diào)參。為什么 CFL 這么牛？

• 動態(tài)調(diào)整，更聰明：傳統(tǒng) Focal Loss 只關(guān)注真實類別，而 CFL 不僅保留 的平衡機制，還通過矩陣項捕捉類別間預(yù)測關(guān)系，實現(xiàn)全局動態(tài)加權(quán)。

• 無需真實標簽，隨時適應(yīng)：CFL 只依賴預(yù)測概率，即便沒有標注數(shù)據(jù)，也能在測試階段正常工作。

• 超參數(shù)零負擔(dān)：訓(xùn)練階段的 , 可直接用到測試階段，無需調(diào)參，實測效果也得到了驗證。

DUO 并不直接最小化幾何不確定性，而是通過法向一致性來約束幾何穩(wěn)定性。給定深度圖 ，通過 Sobel 算子計算梯度，再推導(dǎo)像素法向：

在約束相鄰像素法向時保持一致性，同時引入邊緣感知項，也保留邊界的不連續(xù)性信息：

根據(jù) CFL 損失，只在語義不確定性較低的區(qū)域施加幾何約束，避免噪聲傳播。由此，幾何估計既保證了平滑穩(wěn)定，又避免了塌縮。

最終，DUO 的聯(lián)合優(yōu)化目標為：其中 是語義引導(dǎo)掩碼。在保證語義掩碼更可靠的同時，也提高了幾何約束的可信度。

三、實驗結(jié)果：語義×幾何，不確定性的正反饋效應(yīng)

在 M3OD 最常用的 KITTI 和 nuScenes 數(shù)據(jù)集上進行評測，DUO 在分布外場景下顯著優(yōu)于現(xiàn)有 Test-Time Adaptation 方法。無論是晝夜切換、雨霧天氣，還是跨域測試，DUO 都展現(xiàn)出更加穩(wěn)定的適配能力。

進一步地，我們對語義側(cè)和幾何側(cè)的優(yōu)化效果進行了單獨消融實驗：

• 當(dāng)僅使用語義不確定性優(yōu)化時，分類性能得到提升，同時也間接降低了空間估計的不穩(wěn)定性；

• 當(dāng)僅使用幾何不確定性優(yōu)化時，模型在空間理解上更為穩(wěn)健，也反過來減少了語義預(yù)測的模糊與混淆；

• 這說明語義與幾何優(yōu)化并非獨立，而是形成了一種 相互促進、相互約束的正反饋機制。

最終的可視化結(jié)果也清晰展示了 DUO 的優(yōu)勢：在復(fù)雜光照、傳感器噪聲等極端環(huán)境下，模型不僅能夠更精準地識別遠距離和小目標，還能保持對三維空間結(jié)構(gòu)的穩(wěn)定理解，顯著提升了整體的魯棒感知能力。

四、結(jié)語：從無監(jiān)督Focal Loss到魯棒3D感知新范式

一方面，雙重不確定性優(yōu)化為未來 3D 感知與自動駕駛等關(guān)鍵應(yīng)用提供了新的思路。通過同時建模語義與幾何兩類核心不確定性，DUO 在分布外場景中展現(xiàn)出強大的適應(yīng)性和魯棒性。

另一方面，無監(jiān)督 Focal Loss 打破了經(jīng)典損失函數(shù)對標簽的依賴，在測試階段模型適配中展現(xiàn)出顯著增益，同時保持與有監(jiān)督訓(xùn)練一致的超參數(shù)設(shè)置，避免了額外調(diào)優(yōu)成本。

當(dāng)前，DUO 已在單目三維檢測的多個高強度 OOD 基準上展現(xiàn)了顯著優(yōu)勢。但這僅僅是一個開始：

1. 在 其他感知任務(wù)（如三維目標分割、點云檢測等）中，雙重不確定性同樣扮演著關(guān)鍵角色；

2. 在 現(xiàn)實復(fù)雜場景（如自動駕駛的長尾案例、工業(yè)生產(chǎn)中的復(fù)雜光照條件）中，數(shù)據(jù)稀缺與分布偏移問題尤為突出，DUO 的無監(jiān)督適配潛力亟待釋放；

3. 在 更大規(guī)模、更高復(fù)雜度的模型體系中，無監(jiān)督 Focal Loss 以其簡單的使用條件（無需標簽、與有監(jiān)督 loss 兼容）展現(xiàn)出極強的可擴展性。

研究團隊也將持續(xù)開源并完善相關(guān)工具鏈，期待更多研究者與工程團隊將該方法推廣至多模態(tài)融合、點云感知，以及更大規(guī)模的復(fù)雜場景，共同推動 魯棒智能感知系統(tǒng)的真正落地。

來源：公眾號【PaperWeekly】

llustration From IconScout By IconScout Store

-The End-

本周上新！

掃碼觀看！

“AI技術(shù)流”原創(chuàng)投稿計劃

TechBeat是由將門創(chuàng)投建立的AI學(xué)習(xí)社區(qū)（www.techbeat.net）。社區(qū)上線700+期talk視頻，3000+篇技術(shù)干貨文章，方向覆蓋CV/NLP/ML/Robotis等；每月定期舉辦頂會及其他線上交流活動，不定期舉辦技術(shù)人線下聚會交流活動。我們正在努力成為AI人才喜愛的高質(zhì)量、知識型交流平臺，希望為AI人才打造更專業(yè)的服務(wù)和體驗，加速并陪伴其成長。

投稿內(nèi)容

// 最新技術(shù)解讀/系統(tǒng)性知識分享 //

// 前沿資訊解說/心得經(jīng)歷講述 //

投稿須知

稿件需要為原創(chuàng)文章，并標明作者信息。

我們會選擇部分在深度技術(shù)解析及科研心得方向，對用戶啟發(fā)更大的文章，做原創(chuàng)性內(nèi)容獎勵

投稿方式

發(fā)送郵件到

michellechang@thejiangmen.com

或添加工作人員微信（michelle333_）投稿，溝通投稿詳情

關(guān)于我“門”

將門是一家以專注于數(shù)智核心科技領(lǐng)域的新型創(chuàng)投機構(gòu)，也是北京市標桿型孵化器。 公司致力于通過連接技術(shù)與商業(yè)，發(fā)掘和培育具有全球影響力的科技創(chuàng)新企業(yè)，推動企業(yè)創(chuàng)新發(fā)展與產(chǎn)業(yè)升級。

將門成立于2015年底，創(chuàng)始團隊由微軟創(chuàng)投在中國的創(chuàng)始團隊原班人馬構(gòu)建而成，曾為微軟優(yōu)選和深度孵化了126家創(chuàng)新的技術(shù)型創(chuàng)業(yè)公司。

如果您是技術(shù)領(lǐng)域的初創(chuàng)企業(yè)，不僅想獲得投資，還希望獲得一系列持續(xù)性、有價值的投后服務(wù)，歡迎發(fā)送或者推薦項目給我“門”:

bp@thejiangmen.com

點擊右上角，把文章分享到朋友圈