文章來(lái)源：我愛(ài)計(jì)算機(jī)視覺(jué)（ID：aicvml）

大家好，今天想和大家聊一篇非常有趣的新工作，來(lái)自上海交通大學(xué)和南京農(nóng)業(yè)大學(xué)的研究者們，他們提出了一個(gè)名為 ADPretrain 的新框架。簡(jiǎn)單來(lái)說(shuō)，這是一個(gè)專(zhuān)門(mén)為工業(yè)異常檢測(cè)（Industrial Anomaly Detection）任務(wù)設(shè)計(jì)的“預(yù)訓(xùn)練”方法，旨在解決現(xiàn)有方法過(guò)度依賴ImageNet預(yù)訓(xùn)練特征而導(dǎo)致的“水土不服”問(wèn)題。

• 
  

  論文標(biāo)題 : ADPretrain: Advancing Industrial Anomaly Detection via Anomaly Representation Pretraining

• 作者 : Xincheng Yao, Yan Luo, Zefeng Qian, Chongyang Zhang

• 機(jī)構(gòu) : 上海交通大學(xué)，南京農(nóng)業(yè)大學(xué)

• 論文地址 : https://arxiv.org/abs/2511.05245

• 項(xiàng)目地址 : https://github.com/xcyao00/ADPretrain

• 會(huì)議 : Accepted by NeurIPS 2025

在工業(yè)生產(chǎn)線上，利用機(jī)器視覺(jué)來(lái)檢測(cè)產(chǎn)品瑕疵（即“異常”）是一項(xiàng)關(guān)鍵技術(shù)。目前，主流的異常檢測(cè)（AD）方法大多依賴于在ImageNet上預(yù)訓(xùn)練好的深度學(xué)習(xí)模型來(lái)提取特征。

但這里存在兩個(gè)核心問(wèn)題：

1. 目標(biāo)不匹配 ：ImageNet預(yù)訓(xùn)練的目標(biāo)是“分類(lèi)”，讓模型學(xué)會(huì)識(shí)別貓、狗、汽車(chē)等自然物體，而不是區(qū)分“正?！迸c“異?！钡墓I(yè)品。

2. 數(shù)據(jù)分布差異 ：工業(yè)圖像（比如電路板、藥瓶、金屬螺絲）和ImageNet中的自然圖像在紋理、光照、背景等方面差異巨大。

這兩個(gè)問(wèn)題導(dǎo)致ImageNet預(yù)訓(xùn)練出的特征對(duì)于工業(yè)異常檢測(cè)任務(wù)來(lái)說(shuō)，并非最優(yōu)解，甚至可能限制了模型的性能上限。

從上圖可以直觀地看到，無(wú)論是在MVTecAD還是VisA數(shù)據(jù)集上，使用了ADPretrain的預(yù)訓(xùn)練特征后（虛線），多種異常檢測(cè)方法的性能都普遍優(yōu)于使用原始特征（實(shí)線），證明了其普適性和有效性。

ADPretrain：為異常檢測(cè)而生的預(yù)訓(xùn)練框架

為了解決上述痛點(diǎn)，作者們提出了一個(gè)全新的異常表示預(yù)訓(xùn)練框架——ADPretrain。其核心思想是：在一個(gè)大規(guī)模的工業(yè)異常檢測(cè)數(shù)據(jù)集（RealIAD）上，專(zhuān)門(mén)學(xué)習(xí)一種能夠更好地區(qū)分正常與異常樣本的特征表示。

整個(gè)框架如上圖所示，它主要包含幾個(gè)關(guān)鍵設(shè)計(jì)：

基于殘差特征的表示學(xué)習(xí)

為了讓預(yù)訓(xùn)練的特征具有更好的泛化能力，能夠適應(yīng)不同的下游數(shù)據(jù)集，ADPretrain沒(méi)有直接使用骨干網(wǎng)絡(luò)輸出的特征。而是借鑒了ResAD的思想，采用了一種名為“殘差特征”（Residual Features）的表示。

具體來(lái)說(shuō)，對(duì)于一個(gè)輸入特征，模型會(huì)從一個(gè)“正常樣本特征庫(kù)”中找到與之最相似的正常特征，然后將兩者相減，得到殘差特征。這種操作可以有效地剝離掉與類(lèi)別相關(guān)的通用模式，讓模型更專(zhuān)注于那些“不正?！钡奈⑿〔町?，從而獲得更好的跨類(lèi)別泛化能力。

創(chuàng)新的對(duì)比損失函數(shù)

為了讓模型學(xué)到的特征更具判別力，作者設(shè)計(jì)了兩種互補(bǔ)的對(duì)比損失函數(shù)（Contrastive Losses），分別從“角度”和“范數(shù)（模長(zhǎng)）”兩個(gè)維度來(lái)拉大正常特征與異常特征之間的距離。

• 角度導(dǎo)向?qū)Ρ葥p失 (Angle-Oriented Contrastive Loss)

  這個(gè)損失函數(shù)的目標(biāo)是最大化正常特征與異常特征在特征空間中的夾角。不同于傳統(tǒng)的對(duì)比學(xué)習(xí)以原點(diǎn)為中心計(jì)算余弦相似度，作者認(rèn)為這會(huì)導(dǎo)致特征均勻分布在超球面，不利于區(qū)分類(lèi)內(nèi)差異。因此，他們提出以所有正常特征的“質(zhì)心” 為中心來(lái)計(jì)算角度。對(duì)于一個(gè)特征 ，先計(jì)算中心化后的特征 ，再進(jìn)行對(duì)比學(xué)習(xí)。其公式如下：

  其中， 和 是來(lái)自同一圖像的增廣對(duì)（正樣本）， 是溫度超參。 這個(gè)指示函數(shù)是關(guān)鍵，它確保了只有標(biāo)簽不同（即一個(gè)是正常，一個(gè)是異常）的樣本 才會(huì)被當(dāng)作負(fù)樣本。這樣，損失函數(shù)會(huì)明確地將正常特征與異常特征在角度上推開(kāi)。

• 范數(shù)導(dǎo)向?qū)Ρ葥p失 (Norm-Oriented Contrastive Loss)

  這個(gè)損失函數(shù)則希望在范數(shù)（模長(zhǎng)）上區(qū)分正常與異常特征。其靈感源于單分類(lèi)（One-Class Classification）思想，目標(biāo)是讓所有正常特征的范數(shù)都收縮到一個(gè)半徑為 的預(yù)設(shè)超球體內(nèi)，而異常特征的范數(shù)則被推到半徑為 ( , 是一個(gè)安全邊界) 的超球體之外。其統(tǒng)一形式的損失函數(shù)如下：

  這里， 表示 是正常特征，對(duì)其施加收縮損失 ，將其拉入半徑為 的球內(nèi)。 表示 是異常特征，對(duì)其施加擴(kuò)張損失 ，將其推出半徑為 的球外。

通過(guò)這兩個(gè)損失函數(shù)的共同優(yōu)化（總損失 ），模型被引導(dǎo)著去學(xué)習(xí)一種“理想”的特征分布：正常特征在角度和范數(shù)上都緊湊地聚集在一起，而異常特征則被推到遠(yuǎn)處，界限分明。

可學(xué)習(xí)鍵/值注意力的特征投影器

在獲得殘差特征后，作者設(shè)計(jì)了一個(gè)基于Transformer的特征投影器（Feature Projector）來(lái)進(jìn)一步優(yōu)化和提煉特征。有趣的是，他們沒(méi)有使用標(biāo)準(zhǔn)的自注意力機(jī)制，而是提出了一種名為“可學(xué)習(xí)鍵/值注意力”（Learnable Key/Value Attention）的模塊。

該模塊引入了一組可學(xué)習(xí)的“參考表示”作為Key和Value，而輸入特征作為Query。通過(guò)Query與這些可學(xué)習(xí)的正常模式參考進(jìn)行交叉注意力計(jì)算，再?gòu)妮斎胫袦p去注意力輸出，可以自適應(yīng)地消除特征中可能殘留的正常模式，從而進(jìn)一步凸顯異常。

實(shí)驗(yàn)效果：顯著且普適的性能提升

為了驗(yàn)證ADPretrain的威力，作者進(jìn)行了一系列詳盡的實(shí)驗(yàn)。他們將ADPretrain學(xué)到的特征直接替換掉五種主流的基于嵌入的異常檢測(cè)方法（如PaDiM、PatchCore等）中的原始特征，并在五個(gè)公開(kāi)數(shù)據(jù)集（MVTecAD, VisA, BTAD等）和五種不同的骨干網(wǎng)絡(luò)（如DINOv2, CLIP等）上進(jìn)行了測(cè)試。

實(shí)驗(yàn)結(jié)果非常亮眼。如上表所示，幾乎在所有組合下，使用ADPretrain的特征（標(biāo)記為?）都帶來(lái)了顯著的性能提升。例如，在DINOv2-Base骨干網(wǎng)絡(luò)和MVTecAD數(shù)據(jù)集上，PatchCore的圖像級(jí)AUROC從95.5%提升到了99.0%；UniAD更是從71.1%飆升至97.1%，提升了驚人的26個(gè)百分點(diǎn)。這充分證明了ADPretrain學(xué)習(xí)到的特征表示具有極強(qiáng)的泛化性和優(yōu)越性。

直觀的可視化對(duì)比

通過(guò)t-SNE對(duì)特征進(jìn)行降維可視化，我們可以更直觀地感受到ADPretrain帶來(lái)的改變。

上圖展示了VisA數(shù)據(jù)集中“capsules”類(lèi)別的特征分布。左邊是原始特征，正常（綠色）和異常（紅色）樣本混雜在一起，難以區(qū)分。而右邊使用了ADPretrain的特征后，綠色點(diǎn)簇變得異常緊湊，紅色點(diǎn)則被清晰地分離出來(lái)，界限分明。

同樣，在定性結(jié)果上，使用ADPretrain特征的模型能夠更準(zhǔn)確地定位異常區(qū)域，同時(shí)有效抑制在正常區(qū)域的誤報(bào)。

總結(jié)

總的來(lái)說(shuō)，這篇論文點(diǎn)出了當(dāng)前工業(yè)異常檢測(cè)領(lǐng)域一個(gè)長(zhǎng)期被忽視但至關(guān)重要的問(wèn)題：預(yù)訓(xùn)練任務(wù)與下游應(yīng)用之間的鴻溝。作者提出的ADPretrain框架，通過(guò)在大規(guī)模行業(yè)數(shù)據(jù)集上進(jìn)行專(zhuān)門(mén)的表示學(xué)習(xí)，并設(shè)計(jì)了巧妙的對(duì)比損失來(lái)強(qiáng)化正常與異常的區(qū)分，為該領(lǐng)域提供了一種即插即用、效果顯著的“能力升級(jí)”方案。這項(xiàng)工作不僅為工業(yè)異常檢測(cè)帶來(lái)了新的SOTA性能，也為未來(lái)研究指明了一個(gè)有價(jià)值的方向——為特定任務(wù)定制預(yù)訓(xùn)練。

大家對(duì)這個(gè)方法怎么看？你覺(jué)得為特定領(lǐng)域定制預(yù)訓(xùn)練會(huì)成為未來(lái)的大趨勢(shì)嗎？歡迎在評(píng)論區(qū)留下你的看法！