圖異常檢測（Graph Anomaly Detection, GAD）旨在識別與大多數(shù)節(jié)點(diǎn)差異顯著的異常節(jié)點(diǎn)，近年來受到廣泛關(guān)注。然而，現(xiàn)有通用圖模型在遷移到GAD任務(wù)時(shí)仍面臨挑戰(zhàn)，主要原因在于難以捕捉跨領(lǐng)域的低頻、不規(guī)則和異質(zhì)異常模式。

為此，本文提出 AnomalyGFM ——一個(gè)面向GAD的圖基礎(chǔ)模型，支持跨圖的零樣本推理與小樣本提示調(diào)優(yōu)。其核心思想是學(xué)習(xí)圖無關(guān)的正常與異常類原型，并將其與節(jié)點(diǎn)殘差特征（節(jié)點(diǎn)與鄰居表示的偏差）對齊，從而在統(tǒng)一特征空間中度量異常性。在11個(gè)覆蓋社交、金融與評論網(wǎng)絡(luò)的真實(shí)數(shù)據(jù)集上，實(shí)驗(yàn)結(jié)果表明，AnomalyGFM在零樣本和小樣本場景下均顯著優(yōu)于現(xiàn)有最新方法。

一、介紹

圖異常檢測（Graph Anomaly Detection，GAD）旨在識別與圖中大多數(shù)節(jié)點(diǎn)不同的異常節(jié)點(diǎn)，近年來已受到廣泛關(guān)注。

現(xiàn)有的一般化圖模型雖然在多種圖任務(wù)中取得了顯著成功，但在推廣到 GAD 任務(wù)時(shí)仍然面臨挑戰(zhàn)。這一局限主要源于其難以學(xué)習(xí)可泛化的知識來捕捉跨不同領(lǐng)域圖中固有的低頻、不規(guī)則和異質(zhì)的異常模式。

為應(yīng)對這一挑戰(zhàn)，我們提出了 AnomalyGFM，一個(gè)面向 GAD 的圖基礎(chǔ)模型，能夠在多樣化的圖數(shù)據(jù)集上支持零樣本推理和小樣本提示調(diào)優(yōu)（prompt tuning）。其核心洞察在于，需要圖無關(guān)的正常與異常類表示，才能支持跨不同圖的有效零/小樣本 GAD。

受此啟發(fā)，AnomalyGFM 通過預(yù)訓(xùn)練，將數(shù)據(jù)無關(guān)、可學(xué)習(xí)的正常和異常類原型，與節(jié)點(diǎn)表示殘差（即節(jié)點(diǎn)與其鄰居的表示偏差）進(jìn)行對齊。殘差特征實(shí)質(zhì)上將節(jié)點(diǎn)信息投射到統(tǒng)一的特征空間中，使得我們能夠以一致的方式衡量來自不同圖的節(jié)點(diǎn)異常性。

這為學(xué)習(xí)圖無關(guān)、具有判別性的正常與異常類原型提供了驅(qū)動(dòng)力，并可直接用于在新圖上進(jìn)行零樣本 GAD，包括超大規(guī)模圖。如果在新圖中存在少量標(biāo)注的正常節(jié)點(diǎn)，AnomalyGFM 還可以進(jìn)一步支持提示調(diào)優(yōu)，以利用這些節(jié)點(diǎn)實(shí)現(xiàn)更好的適應(yīng)。

在覆蓋社交網(wǎng)絡(luò)、金融網(wǎng)絡(luò)和共同評論網(wǎng)絡(luò)的 11 個(gè)廣泛使用的真實(shí)異常 GAD 數(shù)據(jù)集上的綜合實(shí)驗(yàn)表明，AnomalyGFM 在零樣本和小樣本 GAD 設(shè)置下均顯著優(yōu)于現(xiàn)有的最新方法。

論文題目： AnomalyGFM: Graph Foundation Model for Zero/Few-shot Anomaly Detection 論文地址： https://arxiv.org/abs/2502.09254 代碼地址： https://github.com/mala-lab/AnomalyGFM

盡管圖基礎(chǔ)模型在通用圖分類任務(wù)上取得了較好的效果，目前仍然缺乏一種基礎(chǔ)模型，能夠在跨不同領(lǐng)域的圖中有效捕捉異常，并同時(shí)支持零樣本和小樣本的圖異常檢測。

為填補(bǔ)這一空白，本文提出 AnomalyGFM，一個(gè)面向 GAD 的圖基礎(chǔ)模型（Graph Foundation Model，GFM），能夠在零樣本和小樣本場景下都有效地解決 GAD 問題。

其核心洞察在于：為了避免對預(yù)訓(xùn)練圖數(shù)據(jù)的過擬合，需要學(xué)習(xí)圖無關(guān)的正常類和異常類表示，從而支持跨不同圖的有效零/小樣本 GAD。在這一動(dòng)機(jī)的驅(qū)動(dòng)下

AnomalyGFM 通過預(yù)訓(xùn)練，將數(shù)據(jù)無關(guān)、可學(xué)習(xí)的正常類和異常類原型，與節(jié)點(diǎn)表示殘差（即節(jié)點(diǎn)與其鄰居節(jié)點(diǎn)的表示偏差）進(jìn)行對齊。

與原始特征空間中正常與異常模式在不同數(shù)據(jù)集里呈現(xiàn)的不規(guī)則和異質(zhì)性分布（見圖 (b)）相比，殘差特征本質(zhì)上將節(jié)點(diǎn)信息投射到一個(gè)統(tǒng)一的特征空間中，在該空間里我們能夠以一致且 相同的方式有效衡量來自不同圖的節(jié)點(diǎn)異常性（見圖 (c)）。

這是因?yàn)闊o論節(jié)點(diǎn)來自哪個(gè)圖，正常節(jié)點(diǎn)都預(yù)期與其鄰居之間的殘差/偏差較小，而異常節(jié)點(diǎn)的殘差通常較大。

通過學(xué)習(xí)將這些殘差特征與可學(xué)習(xí)的正常和異常類原型對齊，AnomalyGFM 將基于殘差特征的異常可判別性蒸餾到兩個(gè)圖無關(guān)的原型中，從而在無需額外調(diào)優(yōu)/訓(xùn)練的情況下，實(shí)現(xiàn)對新圖中 GAD 的強(qiáng)泛化能力。

進(jìn)一步地，如果在新圖中存在少量標(biāo)注的正常節(jié)點(diǎn)，AnomalyGFM 還能支持圖提示調(diào)優(yōu)（graph prompt tuning），以利用這些節(jié)點(diǎn)實(shí)現(xiàn)更好的適應(yīng)性。

在推理時(shí)異常分?jǐn)?shù)由目標(biāo)節(jié)點(diǎn)的表示殘差與兩個(gè)原型的相似性計(jì)算得到。除此之外，通過學(xué)習(xí)圖無關(guān)的原型，AnomalyGFM 可以通過一種基于子圖的推理方法推廣到超大規(guī)模圖。

AnomalyGFM 能夠在無需考慮整個(gè)圖結(jié)構(gòu)的情況下有效推斷異常分?jǐn)?shù)，從而消除在 GAD 推理中必須加載完整圖的瓶頸。該子圖推理方式在隱私敏感的場景中同樣具有優(yōu)勢，因?yàn)樵谶@些場景下我們不希望將完整的圖結(jié)構(gòu)暴露給檢測模型。

三、實(shí)驗(yàn)

我們建立了一個(gè)覆蓋零樣本和小樣本設(shè)置的綜合基準(zhǔn)，使用了 11 個(gè)真實(shí)世界的 GAD 數(shù)據(jù)集，在此基準(zhǔn)上：

i) AnomalyGFM 的表現(xiàn)顯著優(yōu)于最新的無監(jiān)督、監(jiān)督以及通用 GAD 方法；

ii) 在小樣本 GAD 場景下，AnomalyGFM 在大多數(shù)數(shù)據(jù)集上的 AUROC 和 AUPRC 指標(biāo)上均優(yōu)于一些通用方法。

iii) AnomalyGFM 具有良好的可擴(kuò)展性，能夠應(yīng)用于超大規(guī)模圖。

四、結(jié)論

本文構(gòu)建了一個(gè)面向 GAD 的圖基礎(chǔ)模型 AnomalyGFM，能夠在小樣本和零樣本場景下均有效工作。AnomalyGFM 通過預(yù)訓(xùn)練，將可區(qū)分且數(shù)據(jù)無關(guān)的原型與圖無關(guān)的節(jié)點(diǎn)表示殘差進(jìn)行對齊，從而學(xué)習(xí)到判別性原型。

這種方式為異常性測度提供了一種一致且統(tǒng)一的途徑，即通過比較節(jié)點(diǎn)殘差表示與已學(xué)習(xí)類原型之間的相似性來判斷，從而在零樣本和小樣本推理中都具備強(qiáng)泛化能力。在 11 個(gè)數(shù)據(jù)集上的大量實(shí)驗(yàn)結(jié)果驗(yàn)證了 AnomalyGFM 的有效性和泛化性。

來源：公眾號【PaperWeekly】

llustration From IconScout By IconScout Store

-The End-

掃碼觀看！

本周上新！

“AI技術(shù)流”原創(chuàng)投稿計(jì)劃

TechBeat是由將門創(chuàng)投建立的AI學(xué)習(xí)社區(qū)（www.techbeat.net）。社區(qū)上線700+期talk視頻，3000+篇技術(shù)干貨文章，方向覆蓋CV/NLP/ML/Robotis等；每月定期舉辦頂會(huì)及其他線上交流活動(dòng)，不定期舉辦技術(shù)人線下聚會(huì)交流活動(dòng)。我們正在努力成為AI人才喜愛的高質(zhì)量、知識型交流平臺，希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn)，加速并陪伴其成長。

投稿內(nèi)容

// 最新技術(shù)解讀/系統(tǒng)性知識分享 //

// 前沿資訊解說/心得經(jīng)歷講述 //

投稿須知

稿件需要為原創(chuàng)文章，并標(biāo)明作者信息。

我們會(huì)選擇部分在深度技術(shù)解析及科研心得方向，對用戶啟發(fā)更大的文章，做原創(chuàng)性內(nèi)容獎(jiǎng)勵(lì)

投稿方式

發(fā)送郵件到

michellechang@thejiangmen.com

或添加工作人員微信（michelle333_）投稿，溝通投稿詳情

關(guān)于我“門”

將門是一家以專注于數(shù)智核心科技領(lǐng)域的新型創(chuàng)投機(jī)構(gòu)，也是北京市標(biāo)桿型孵化器。 公司致力于通過連接技術(shù)與商業(yè)，發(fā)掘和培育具有全球影響力的科技創(chuàng)新企業(yè)，推動(dòng)企業(yè)創(chuàng)新發(fā)展與產(chǎn)業(yè)升級。

將門成立于2015年底，創(chuàng)始團(tuán)隊(duì)由微軟創(chuàng)投在中國的創(chuàng)始團(tuán)隊(duì)原班人馬構(gòu)建而成，曾為微軟優(yōu)選和深度孵化了126家創(chuàng)新的技術(shù)型創(chuàng)業(yè)公司。

如果您是技術(shù)領(lǐng)域的初創(chuàng)企業(yè)，不僅想獲得投資，還希望獲得一系列持續(xù)性、有價(jià)值的投后服務(wù)，歡迎發(fā)送或者推薦項(xiàng)目給我“門”:

bp@thejiangmen.com

點(diǎn)擊右上角，把文章分享到朋友圈