IFAP 利用模型梯度生成對(duì)抗性擾動(dòng)，然后在離散余弦變換 (DCT) 域中對(duì)其進(jìn)行整形。與應(yīng)用固定頻率掩碼的現(xiàn)有頻率感知方法不同，IFAP 引入了一種基于輸入圖像頻譜的輸入自適應(yīng)頻譜包絡(luò)約束。該約束引導(dǎo)擾動(dòng)的全頻譜輪廓與輸入圖像相符，從而在保持攻擊有效性的同時(shí)，提高了所生成對(duì)抗樣本的頻譜保真度。圖片來(lái)源：日本同志社大學(xué)奧田正弘教授

編輯：由薩迪·哈雷

審閱：羅伯特·伊根

深度神經(jīng)網(wǎng)絡(luò)（DNN）已成為現(xiàn)代人工智能技術(shù)的基石，推動(dòng)了圖像相關(guān)任務(wù)研究領(lǐng)域的蓬勃發(fā)展。這些系統(tǒng)已應(yīng)用于醫(yī)療診斷、自動(dòng)化數(shù)據(jù)處理、計(jì)算機(jī)視覺(jué)以及各種形式的工業(yè)自動(dòng)化等領(lǐng)域。

隨著對(duì)人工智能模型的依賴日益加深，使用對(duì)抗樣本對(duì)其進(jìn)行全面測(cè)試的需求也日益迫切。簡(jiǎn)而言之，對(duì)抗樣本是指經(jīng)過(guò)策略性噪聲修改的圖像，旨在誘使人工智能犯錯(cuò)。理解對(duì)抗圖像生成技術(shù)對(duì)于識(shí)別深度神經(jīng)網(wǎng)絡(luò)（DNN）中的漏洞以及開(kāi)發(fā)更安全可靠的系統(tǒng)至關(guān)重要。

當(dāng)前對(duì)抗技術(shù)的局限性

盡管對(duì)抗樣本生成技術(shù)非常重要，但目前仍存在諸多局限性�？茖W(xué)家們主要致力于通過(guò)一種稱為 Lp 范數(shù)的約束條件，使添加的噪聲在數(shù)學(xué)上變得很小。雖然這種方法能夠使圖像變化保持細(xì)微，但往往會(huì)導(dǎo)致顆粒狀的偽影，由于這些偽影與原始圖像的紋理不匹配，因此看起來(lái)不自然。

因此，即使噪聲很小且難以察覺(jué)，安全預(yù)過(guò)濾器也能輕易地檢測(cè)并攔截這些噪聲，因?yàn)樗鼈兡軌蜃R(shí)別異常的頻率模式。因此，該領(lǐng)域的一個(gè)顯著挑戰(zhàn)在于，如何超越僅僅最小化噪聲量，轉(zhuǎn)而設(shè)計(jì)更加隱蔽的對(duì)抗性攻擊。

IFAP框架簡(jiǎn)介

在此背景下，日本同志社大學(xué)理工學(xué)研究科的博士生吉田正友和教授奧田正弘開(kāi)發(fā)了一種方法，使對(duì)抗樣本中的加性噪聲與圖像的“光譜形狀”對(duì)齊。

他們的研究發(fā)表在IEEE Access期刊上，提出了一種名為輸入頻率自適應(yīng)對(duì)抗擾動(dòng) (IFAP) 的創(chuàng)新框架。

與以往僅操縱特定頻段的頻率感知方法不同，IFAP采用了一種新的頻譜包絡(luò)約束。這使得添加的噪聲能夠自適應(yīng)地匹配輸入圖像的整個(gè)頻率分布，從而確保擾動(dòng)在頻譜上忠實(shí)于原始內(nèi)容。

IFAP的測(cè)試和評(píng)估

研究人員在各種數(shù)據(jù)集上測(cè)試了 IFAP，包括門牌號(hào)、一般物體以及地形和織物等復(fù)雜紋理。

為了評(píng)估其性能，他們使用了一套全面的指標(biāo)，其中包括他們開(kāi)發(fā)的一種名為頻率余弦相似度（Freq_Cossim）的新指標(biāo)。標(biāo)準(zhǔn)指標(biāo)通常檢查像素級(jí)誤差，而Freq_Cossim則專門衡量噪聲頻譜輪廓頻率與原始圖像頻譜輪廓頻率的匹配程度。

結(jié)果表明，IFAP在結(jié)構(gòu)和紋理相似度方面顯著優(yōu)于現(xiàn)有的對(duì)抗生成技術(shù)。盡管視覺(jué)效果更加自然微妙，但這種對(duì)抗攻擊仍然非常有效，成功欺騙了多種人工智能架構(gòu)。

對(duì)人工智能魯棒性和安全性的影響

有趣的是，研究人員還證明，這些協(xié)調(diào)擾動(dòng)對(duì)常見(jiàn)的圖像清理技術(shù)（例如JPEG壓縮或模糊）具有更強(qiáng)的抵抗力。由于噪聲與圖像的自然紋理融合得非常緊密，因此簡(jiǎn)單的變換很難在不顯著改變圖像本身的情況下將其消除。

IFAP 對(duì)人工智能研究中對(duì)抗樣本的使用方式具有重要意義。通過(guò)了解如何創(chuàng)建與人類感知一致的噪聲，研究人員可以實(shí)施更有效的對(duì)抗攻擊，從而對(duì)人工智能模型進(jìn)行壓力測(cè)試和重新訓(xùn)練，使其更加穩(wěn)健。

“我們相信，我們的研究成果可以用于開(kāi)發(fā)高度可靠的人工智能模型，應(yīng)用于醫(yī)療診斷等領(lǐng)域，這些模型不會(huì)受到圖像質(zhì)量或噪聲的輕微變化的影響，”奧田教授說(shuō)。

展望未來(lái)，這項(xiàng)研究為我們?nèi)绾卧u(píng)估人工智能在圖像處理任務(wù)中的安全性和性能設(shè)定了新的基準(zhǔn)。

奧田教授總結(jié)道：“正如我們的研究提出的那樣，強(qiáng)調(diào)與人類感知和頻率特征一致性的評(píng)估標(biāo)準(zhǔn)，在未來(lái)五到十年內(nèi)可能會(huì)變得更加普遍。這種轉(zhuǎn)變可能會(huì)提高支撐社會(huì)重要基礎(chǔ)設(shè)施（例如醫(yī)療保健和交通運(yùn)輸）的人工智能系統(tǒng)的可靠性。”

閱讀最新前沿科技趨勢(shì)報(bào)告，請(qǐng)?jiān)L問(wèn)歐米伽研究所的“未來(lái)知識(shí)庫(kù)”

https://wx.zsxq.com/group/454854145828

未來(lái)知識(shí)庫(kù)是“ 歐米伽 未來(lái)研究所”建立的在線知識(shí)庫(kù)平臺(tái)，收藏的資料范圍包括人工智能、腦科學(xué)、互聯(lián)網(wǎng)、超級(jí)智能，數(shù)智大腦、能源、軍事、經(jīng)濟(jì)、人類風(fēng)險(xiǎn)等等領(lǐng)域的前沿進(jìn)展與未來(lái)趨勢(shì)。目前擁有超過(guò)8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問(wèn)https://wx.zsxq.com/group/454854145828進(jìn)入。