短期以AI對(duì)抗AI，需要企業(yè)自覺(jué)落實(shí)相關(guān)防御措施，長(zhǎng)期則需要監(jiān)管和標(biāo)準(zhǔn)化的落地。

文｜周路平 周享玥

編｜游勇

10月29日凌晨，美國(guó)發(fā)生了一起令人啼笑皆非的事情。英偉達(dá)在這一天舉辦了GPU技術(shù)大會(huì)，官方直播只有2萬(wàn)人觀看，但與此同時(shí)，另外一個(gè)以黃仁勛形象偽造的假直播也在同步進(jìn)行，而最高觀看人數(shù)超過(guò)了10萬(wàn)人。

生成式AI的大爆發(fā)，給千行百業(yè)帶來(lái)巨大想象空間的同時(shí)，利用AI技術(shù)進(jìn)行深度偽造的風(fēng)險(xiǎn)在陡然增加。尤其是Sora2等圖生視頻大模型發(fā)布之后，以假亂真的效果進(jìn)一步加劇了外界的擔(dān)憂

攻防之間，一場(chǎng)深刻的“全球風(fēng)控大變局”已悄然降臨。

01

AIGC雙刃劍，全球風(fēng)控局勢(shì)在加劇

2024年初，香港公布了一起有史以來(lái)金額最高的AI詐騙案。某跨國(guó)企業(yè)香港分公司財(cái)務(wù)人員遭“AI圍獵”，詐騙團(tuán)伙通過(guò)偽造總部高管郵件、音視頻并組織一場(chǎng)逼真的多人視頻會(huì)議，誘使其15次轉(zhuǎn)賬，損失金額高達(dá)2億港元。

無(wú)獨(dú)有偶，去年10月印尼新任總統(tǒng)宣誓就職后，其頭像頻遭盜用制作虛假視頻，至少有22個(gè)虛假賬號(hào)冒充其名義，騙取民眾“行政費(fèi)”。

這是AI時(shí)代全球風(fēng)險(xiǎn)變化的典型縮影。AIGC猶如一把雙刃劍，帶來(lái)AI紅利的同時(shí)正加劇全球風(fēng)控風(fēng)險(xiǎn)。而且，相比于以往的攻擊手段，生成式AI帶來(lái)的安全風(fēng)險(xiǎn)呈現(xiàn)多個(gè)變化趨勢(shì)。

技術(shù)上，AI大幅拉低了安全攻擊的門檻與成本。過(guò)去，文件篡改、證件偽造、電話詐騙等攻擊多依賴人工操作，相對(duì)低頻且成本較高?，F(xiàn)在，“AI黑客”利用生成式AI工具，可輕易制作高度逼真的人臉圖像、釣魚(yú)郵件、虛假網(wǎng)站、惡意腳本。

技術(shù)杠桿加持下，攻擊類型大增，比如深度偽造已從曾經(jīng)僅由專業(yè)團(tuán)隊(duì)掌握變?yōu)榉菍I(yè)人士也能通過(guò)AI快速合成換臉視頻，成為增長(zhǎng)最快的新型風(fēng)險(xiǎn)之一。

螞蟻數(shù)科國(guó)際業(yè)務(wù)首席技術(shù)官姚偉斌告訴數(shù)智前線，2023年以前，DeepFake等AIGC攻擊比例不足千分之一，生成式AI普及后，攻擊次數(shù)指數(shù)級(jí)上升，“2024年、2025年攻擊比例已超過(guò)5%，甚至接近10%?！?/strong>

在空間層面，AI風(fēng)險(xiǎn)已突破地理邊界，影響范圍更廣，治理難度驟增。無(wú)論AI欺詐、電信詐騙均已跨國(guó)蔓延，但各國(guó)仍以屬地方式治理，導(dǎo)致追責(zé)、認(rèn)定、追款和執(zhí)法協(xié)同困難重重。

在時(shí)間維度上，時(shí)效性也變得愈發(fā)關(guān)鍵。如今算法兩周一迭代已算迅速，但攻擊者的迭代效率卻以天為單位，遠(yuǎn)超防御節(jié)奏。有數(shù)據(jù)顯示，2024年，AI輔助攻擊每24小時(shí)的變異率已達(dá)93%。

在時(shí)間、空間和技術(shù)等多個(gè)維度出現(xiàn)變化的背景下，由深度偽造引發(fā)的重大AI風(fēng)險(xiǎn)事件，已經(jīng)在全球范圍內(nèi)帶來(lái)真金白銀的損失。

德勤報(bào)告預(yù)測(cè)，與深度偽造相關(guān)的網(wǎng)絡(luò)攻擊損失將從2023年的123億美元飆升至2027年的400億美元，復(fù)合年增長(zhǎng)率32%，銀行和金融服務(wù)業(yè)將成主要目標(biāo)。

新的風(fēng)險(xiǎn)形勢(shì)下，AI風(fēng)控亟需變革。業(yè)界普遍認(rèn)為，以前基于規(guī)則引擎疊加的“人與人對(duì)抗”的安全風(fēng)控方式，已難以適應(yīng)AI時(shí)代的風(fēng)控需要，亟需新的風(fēng)控解決方案。

02

單點(diǎn)防御轉(zhuǎn)向全鏈路服務(wù)

過(guò)去一年，香港金管局先后公布了兩批生成式AI的沙盒名單，希望通過(guò)行業(yè)的共同努力，探索具體場(chǎng)景的深度研發(fā)與測(cè)試驗(yàn)證。而入選的方案和用例從第一批的十幾個(gè)，增加到了27個(gè)，集中在金融行業(yè)的AI風(fēng)控和治理。

相比于數(shù)量的增加，業(yè)內(nèi)看到的變化是，在探索用AI去對(duì)抗AI的同時(shí)，大家也在逐漸意識(shí)到，安全風(fēng)控已經(jīng)是一個(gè)社會(huì)工程問(wèn)題，不能僅僅靠單點(diǎn)的技術(shù)來(lái)應(yīng)對(duì)。

隨著攻擊門檻的降低，攻擊者的迭代效率已經(jīng)在按天進(jìn)化，傳統(tǒng)基于規(guī)則引擎的風(fēng)控系統(tǒng)早已力不從心。姚偉斌認(rèn)為，今天單點(diǎn)的算法已經(jīng)不夠用，要從防注入的系統(tǒng)層面再到全鏈路的服務(wù)進(jìn)行打通。

面對(duì)全新的風(fēng)控形勢(shì)，螞蟻數(shù)科提出了由點(diǎn)到面的防控思路：一是要做到端到端的防控，覆蓋多層級(jí)，而不僅僅依賴于單點(diǎn)算法。比如在攻擊發(fā)生之前，對(duì)App層面進(jìn)行加固，檢測(cè)是否有被越權(quán)或者入侵的跡象；在被攻擊時(shí)，檢測(cè)算法要開(kāi)始生效，鑒別攻擊行為。

二是將產(chǎn)品和服務(wù)相結(jié)合。除了提供ZOLOZ等標(biāo)準(zhǔn)化的產(chǎn)品，螞蟻數(shù)科也在給企業(yè)提供安全專家服務(wù)。安全專家這個(gè)角色會(huì)根據(jù)后臺(tái)每天的攻擊信息進(jìn)行分析，包括是否有地域或者IP的聚集性，是否有其他相似的特征，然后設(shè)定特定的防御策略。這是螞蟻數(shù)科今年在做的一個(gè)比較新的東西，“這意味著，從原來(lái)單純的一個(gè)產(chǎn)品進(jìn)化到一個(gè)安全專家服務(wù)的概念?！?/p>

三是提升全行業(yè)的共同防御能力。比如螞蟻數(shù)科連續(xù)兩年舉辦了針對(duì)Deepfake檢測(cè)算法的比賽，目的就是幫助行業(yè)和學(xué)術(shù)圈提升整體的防御能力。

另外，螞蟻數(shù)科也建設(shè)了天璣實(shí)驗(yàn)室，通過(guò)紅藍(lán)對(duì)抗的方式，去探索前沿生物識(shí)別檢測(cè)與對(duì)抗攻擊，并自研一套自動(dòng)化生物識(shí)別檢測(cè)認(rèn)證體系，推動(dòng)整個(gè)行業(yè)的身份識(shí)別安全水位升級(jí)?！艾F(xiàn)在有這種實(shí)驗(yàn)室能力或者工具的并不多?！币ケ蟾嬖V數(shù)智前線。

如今這種全鏈路的風(fēng)控體系正在取得成效。在東南亞一些國(guó)家，DeepFake的攻擊濃度大概在3%-5%，而螞蟻數(shù)科旗下的安全品牌ZOLOZ能把識(shí)別準(zhǔn)確率做到99.9%。

“短期以AI對(duì)抗AI，需要企業(yè)自覺(jué)落實(shí)相關(guān)防御措施，長(zhǎng)期則需要監(jiān)管和標(biāo)準(zhǔn)化的落地?！币ケ笳f(shuō)。目前，業(yè)內(nèi)開(kāi)始用AI去對(duì)抗AI，拿一些壞的樣本對(duì)AI進(jìn)行訓(xùn)練，讓它變得更聰明，比如用數(shù)字人對(duì)AI進(jìn)行訓(xùn)練。

但這種做法有其局限性。安全風(fēng)險(xiǎn)的防控經(jīng)常面臨“道高一尺、魔高一丈”的窘境，算法依賴于數(shù)據(jù)去訓(xùn)練，但大多數(shù)情況下，都是出現(xiàn)了攻擊行為之后，再把這些數(shù)據(jù)喂給算法，補(bǔ)上漏洞，常常是跟在攻擊者后面疲于奔命。

“如果互聯(lián)網(wǎng)的內(nèi)容10%是AI的，我們還能通過(guò)算法去防一下；但假如大部分都是AI生成的，背后會(huì)帶來(lái)非常巨大的計(jì)算成本?！币ケ笳J(rèn)為，這需要企業(yè)的自覺(jué)，給AI生成的內(nèi)容打上隱性和顯性的標(biāo)識(shí)。

而從長(zhǎng)期來(lái)看，要徹底改變內(nèi)容生成可信的問(wèn)題，比如每一個(gè)AI生成工具要有一個(gè)Key，就好比每一個(gè)網(wǎng)頁(yè)都對(duì)應(yīng)一個(gè)http網(wǎng)址一樣，讓每個(gè)內(nèi)容背后都有可信的數(shù)據(jù)生成鏈。

另外，AI風(fēng)控也依賴全球在監(jiān)管層面的協(xié)同。今年3月，國(guó)家網(wǎng)信辦等四部門印發(fā)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求AI生成的內(nèi)容必須添加標(biāo)識(shí)。香港金管局（HKMA）、新加坡MAS、馬來(lái)西亞BNM等也已明確設(shè)定誤攔截率、誤通過(guò)率等安全指標(biāo)，倒逼企業(yè)加速防控。

不過(guò)，各國(guó)的治理模式差異顯著，例如歐盟以倫理先行為導(dǎo)向的“硬法治”模式，通過(guò)《人工智能法案》對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)實(shí)施嚴(yán)格監(jiān)管；而美國(guó)則偏向以技術(shù)先行為導(dǎo)向的“軟法治”模式，更側(cè)重行業(yè)自律和自愿承諾。這些困境凸顯了單一國(guó)家或區(qū)域性治理模式的局限性，全球協(xié)同治理的緊迫性日益凸顯。

03

中國(guó)企業(yè)如何吃到海外風(fēng)控的蛋糕？

AI風(fēng)控作為全球性話題，也催生了龐大的治理需求。其中金融、Web3、游戲和政企行業(yè)在AI風(fēng)控的需求尤為旺盛，其原因不難理解，AI帶來(lái)的風(fēng)險(xiǎn)漏洞會(huì)給這些客戶帶來(lái)真金白銀的損失。

而海內(nèi)外不少針對(duì)AI風(fēng)控的項(xiàng)目正在受到資本的熱情追捧。比如聚焦于AI合規(guī)的獨(dú)角獸企業(yè)Vanta不僅得到了眾多資本的青睞，其估值更是已經(jīng)飆升到40多億美元；而專注在AI模型安全領(lǐng)域的初創(chuàng)公司Irregular在今年9月完成了8000萬(wàn)美元融資，估值達(dá)到了4.5億美元。

這些企業(yè)盡管在AI風(fēng)控細(xì)分賽道耕耘或者局限于本土區(qū)域，但資本層面依然給予了非常積極的反饋。

這個(gè)賽道也在吸引中國(guó)企業(yè)走出去。螞蟻數(shù)科自2017年就開(kāi)始探索數(shù)字技術(shù)出海，將螞蟻集團(tuán)在中國(guó)龐大市場(chǎng)中磨練的最佳實(shí)踐與技術(shù)能力以產(chǎn)品的形式出海，服務(wù)于海外客戶的數(shù)字化轉(zhuǎn)型

相比于很多創(chuàng)業(yè)型企業(yè)，螞蟻數(shù)科在海外經(jīng)營(yíng)已經(jīng)具備了諸多優(yōu)勢(shì)。一是螞蟻數(shù)科的產(chǎn)品和技術(shù)經(jīng)過(guò)了國(guó)內(nèi)市場(chǎng)的打磨。眾所周知，中國(guó)的移動(dòng)支付發(fā)達(dá)，數(shù)智化進(jìn)程迅速，每一個(gè)場(chǎng)景和產(chǎn)品都經(jīng)歷過(guò)高壓環(huán)境的測(cè)試和打磨，往往在海外市場(chǎng)擁有很強(qiáng)的競(jìng)爭(zhēng)力。

其次是阿里和螞蟻的品牌背書(shū)效應(yīng)，在國(guó)際市場(chǎng)尤其是東南亞的知名度很高，給螞蟻數(shù)科在這些市場(chǎng)的耕耘帶來(lái)諸多便利。而且，阿里和螞蟻集團(tuán)在東南亞和南亞等國(guó)投資了大量的錢包產(chǎn)品，比如菲律賓的GCash、印尼的DANA、馬來(lái)西亞的Touch’n Go、泰國(guó)的Truemoney、孟加拉的bKash。這些本地支付寶們成了螞蟻數(shù)科進(jìn)軍海外市場(chǎng)的肥沃土壤。

如今，螞蟻數(shù)科旗下的安全科技商業(yè)化品牌ZOLOZ可實(shí)現(xiàn)用戶全自助、無(wú)人工干預(yù)完成“在線身份認(rèn)證”，實(shí)人認(rèn)證準(zhǔn)確率達(dá)到 99.9%，將原本至少一周以上的注冊(cè)時(shí)間，縮短至3分鐘，提升了客戶業(yè)務(wù)效率。2023年，Forrester發(fā)布亞太區(qū)反欺詐科技服務(wù)商研究報(bào)告，ZOLOZ位列亞太區(qū)第一

比如ZOLOZ支持了印尼“待就業(yè)卡”項(xiàng)目，該項(xiàng)目的一個(gè)風(fēng)險(xiǎn)點(diǎn)在于，要確保獎(jiǎng)學(xué)金發(fā)放到準(zhǔn)確的學(xué)員賬戶中，防范欺詐冒領(lǐng)等問(wèn)題。而通過(guò)螞蟻數(shù)科的ZOLOZ身份認(rèn)證服務(wù)，不僅免去了人工審核成本，也讓學(xué)員在2分鐘內(nèi)完成注冊(cè)認(rèn)證流程。

而在海外耕耘多年的姚偉斌發(fā)現(xiàn)，海外市場(chǎng)有其獨(dú)特性的一面，比如海外企業(yè)的付費(fèi)習(xí)慣更好，尤其是在香港、新加坡等監(jiān)管嚴(yán)格的地區(qū)，企業(yè)更愿意為服務(wù)買單。而且，海外企業(yè)習(xí)慣于買SaaS產(chǎn)品，而不是像國(guó)內(nèi)市場(chǎng)有太多本地化部署的需求。

姚偉斌告訴數(shù)智前線，螞蟻數(shù)科在海外的金融客戶購(gòu)買SaaS產(chǎn)品的比例非常高。相比于本地化部署，SaaS模式在AI風(fēng)控上有著天然優(yōu)勢(shì)。一方面，產(chǎn)品提供方可以掌握更多的攻擊樣本，從而能及時(shí)響應(yīng)，優(yōu)化應(yīng)對(duì)策略，提升攔截的效率；另一方面，風(fēng)控算法本身對(duì)時(shí)效性要求高，而SaaS可以滿足客戶對(duì)最新算法的需要。

另外，雖然AI攻防的風(fēng)險(xiǎn)在全球范圍內(nèi)增加，但國(guó)家和地區(qū)之間對(duì)AI風(fēng)控的訴求差異較大，比如數(shù)智化水平最高的中美表現(xiàn)得最為強(qiáng)烈，而東南亞、南亞和日韓等市場(chǎng)，已經(jīng)在啟動(dòng)智能化進(jìn)程。

業(yè)內(nèi)普遍認(rèn)為，中國(guó)企業(yè)在技術(shù)上與國(guó)際廠商沒(méi)有代差，甚至比他們更強(qiáng)。因?yàn)閲?guó)內(nèi)的競(jìng)爭(zhēng)激烈，有場(chǎng)景、有客戶案例，也有非常多的競(jìng)爭(zhēng)對(duì)手。

不過(guò)，在姚偉斌看來(lái)，中國(guó)企業(yè)出海需要做技術(shù)和產(chǎn)品的本地化，不能幻想著像國(guó)內(nèi)一樣能夠短時(shí)間內(nèi)大爆發(fā)，需要比較長(zhǎng)的時(shí)間去醞釀和準(zhǔn)備。