南派資訊：近日，在全球人工智能領(lǐng)域最具影響力的頂級學(xué)術(shù)會(huì)議 NeurIPS（神經(jīng)信息處理系統(tǒng)大會(huì)）上，螞蟻國際在“AI人臉檢測公平性競賽”中獲得第一，從全球162支參賽隊(duì)伍、逾2100次結(jié)果提交中勝出。這一成果標(biāo)志著其在應(yīng)對深度偽造（deepfake）欺詐、提升金融身份驗(yàn)證可靠性方面取得關(guān)鍵進(jìn)展。

螞蟻國際風(fēng)控團(tuán)從全球160多支團(tuán)隊(duì)中脫穎而出奪得 “AI人臉檢測公平性競賽”冠軍

NeurIPS 由非營利組織 Neural Information Processing Systems Foundation 主辦，自1987年創(chuàng)辦以來，已成為機(jī)器學(xué)習(xí)與計(jì)算神經(jīng)科學(xué)領(lǐng)域公認(rèn)的頂級會(huì)議，被廣泛視為 AI 技術(shù)前沿的“風(fēng)向標(biāo)”。每年吸引包括谷歌 DeepMind、Meta、微軟等全球頂尖機(jī)構(gòu)參與，其競賽以高難度、強(qiáng)實(shí)戰(zhàn)性和前瞻性著稱。本屆大會(huì)于11月30日至12月7日先后在墨西哥城和美國圣地亞哥舉行，聚焦生成式 AI 快速演進(jìn)帶來的倫理與安全挑戰(zhàn)。

本次競賽的核心命題是：在深度偽造的挑戰(zhàn)面前，如何精確識(shí)別 AI 生成人臉的同時(shí)，確保算法對不同性別、年齡和膚色人群保持一致的準(zhǔn)確率。主辦方提供了120萬張覆蓋多元人口特征的合成圖像，要求模型既精準(zhǔn)識(shí)假，又避免因訓(xùn)練數(shù)據(jù)偏差導(dǎo)致對特定群體的系統(tǒng)性誤判。

這一問題在金融場景中尤為關(guān)鍵——有研究發(fā)現(xiàn)，商用的面部識(shí)別算法對女性和有色人種的錯(cuò)誤率明顯更高。這主要是由于在用來訓(xùn)練AI算法的數(shù)據(jù)中，部分人群的數(shù)據(jù)相對偏少。在金融服務(wù)上，AI算法的偏見會(huì)導(dǎo)致正當(dāng)服務(wù)需求被拒絕，并引發(fā)安全漏洞。

螞蟻國際獲勝的AI模型訓(xùn)練將混合專家 (Mixture of Expert) 架構(gòu)與內(nèi)部 “偏差檢測” 機(jī)制相結(jié)合，讓神經(jīng)子網(wǎng)絡(luò)互相對抗，一個(gè)專注于發(fā)現(xiàn)深度偽造，另一個(gè)積極挑戰(zhàn)它忽略敏感特征。這種對抗性去偏的方式確保AI模型學(xué)會(huì)發(fā)現(xiàn)真正的偽造痕跡，而不是人群特征。模型訓(xùn)練同時(shí)使用具有全球代表性的數(shù)據(jù)，包括真實(shí)的支付欺詐場景，進(jìn)一步確保了準(zhǔn)確性與公平性。

“有偏見的AI不是安全的AI，” 螞蟻國際風(fēng)險(xiǎn)管理與網(wǎng)絡(luò)安全事業(yè)部總經(jīng)理張?zhí)煲聿┦勘硎??！拔覀傾I模型的公平性可以有效應(yīng)對deepfake風(fēng)險(xiǎn)，并確保所有用戶的可靠身份驗(yàn)證，讓我們能在全球范圍內(nèi)提供安全、便捷的金融服務(wù)。

目前，螞蟻國際已將該技術(shù)已開始整合進(jìn)其支付與金融服務(wù)體系。包括，螞蟻國際依托AI技術(shù)強(qiáng)化深度偽造防范措施，對deepfake的識(shí)別率超過99.8%。確保AI人臉檢測的公平性能讓這些防范措施“一視同仁”地保護(hù)全球200多個(gè)市場不同人群的賬戶安全。同時(shí)幫助金融機(jī)構(gòu)和商戶合作伙伴滿足各地日益嚴(yán)格的電子身份認(rèn)證（eKYC）合規(guī)要求。更公平的識(shí)別能力，也為向新興市場更多元用戶群體擴(kuò)展普惠金融服務(wù)提供了技術(shù)支撐。

作為底層保障，螞蟻國際已構(gòu)建名為 AI SHIELD 的全生命周期 AI 安全框架，可將數(shù)據(jù)泄露、越權(quán)訪問等風(fēng)險(xiǎn)降低90%。其賬戶保護(hù)方案 Alipay+ EasySafePay 360 已實(shí)現(xiàn)數(shù)字錢包支付場景下賬戶被盜事件減少90%。

截至目前，螞蟻國際服務(wù)覆蓋全球18億用戶賬戶和1.5億商戶，業(yè)務(wù)涵蓋 Alipay+ 全球錢包網(wǎng)關(guān)、Antom 商戶支付、Bettr 普惠信貸科技及萬里匯（WorldFirst）跨境賬戶服務(wù)。此次在 NeurIPS 這一全球 AI 學(xué)術(shù)高地奪冠，不僅是一次技術(shù)突破，更釋放出明確信號：在 AI 深度融入金融基礎(chǔ)設(shè)施的今天，算法公平性已從倫理議題升級為安全剛需。