“一個(gè)案例勝過(guò)一打文件?！睘槌浞职l(fā)揮典型案例示范指導(dǎo)、規(guī)范引領(lǐng)和價(jià)值導(dǎo)向作用，福建省高級(jí)人民法院和福建省廣播影視集團(tuán)聯(lián)合打造《熱案大家談》節(jié)目，重點(diǎn)圍繞群眾關(guān)切、企業(yè)關(guān)注、行業(yè)關(guān)心的重點(diǎn)熱點(diǎn)案件，采取新聞事件回顧和專家學(xué)者訪談的方式，開(kāi)展故事性、實(shí)用性、服務(wù)性兼具的以案釋法、融情議理，以事關(guān)民生的小案例展現(xiàn)司法為民大作為，營(yíng)造尊法學(xué)法守法用法的濃厚氛圍。

節(jié)目以每?jī)芍芤黄诘念l次，于周五晚19：30在福建電視臺(tái)新聞?lì)l道《現(xiàn)場(chǎng)》欄目播出。福建高院新媒體平臺(tái)同步推送，歡迎關(guān)注。

第三十一期

讓我們一起來(lái)關(guān)注

《“AI換臉”之禍》

隨著AI換臉技術(shù)的迭代升級(jí)，人臉識(shí)別這道曾被視為 “安全屏障” 的防線，正面臨前所未有的挑戰(zhàn)。當(dāng)我們刷臉支付、刷臉登錄時(shí)，是否想過(guò)這張獨(dú)一無(wú)二的生物ID，也可能被輕易“盜用”？泉州市鯉城區(qū)就發(fā)生了一起利用“AI換臉”技術(shù)，突破平臺(tái)人臉識(shí)別系統(tǒng)的新型犯罪案件。這起案件背后隱藏著怎樣的技術(shù)和法律風(fēng)險(xiǎn)？跟著鏡頭，一起去一探究竟。

泉州的小伙傅某

初中畢業(yè)就迷上了網(wǎng)絡(luò)

大部分時(shí)間都泡在網(wǎng)上

是一名資深網(wǎng)絡(luò)“玩家”

對(duì)AI、黑客技術(shù)這些新鮮玩意兒

特別感興趣

然而，技術(shù)的“酷”很快變了味

隨著傅某在一些網(wǎng)絡(luò)社群里小有名氣

開(kāi)始有陌生人主動(dòng)找上門來(lái)

請(qǐng)他“幫個(gè)小忙”

2023年，隨著AI技術(shù)的不斷升級(jí)

傅某在網(wǎng)上發(fā)現(xiàn)了一條“生財(cái)之道”

利用“AI換臉”技術(shù)

幫助他人繞過(guò)平臺(tái)的人臉驗(yàn)證

傅某說(shuō)，剛開(kāi)始他的“客戶”還僅限于

需要大量賬號(hào)的短視頻從業(yè)者

因?yàn)槠脚_(tái)限制一人一號(hào)

還需要人臉識(shí)別

傅某的技術(shù)正好“解決”了這個(gè)“難題”

傅某利用自己的技術(shù)

先是在未經(jīng)他人同意的情況下

擅自使用他人照片

通過(guò)軟件技術(shù)手段

幫助客戶成功注冊(cè)某平臺(tái)企業(yè)員工賬號(hào)

兩千余個(gè)

獲利人民幣七千元

此后，傅某的技術(shù)“口碑”在灰色地帶傳開(kāi)

業(yè)務(wù)也隨之升級(jí)，有人找上門

希望他能突破某酒類申購(gòu)平臺(tái)的

人臉識(shí)別門檻

盡管多了幾道程序

但對(duì)于傅某來(lái)說(shuō)

并不是什么難事

就這樣，短短一個(gè)多月的時(shí)間里

他利用AI換臉視頻幫助客戶

通過(guò)相關(guān)微信小程序的人臉驗(yàn)證

超過(guò)90單

并從中獲利人民幣2萬(wàn)元

直到東窗事發(fā)

程序異常引起了銷售商的警覺(jué)

警方隨即介入調(diào)查

通過(guò)技術(shù)手段溯源

很快就鎖定了傅某

2023年8月，傅某被公安機(jī)關(guān)抓獲

同年被泉州市鯉城區(qū)檢察院以

“非法控制計(jì)算機(jī)信息系統(tǒng)罪”提起公訴

2023年12月，泉州市鯉城區(qū)人民法院

公開(kāi)開(kāi)庭審理了這起案件

此案的焦點(diǎn)在于：

法律應(yīng)如何定性這種

利用AI技術(shù)“欺騙”系統(tǒng)的行為？

傅某的行為

是構(gòu)成“侵犯公民個(gè)人信息罪”

還是“非法控制計(jì)算機(jī)信息系統(tǒng)罪”呢？

法院經(jīng)審理認(rèn)為

傅某通過(guò)專門軟件改變了

手機(jī)系統(tǒng)原本調(diào)用攝像頭的正常方式

強(qiáng)制系統(tǒng)讀取預(yù)設(shè)視頻

實(shí)現(xiàn)替換攝像頭的功能

本質(zhì)上是對(duì)計(jì)算機(jī)信息系統(tǒng)的干擾和控制

符合非法控制計(jì)算機(jī)信息罪的構(gòu)成要件

根據(jù)《刑法》第二百八十五條

第二款規(guī)定

采用其他技術(shù)手段

非法控制計(jì)算機(jī)信息系統(tǒng)的

構(gòu)成非法控制計(jì)算機(jī)信息系統(tǒng)罪

法院認(rèn)為

傅某使用軟件干擾平臺(tái)人臉識(shí)別

繞過(guò)活體檢測(cè)的行為

屬于“其他技術(shù)手段”

最終，泉州市鯉城區(qū)人民法院

判處傅某有期徒刑三年

并處罰金五千元

違法所得予以沒(méi)收

從沉迷技術(shù)的“玩家”

到游走法律邊緣的“達(dá)人”

最終淪為身陷囹圄的罪犯

傅某的經(jīng)歷是一條清晰的墜落軌跡

此案為技術(shù)濫用者敲響了法律的警鐘

也撕裂了“刷臉即安全”的固有認(rèn)知

AI技術(shù)本身沒(méi)有對(duì)錯(cuò)

關(guān)鍵在于使用者的選擇

當(dāng)技術(shù)創(chuàng)新遭遇法律紅線時(shí)

唯有堅(jiān)守合規(guī)底線，尊重技術(shù)邊界

才能讓科技真正服務(wù)于社會(huì)

大家談

問(wèn)：在本案中，傅某通過(guò)AI換臉，幫助客戶非法注冊(cè)各種賬號(hào)，欺騙購(gòu)酒平臺(tái)的人臉認(rèn)證非法獲得購(gòu)酒資格。法院如何定性這種利用AI換臉進(jìn)行犯罪的行為，面對(duì)這種新型犯罪手段，法院主要依據(jù)哪些法律來(lái)進(jìn)行判決？

答：本案中，傅某系通過(guò)專門軟件改變了手機(jī)系統(tǒng)原本調(diào)用攝像頭的正常方式，強(qiáng)制系統(tǒng)讀取預(yù)設(shè)視頻，實(shí)現(xiàn)替換攝像頭的功能，本質(zhì)上是對(duì)計(jì)算機(jī)信息系統(tǒng)的干擾和控制，符合非法控制計(jì)算機(jī)信息系統(tǒng)罪的構(gòu)成要件。

我們法院對(duì)該案主要適用刑法第285條第二款關(guān)于“違法國(guó)家規(guī)定，采用其他技術(shù)手段，對(duì)國(guó)家事務(wù)、國(guó)防建設(shè)、尖端科學(xué)技術(shù)領(lǐng)域以外的計(jì)算機(jī)信息系統(tǒng)實(shí)施非法控制的”，構(gòu)成非法控制計(jì)算信息系統(tǒng)罪”的規(guī)定，對(duì)傅某進(jìn)行判決。

當(dāng)然，傅某在實(shí)施上述犯罪行為的同時(shí)亦觸犯刑法關(guān)于“侵犯公民個(gè)人信息罪”的規(guī)定，與前罪系屬目的和手段關(guān)系，在刑法上稱為“牽連犯”，在本案，法院選擇更重前罪判處。

問(wèn)：隨著AI技術(shù)的快速發(fā)展，可以預(yù)見(jiàn)的是，利用或?yàn)E用AI技術(shù)從事違法犯罪的活動(dòng)也會(huì)日益增多，在打擊治理“AI犯罪”這一方面，我們法院有哪些相對(duì)應(yīng)的措施？

答：面對(duì)日益增多的“AI犯罪”挑戰(zhàn)，我們法院正在從三方面著手應(yīng)對(duì)：

一是堅(jiān)持依法嚴(yán)懲，筑牢法律防線。嚴(yán)格適用現(xiàn)行法律，對(duì)利用AI實(shí)施的各類犯罪，做到精準(zhǔn)打擊、罪責(zé)刑相適應(yīng)。同時(shí)，也會(huì)密切關(guān)注新型犯罪形態(tài)，通過(guò)證據(jù)規(guī)則的適用和案件裁判尺度的統(tǒng)一，確保依法精準(zhǔn)打擊新類型犯罪。

二是強(qiáng)化協(xié)同治理，形成打擊合力。打擊“AI犯罪”不能僅靠法院。我們正積極推動(dòng)與公安、檢察院、行政等部門的協(xié)同聯(lián)動(dòng)，建立起數(shù)據(jù)共享、線索移交、會(huì)商研判的快速通道，加大全鏈條打擊力度。

三是延伸審判職能，加強(qiáng)司法預(yù)警。法院通過(guò)發(fā)布典型案例、走進(jìn)社區(qū)、校園普法等方式，揭示“AI犯罪”的手法和危害，提升全社會(huì)的防范意識(shí)和辨別能力，從源頭上壓縮犯罪空間。

問(wèn)：這幾年可以說(shuō)是AI技術(shù)的爆發(fā)期，越來(lái)越多的人在工作生活中開(kāi)始享受到AI帶來(lái)的全新體驗(yàn)，但伴隨而來(lái)的可能就有AI技術(shù)被利用后的各種風(fēng)險(xiǎn)。請(qǐng)教粟代表，類似AI換臉，AI變聲這類的新技術(shù)，如果被人利用，給我們生活以及社會(huì)可能帶來(lái)哪些具體風(fēng)險(xiǎn)和危害？

答：這些風(fēng)險(xiǎn)非常現(xiàn)實(shí)且具體。我認(rèn)為主要有兩個(gè)方面的危害：

第一，最直接的影響是公民權(quán)益受到侵害。最典型的是不法分子利用AI變聲、換臉冒充親友或領(lǐng)導(dǎo)進(jìn)行視頻通話進(jìn)行詐騙。還有利用“AI換臉”技術(shù)惡意拼接視頻損害他人名譽(yù)權(quán)和肖像權(quán)等案件亦有出現(xiàn)。

第二，對(duì)企業(yè)信譽(yù)、數(shù)字經(jīng)濟(jì)和社會(huì)信任構(gòu)成了切實(shí)威脅。它可能被用于偽造企業(yè)人員的虛假言論，損害其公眾形象與商業(yè)信譽(yù)，也可能制造并傳播不實(shí)信息，干擾數(shù)字經(jīng)濟(jì)的健康運(yùn)行。這種行為會(huì)加劇虛假信息的泛濫，最終侵蝕社會(huì)信任這一寶貴的公共基石。

總而言之，技術(shù)本身是雙刃劍，在享受AI紅利的同時(shí)，必須高度重視其帶來(lái)的新型犯罪形式和社會(huì)信任危機(jī)，并盡快建立有效的監(jiān)管與應(yīng)對(duì)機(jī)制。

問(wèn)：我們希望AI技術(shù)能被高效便捷又安全的使用。所以，在AI技術(shù)的應(yīng)用、規(guī)范、以及監(jiān)管方面，我們是不是應(yīng)該建立一個(gè)各部門合作的體系，來(lái)保證AI技術(shù)應(yīng)用的安全呢，您的建議是什么？

答：如何保證AI技術(shù)應(yīng)用的安全，我個(gè)人建議有兩點(diǎn)：

一是平臺(tái)與企業(yè)層面。作為技術(shù)研發(fā)和應(yīng)用的前沿，不能只追求效率效益而忽視安全。需要建立嚴(yán)格的內(nèi)容審核機(jī)制，對(duì)AI換臉、生成視頻等內(nèi)容進(jìn)行顯著標(biāo)識(shí)，利用技術(shù)手段識(shí)別、追蹤深度偽造內(nèi)容。對(duì)同一IP地址登陸的不同賬號(hào)進(jìn)行人臉識(shí)別使用的限制和預(yù)警，人臉識(shí)別與身份驗(yàn)證并用，從源頭設(shè)立“防火墻”。

二是政府與個(gè)人層面。加快立法進(jìn)程，明確AI濫用的法律邊界與懲罰措施，確立清晰的權(quán)責(zé)規(guī)則。出臺(tái)清晰、統(tǒng)一的行業(yè)標(biāo)準(zhǔn)和安全基準(zhǔn)。加強(qiáng)公眾個(gè)人防護(hù)意識(shí)，提升全民的數(shù)字素養(yǎng)和辨別能力，保護(hù)好指紋、人臉、虹膜等個(gè)人生物識(shí)別信息。

問(wèn)：本案中，傅某通過(guò)AI換臉，讓客戶非法獲得購(gòu)酒資格。生活中，利用AI換臉等技術(shù)從事犯罪的行為越來(lái)越多。比如利用AI換臉進(jìn)行詐騙，獲取個(gè)人信息，甚至犯罪等等。請(qǐng)教下何教授，AI換臉等深度偽造技術(shù)帶來(lái)的新型犯罪手段，我們現(xiàn)有法律相對(duì)于這些AI技術(shù)發(fā)展是否存在一些滯后性，我們有沒(méi)有必要在利用“AI犯罪”方面設(shè)置專門的條款，來(lái)增強(qiáng)法律的威懾力和針對(duì)性。

答：數(shù)字時(shí)代，AI技術(shù)在給我們的生活帶來(lái)便利的同時(shí)，也給犯罪分子提供了新的犯罪工具。從司法實(shí)務(wù)中新出現(xiàn)的相關(guān)案例來(lái)看，行為人通過(guò)AI換臉，騙取被害人的信任，繼而實(shí)施各種犯罪行為。在AI技術(shù)賦能下，犯罪手段先進(jìn)，具有較強(qiáng)的技術(shù)性和隱蔽性，以上新型犯罪類型，對(duì)我國(guó)現(xiàn)有的法律體系提出了挑戰(zhàn)。社會(huì)發(fā)展催生新的社會(huì)需求，在全面依法治國(guó)推進(jìn)的背景下，隨著AI技術(shù)的發(fā)展和進(jìn)一步成熟，以AI換臉為代表的涉AI類犯罪的刑法規(guī)制，相關(guān)立法應(yīng)該會(huì)進(jìn)行相應(yīng)調(diào)整。目前學(xué)界正在討論涉AI犯罪的刑法規(guī)制，AI犯罪案件數(shù)及犯罪類型不斷增加的情況下，刑法可能會(huì)具體針對(duì)此類“AI犯罪”進(jìn)行特別規(guī)定，以加強(qiáng)刑法的規(guī)制，確保民眾生命財(cái)產(chǎn)安全。

問(wèn)：技術(shù)本身沒(méi)有對(duì)錯(cuò)，但技術(shù)如果落在不法分子的手中，就極可能會(huì)危害我們的生活。對(duì)于我們普通百姓來(lái)說(shuō)，平時(shí)生活工作中該如何保護(hù)好個(gè)人信息，比如指紋，人臉信息等等。

答：首先提升防范意識(shí)。對(duì)于敏感個(gè)人信息?：身份證號(hào)、銀行卡號(hào)等核心信息需嚴(yán)格保密，避免在非必要場(chǎng)合透露?；?核實(shí)身份?：在需要提供個(gè)人信息的場(chǎng)合，特別是線上非接觸性交流中，需要多渠道驗(yàn)證對(duì)方合法性，謹(jǐn)慎提供個(gè)人敏感信息?。?文件處理?：廢棄的快遞單、車票等應(yīng)粉碎或涂抹后再丟棄，身份證復(fù)印件需標(biāo)注用途?。

其次規(guī)范網(wǎng)絡(luò)行為：?盡量不點(diǎn)陌生鏈接、二維碼，不下載非官方應(yīng)用，防止釣魚攻擊?；?隱私設(shè)置?：在自己的社交媒體需調(diào)整隱私權(quán)限，限制可查看人群的范圍，避免公開(kāi)過(guò)多個(gè)人細(xì)節(jié)?。