杭州中院｜來源

當(dāng)“一張照片即可解鎖人臉識別”成為黑灰產(chǎn)的牟利工具，我們該如何在技術(shù)浪潮中守護“數(shù)字面容”？近日，浙江省杭州市中級人民法院審結(jié)全省首個涉AI技術(shù)偽造人臉通過活體認(rèn)證的公益訴訟案，明確技術(shù)濫用必須承擔(dān)法律責(zé)任，為“AI換臉”行為劃出司法紅線。

一、AI換臉視頻攻破人臉識別 技術(shù)濫用誰之責(zé)？

只需一張他人照片，即可通過“AI換臉”技術(shù)生成動態(tài)活體認(rèn)證視頻，輕松繞過平臺人臉識別系統(tǒng)——這并非科幻情節(jié)，而是黑灰產(chǎn)的真實作案手段。案涉“AI換臉”技術(shù)通過深度學(xué)習(xí)的算法，去識別目標(biāo)人物照片中的人臉要素信息，不斷提取該些人臉要素信息進行訓(xùn)練建模，實現(xiàn)換臉的效果。

胡某甲、胡某乙為牟利，通過境外渠道獲取他人手機號、頭像、身份證等信息，利用上述AI換臉技術(shù)制作虛假活體認(rèn)證視頻，再通過植入虛擬相機程序，在平臺人臉識別時自動播放預(yù)制的換臉視頻，從而非法登錄他人賬號，獲取收貨地址、購物車信息等數(shù)據(jù)并出售獲利。此外，二人還提供有償虛假實名認(rèn)證服務(wù)。浙江省杭州市人民檢察院就此提起民事公益訴訟，要求二人在國家級媒體上公開賠禮道歉，并支付侵害社會公共利益的損害賠償款。

二、法院判決：技術(shù)中立不是“擋箭牌”

法院經(jīng)審理認(rèn)定，人臉信息屬于敏感個人信息，受法律嚴(yán)格保護，處理人臉類的生物識別信息除必須獲得個人的單獨同意外，還需遵守相關(guān)法律法規(guī)的特別規(guī)定。胡某甲、胡某乙未經(jīng)同意，利用“AI換臉”技術(shù)偽造活體認(rèn)證視頻，非法處理多人個人信息，不僅侵害不特定主體的個人信息權(quán)益，威脅公民人身財產(chǎn)安全，更破壞了社會信任秩序，損害社會公共利益，構(gòu)成侵權(quán)。二被告雖稱活體認(rèn)證視頻系由AI技術(shù)自動生成，但法院明確指出：技術(shù)的工具屬性不改變行為的違法本質(zhì)。技術(shù)是中立的，但技術(shù)的應(yīng)用須受到法律規(guī)制，技術(shù)的使用者也必須對其濫用技術(shù)造成的后果負(fù)責(zé)。

雙重責(zé)任：技術(shù)使用必須恪守法律與倫理

該判決明確了AI技術(shù)應(yīng)用中的雙重責(zé)任邊界：

一是合法處理義務(wù)。在數(shù)字化時代，人臉、指紋、聲紋等個人生物識別信息屬于高度敏感的個人信息，一旦泄露或者非法使用，可能導(dǎo)致個人的人格尊嚴(yán)受到侵害或者人身、財產(chǎn)安全受到嚴(yán)重危害。處理人臉等生物識別信息，必須依法取得個人單獨同意，并遵守法律法規(guī)的相關(guān)規(guī)定。任何組織或個人未經(jīng)同意，不得私自收集此類信息，侵害他人個人信息權(quán)益。此案中，二被告未經(jīng)授權(quán)收集、使用他人人臉信息制作虛假認(rèn)證視頻，違反了《中華人民共和國個人信息保護法》等相關(guān)法律法規(guī)。

二是技術(shù)向善義務(wù)。技術(shù)的研發(fā)與應(yīng)用必須恪守法律與倫理底線?！凹夹g(shù)向善”并非一句空洞的口號。技術(shù)發(fā)展應(yīng)當(dāng)服務(wù)社會，而非淪為侵權(quán)工具。法律的界限即是技術(shù)的邊界，道德的準(zhǔn)繩即是創(chuàng)新的韁繩。擁抱技術(shù)進步的同時，必須堅決抵制侵害公民權(quán)利、侵蝕社會信任的行為，每一位公民都應(yīng)自覺成為科技倫理的守護者和良好數(shù)字生態(tài)的共建者，審慎使用技術(shù)，尊重他人權(quán)利?！癆I換臉”等技術(shù)在娛樂、創(chuàng)新等領(lǐng)域具有價值，但一旦用于非法突破安全驗證、盜用身份，即背離科技倫理，必須受到法律制裁。

最終，法院判決胡某甲、胡某乙在《法治日報》公開賠禮道歉，并支付公益損害賠償款，專門用于個人信息保護與AI技術(shù)濫用治理。

三、法官心語

技術(shù)有邊界，法律有紅線。杭州市中級人民法院副院長 一級高級法官 池海江認(rèn)為，AI可以輕易“換”掉一張臉，但永遠(yuǎn)無法“換”掉法律責(zé)任與倫理底線。人臉信息不僅是個人身份的關(guān)鍵標(biāo)識，更是社會信任體系的數(shù)字基石。本案中，法院并未否定“AI換臉”技術(shù)的本身價值，但當(dāng)它被用于偽造他人身份、突破安全驗證，將他人面部信息變成可交易、可偽造的數(shù)據(jù)商品時，技術(shù)的性質(zhì)就發(fā)生了根本改變，不僅侵犯公民人格權(quán)與財產(chǎn)權(quán)，更動搖了數(shù)字社會賴以運行的基本秩序。

技術(shù)的每一次飛躍，都不能脫離法律的軌道。每一位技術(shù)參與者都應(yīng)當(dāng)清醒地意識到：技術(shù)不是法外之地，技術(shù)中立更不是“擋箭牌”。技術(shù)本身雖無善惡，但其設(shè)計目的、應(yīng)用場景與最終后果，卻由人的意志與社會的規(guī)則所決定。真正的科技進步，其內(nèi)核應(yīng)始終指向?qū)θ酥饑?yán)的維護、社會公共福祉的增進，以及對未來可持續(xù)發(fā)展的推動。如果一項技術(shù)的發(fā)展，要以犧牲個人基本權(quán)利與社會信任基石為代價，那這種發(fā)展注定行之不遠(yuǎn)。

法院對“AI換臉”技術(shù)濫用的規(guī)制，正是對“技術(shù)向善”底線的司法重申。我們希望通過此案傳遞一個清晰的信號：推動創(chuàng)新與劃定邊界必須同步進行。唯有將“向善”的倫理要求，轉(zhuǎn)化為具有約束力的法律義務(wù)與行業(yè)準(zhǔn)則，方能引導(dǎo)人工智能等前沿技術(shù)行穩(wěn)致遠(yuǎn)，真正服務(wù)于以人為本的數(shù)字文明建設(shè)。

╱ 往期精選 ╱

1.團隊典型案例

2.原創(chuàng)合集

3.蘋果稅中國反壟斷第一案