謠言、欺騙和徹頭徹尾的謊言一直困擾著商業(yè)世界。然而，如今深度偽造和其他AI生成內(nèi)容造成的影響是即時(shí)且可衡量的。一個(gè)病毒式傳播的時(shí)刻就能讓銷(xiāo)售額暴跌、品牌受損并讓投資者感到不安。一段偽造的語(yǔ)音或視頻就能說(shuō)服員工向一個(gè)不存在的"客戶(hù)"轉(zhuǎn)賬數(shù)百萬(wàn)美元。

"創(chuàng)建深度偽造內(nèi)容并對(duì)公司或商業(yè)領(lǐng)袖造成嚴(yán)重?fù)p害變得極其便宜和容易，"Gartner新興技術(shù)和趨勢(shì)安全部門(mén)高級(jí)總監(jiān)Alfredo Ramirez IV表示。"消費(fèi)級(jí)AI生成工具的出現(xiàn)創(chuàng)造了非常低的入門(mén)門(mén)檻。"

攻擊變得更加常見(jiàn)和復(fù)雜。根據(jù)Gartner的數(shù)據(jù)，62%的組織在過(guò)去12個(gè)月中經(jīng)歷過(guò)涉及社會(huì)工程學(xué)的深度偽造攻擊。"企業(yè)正在成為一個(gè)巨大的目標(biāo)，"加州大學(xué)伯克利分校信息學(xué)院電氣工程和計(jì)算機(jī)科學(xué)教授Hany Farid說(shuō)。

對(duì)于CIO和CISO來(lái)說(shuō)，挑戰(zhàn)和風(fēng)險(xiǎn)正在增長(zhǎng)，F(xiàn)arid說(shuō)。發(fā)展更先進(jìn)的技術(shù)控制以及其他工具和流程來(lái)降低風(fēng)險(xiǎn)至關(guān)重要。這種基于信任的基礎(chǔ)設(shè)施——向零信任2.0的演進(jìn)——在關(guān)鍵時(shí)刻驗(yàn)證身份、來(lái)源和意圖。

"了解誰(shuí)和什么是真實(shí)的，什么是AI生成的至關(guān)重要?？焖賾?yīng)對(duì)攻擊或潛在損害性的病毒內(nèi)容是必要的，"Farid說(shuō)。

深度偽造如何破壞企業(yè)信任

僅僅幾年前，深度偽造內(nèi)容還很容易被發(fā)現(xiàn)。早期深度偽造的多余手指和畸形物體已經(jīng)被令人毛骨悚然的準(zhǔn)確合成內(nèi)容所取代。由于廉價(jià)且廣泛可用的軟件，即使是經(jīng)過(guò)訓(xùn)練的專(zhuān)家使用復(fù)雜的取證工具也難以驗(yàn)證媒體的真實(shí)性。

"商業(yè)領(lǐng)袖必須考慮保護(hù)他們的公司，"Adobe全球內(nèi)容主管Andy Parsons說(shuō)。

威脅包括：品牌和聲譽(yù)攻擊、金融詐騙、虛假信息傳播、深度偽造色情內(nèi)容以及市場(chǎng)操縱。

問(wèn)題比許多CIO和CISO認(rèn)識(shí)到的更嚴(yán)重。根據(jù)德勤的數(shù)據(jù)，到2027年，美國(guó)因深度偽造和AI欺詐造成的商業(yè)損失可能達(dá)到400億美元，高于2023年的123億美元。

已經(jīng)有幾起備受矚目的事件沖擊了公司。2024年，英國(guó)工程公司Arup的一名財(cái)務(wù)員工在視頻會(huì)議中轉(zhuǎn)賬2500萬(wàn)美元，屏幕上的每位高級(jí)領(lǐng)導(dǎo)都是AI生成的深度偽造。在澳洲航空，外部專(zhuān)家表示，2025年"極有可能"使用了語(yǔ)音克隆技術(shù)來(lái)說(shuō)服呼叫中心團(tuán)隊(duì)分享600萬(wàn)客戶(hù)的憑據(jù)。

"后疫情世界主要轉(zhuǎn)向了遠(yuǎn)程互動(dòng)。視頻通話(huà)已成為常態(tài)，"GetReal Security首席執(zhí)行官M(fèi)atthew Moynahan說(shuō)，該公司專(zhuān)門(mén)認(rèn)證和驗(yàn)證數(shù)字媒體。"來(lái)自無(wú)法驗(yàn)證來(lái)源和起點(diǎn)的流媒體視頻和其他合成媒體的數(shù)量正在增長(zhǎng)。"

為什么網(wǎng)絡(luò)安全工具在應(yīng)對(duì)深度偽造時(shí)失效

對(duì)抗深度偽造和其他生成式AI攻擊需要從安全重置開(kāi)始。"首先要意識(shí)到的是，如果有害內(nèi)容是真實(shí)的，你有一個(gè)問(wèn)題，如果是假的，你有另一個(gè)問(wèn)題，"Farid指出。"一切都圍繞著了解你正在處理什么。"

現(xiàn)代網(wǎng)絡(luò)安全工具存在不足。雖然它們?cè)诒O(jiān)控網(wǎng)絡(luò)流量和檢測(cè)惡意軟件方面表現(xiàn)出色，但無(wú)法驗(yàn)證視頻通話(huà)中的人或圖像中的像素是真實(shí)還是虛假。"這些工具不知道我長(zhǎng)什么樣，聽(tīng)起來(lái)如何，或者我如何移動(dòng)。深度偽造完全繞過(guò)了傳統(tǒng)控制，"Moynahan解釋道。

僅靠AI檢測(cè)技術(shù)無(wú)法解決問(wèn)題，F(xiàn)arid說(shuō)。他估計(jì)許多檢測(cè)工具只有約80%的有效性，并且無(wú)法提供系統(tǒng)為何檢測(cè)到深度偽造的洞察。誤報(bào)和漏報(bào)只是問(wèn)題的一部分。"沒(méi)有可解釋性。你無(wú)法在法庭上或向新聞界或公眾解釋為什么圖像或視頻是真實(shí)或虛假的，"他說(shuō)。

更令人生畏的是，檢測(cè)工具必須實(shí)時(shí)運(yùn)行并連接到Microsoft Teams和Zoom等視頻會(huì)議平臺(tái)。僅查看簡(jiǎn)單的置信度分?jǐn)?shù)是不夠的，F(xiàn)arid說(shuō)，他也是GetReal Security的聯(lián)合創(chuàng)始人兼首席科學(xué)官。"你需要跨工作流的即時(shí)驗(yàn)證，而不是三天的取證分析。"

GetReal Security是致力于對(duì)抗合成內(nèi)容的眾多公司之一。其他公司包括Reality Defender、Deep Media和Sensity AI。另一組安全公司，包括Hive和Pindrop，專(zhuān)注于AI生成內(nèi)容審核、語(yǔ)音渠道深度偽造和欺詐防御。

有效的工具是那些分析和驗(yàn)證媒體內(nèi)信號(hào)的工具，包括檢查視覺(jué)和聲學(xué)線(xiàn)索，如光照一致性、陰影角度和3D幾何，以及行為生物特征，如語(yǔ)音模式、面部動(dòng)作和已知的人類(lèi)特征。信號(hào)操縱和環(huán)境線(xiàn)索，如人的已知位置和IP地址，也需要進(jìn)行分析。

企業(yè)如何防御深度偽造

僅靠檢測(cè)不會(huì)讓問(wèn)題消失。組織需要一個(gè)更廣泛的防御生態(tài)系統(tǒng)，涵蓋情報(bào)、分析、實(shí)踐和內(nèi)部保障措施。例如，敘事情報(bào)監(jiān)控外部平臺(tái)的虛假信息活動(dòng)。這使得早期發(fā)現(xiàn)攻擊成為可能。紅隊(duì)演練暴露漏洞，包括偽造的語(yǔ)音、照片或視頻可能在哪里被忽略。多因素驗(yàn)證，使用已知的回電號(hào)碼和只有真正的CFO或CEO才能回答的安全問(wèn)題，減少了人為判斷錯(cuò)誤的風(fēng)險(xiǎn)。

如果攻擊確實(shí)突破了組織的防御，快速果斷地響應(yīng)也很重要。這包括內(nèi)部分享關(guān)鍵事實(shí)，確保法律、傳播和營(yíng)銷(xiāo)團(tuán)隊(duì)擁有與客戶(hù)、合作伙伴、媒體和其他人互動(dòng)所需的信息。共享的行動(dòng)手冊(cè)至關(guān)重要，Ramirez說(shuō)。

數(shù)字溯源也已成為一種寶貴的資源。它追溯視頻、音頻文件或照片到其源頭，并顯示它是否在途中被更改。例如，內(nèi)容溯源和真實(shí)性聯(lián)盟(C2PA)將加密簽名的元數(shù)據(jù)嵌入到內(nèi)容中。C2PA指導(dǎo)委員會(huì)成員Parsons將此比作"營(yíng)養(yǎng)標(biāo)簽"。

C2PA的內(nèi)容憑證現(xiàn)在正在通過(guò)ISO標(biāo)準(zhǔn)流程。結(jié)合Google的SynthID等數(shù)字水印工具和創(chuàng)建僅追加、加密可驗(yàn)證記錄的防篡改日志，可以生產(chǎn)可驗(yàn)證和可辯護(hù)的媒體資產(chǎn)。"這不能證明真相，但確實(shí)使真實(shí)性觸手可及，"Parsons說(shuō)。"C2PA和加密技術(shù)是實(shí)現(xiàn)更高信任度的重要基礎(chǔ)。"

盡管可能從這些溯源系統(tǒng)中剝離元數(shù)據(jù)——而且這些框架無(wú)法阻止深度偽造和其他合成內(nèi)容的傳播——它們?yōu)檎鎸?shí)性建立了基線(xiàn)。此外，隨著更多組織采用數(shù)字溯源工具，惡意內(nèi)容變得更容易識(shí)別。

Farid總結(jié)道："通常，你只有幾秒鐘的時(shí)間來(lái)確定傳入的視頻和其他內(nèi)容是真實(shí)還是虛假，如果做出錯(cuò)誤決定，后果會(huì)很?chē)?yán)重。"

Q&A

Q1：深度偽造對(duì)企業(yè)造成了哪些具體威脅？

A：深度偽造對(duì)企業(yè)造成的威脅包括品牌和聲譽(yù)攻擊、金融詐騙、虛假信息傳播、深度偽造色情內(nèi)容以及市場(chǎng)操縱。根據(jù)德勤數(shù)據(jù)，到2027年，美國(guó)因深度偽造和AI欺詐造成的商業(yè)損失可能達(dá)到400億美元。

Q2：為什么傳統(tǒng)網(wǎng)絡(luò)安全工具無(wú)法有效防御深度偽造攻擊？

A：傳統(tǒng)網(wǎng)絡(luò)安全工具雖然在監(jiān)控網(wǎng)絡(luò)流量和檢測(cè)惡意軟件方面表現(xiàn)出色，但無(wú)法驗(yàn)證視頻通話(huà)中的人或圖像中的像素是真實(shí)還是虛假。這些工具不了解人的外貌、聲音或行為模式，深度偽造完全繞過(guò)了傳統(tǒng)控制措施。

Q3：企業(yè)應(yīng)該如何建立有效的深度偽造防御體系？

A：企業(yè)需要建立更廣泛的防御生態(tài)系統(tǒng)，包括敘事情報(bào)監(jiān)控、紅隊(duì)演練、多因素驗(yàn)證等。還需要數(shù)字溯源技術(shù)如C2PA內(nèi)容憑證，以及能夠?qū)崟r(shí)分析視覺(jué)、聲學(xué)線(xiàn)索和行為生物特征的檢測(cè)工具，同時(shí)建立快速響應(yīng)機(jī)制和共享行動(dòng)手冊(cè)。