你親眼見到的真相，并不見得就是真相。

文 | 阿布

高分英劇《真相捕捉》出第三季了，第一集刷完已經(jīng)深深感覺：在科技飛速發(fā)展的時(shí)代，真相是越來越難捕捉了。

第三季目前豆瓣評(píng)分9.3

作為一部懸疑劇，《真相捕捉》從來不以跌宕反轉(zhuǎn)離奇為賣點(diǎn)，從第一季到第三季，它都在與時(shí)俱進(jìn)地說同一件事：你親眼見到的真相，并不見得就是真相。

如果要說這三季的“進(jìn)化”，那就是——假作真時(shí)真亦假，造假技術(shù)正在越來越逼真。

1

你的眼睛、耳朵都在背叛你

2019年第一季剛出來的時(shí)候，deepfake（深度偽造）技術(shù)還不廣為人知，AI也尚未像今日一樣大爆發(fā)。劇中，男主角因?yàn)樵诮诸^襲擊一女子而被警方逮捕——在倫敦街頭的監(jiān)控錄像里可以清楚看到，他暴力襲擊了女子，并將其拖入汽車離開。隨后，女子的尸體被發(fā)現(xiàn)，他當(dāng)然成了最大的嫌疑人。

但是，隨著主角團(tuán)調(diào)查的步步深入，英國(guó)政府中一個(gè)龐大且隱秘的情報(bào)系統(tǒng)浮出水面——女主角瑞秋調(diào)查發(fā)現(xiàn)——原來案發(fā)當(dāng)天的公交車上還有一段錄像，顯示被害女子其實(shí)根本沒有遭到男主角暴力相待，他們只是互相簡(jiǎn)單道別，然后女子坐上了公交車離開。

真相視頻

俗話說“有圖有真相”，但是現(xiàn)在，兩段截然相反卻一樣逼真的視頻擺在眼前，讓人不得不懷疑自己的眼睛——原來所謂的鐵證如山，不過也是情報(bào)部門利用一種名為“移花接木”的技術(shù)，修改了數(shù)據(jù)。

第一季的震撼在于：只要擁有足夠的權(quán)限和算力，哪怕是親眼所見，也可以是憑空捏造的。

到了2022年的第二季，編劇更是與時(shí)俱進(jìn)，直接把深度造假技術(shù)也革新了。這一季的男主角是英國(guó)安全大臣特納，一開始他的形象挺正面的，這里還套了一個(gè)“娃突然闖進(jìn)新聞直播鏡頭”的梗：

娃突然闖進(jìn)直播連線

特納大方地讓娃入鏡，秀了一把“家庭跟政府事務(wù)一樣重要”的人設(shè)：

可是這位原本前途大好、被認(rèn)為是首相人選的有力爭(zhēng)奪者的政客，受邀參加一檔電視訪談直播時(shí)，卻像變了個(gè)人一樣，開始對(duì)著鏡頭說出種族歧視、會(huì)毀掉他政治生涯的言論。

而最讓特納害怕的是，這些話其實(shí)不是他說的……

詭異的事情滲透進(jìn)了他生活的方方面面：社交媒體上大放厥詞、被人懷疑出軌尼日利亞女人還有一個(gè)私生子、他發(fā)布的視頻里有他家書房的背景墻（可視頻卻不是他發(fā)的），甚至電視直播上他正在滔滔不絕地談?wù)撜�，而他本人其�?shí)卻在家里……門鈴按響，他從攝像頭里望出去，對(duì)面是一個(gè)一模一樣的他……

特納被逼得和自己老婆講話都得推著割草機(jī)來制造噪音

黑客利用了越來越先進(jìn)的深度偽造技術(shù)，在信號(hào)從攝像機(jī)傳輸?shù)綇V播塔的那零點(diǎn)幾秒的微小延遲內(nèi)，實(shí)時(shí)替換了直播畫面中人物的面部肌肉走向、微表情，甚至利用聲音克隆技術(shù)，完全合成了他的語音。這不僅需要極其龐大的人臉數(shù)據(jù)庫來做支撐，更需要能在毫秒級(jí)別完成畫面渲染的恐怖算力。

而借助這樣的算力，一場(chǎng)對(duì)重要政治人物公共話語權(quán)的劫持就這么實(shí)現(xiàn)了。過去，造謠需要成本，而辟謠只需要把當(dāng)事人拉出來澄清。但在第二季展現(xiàn)的技術(shù)里，出面辟謠的也可能是“假人”——當(dāng)一個(gè)大活人的嘴巴可以被一串代碼隨意控制，我們就知道，再也沒有真相了。

新聞也無法有真相了

到了第三季，距離2022年又已經(jīng)過去了4年，技術(shù)會(huì)向什么更加恐怖的方向發(fā)展呢？我們看到女主角和她的團(tuán)隊(duì)正在推行一個(gè)“真理行動(dòng)”，與之前的“移花接木”深度偽造做斗爭(zhēng)。他們制造了一種特殊的監(jiān)控?cái)z像頭——有兩路系統(tǒng)，一路聯(lián)網(wǎng)，一路不聯(lián)網(wǎng)，這樣可以避免數(shù)據(jù)上傳后被人在云端修改。

可是，第一集剛開頭就很刺激：特納活活在這個(gè)最新型的攝像頭注視下，被人一槍爆頭。而當(dāng)時(shí)他在劇中的身份已經(jīng)是英國(guó)的首相大人了。正當(dāng)瑞秋依賴于新攝像頭來調(diào)查兇手時(shí)，她赫然發(fā)現(xiàn)：里面呈現(xiàn)的兇手，和她親眼在現(xiàn)場(chǎng)見到的，并不是同一個(gè)人……

2

高分英劇背后，細(xì)思恐極

可能有人會(huì)覺得，電視劇畢竟是夸張表達(dá)，現(xiàn)實(shí)生活還不至于。

劇中監(jiān)控?zé)o人，電梯卻自行升降打開

但遺憾的是，劇中展示的那些細(xì)思恐極的場(chǎng)景，早就不再是少數(shù)科技極客在實(shí)驗(yàn)室里推演的假想敵，而是真真切切發(fā)生在我們身邊的社會(huì)新聞。利用人工智能進(jìn)行的欺詐，早就造成了驚人的損失，真金白銀。

幾年前，歐洲就爆出過一個(gè)非常典型的案例：一家英國(guó)能源公司的首席執(zhí)行官，在工作日接到了一通平常的電話。電話那頭是他所在德國(guó)母公司的直屬上司，上司在電話里用一如既往的嚴(yán)肅口吻，要求他立刻將20多萬歐元轉(zhuǎn)入一個(gè)位于匈牙利的指定供應(yīng)商賬戶，并聲稱這是一筆十萬火急的交易。出于對(duì)上級(jí)聲音的信任，這位CEO沒有絲毫猶豫，完成了轉(zhuǎn)賬，結(jié)果當(dāng)然是被騙了。但他即使知道被騙也還是覺得不可思議，因?yàn)殡娫捓锏穆曇舨皇呛?jiǎn)單的模仿，而是音色、語調(diào)都被復(fù)刻得惟妙惟肖，甚至還有那位德國(guó)上司說話時(shí)帶有的那種極其微弱的巴伐利亞口音和習(xí)慣性的停頓……犯罪分子僅僅是通過在網(wǎng)絡(luò)上收集那位德國(guó)高管公開演講的音頻片段，喂給人工智能進(jìn)行深度學(xué)習(xí)，就訓(xùn)練出了一個(gè)足以以假亂真的聲音克隆模型。

當(dāng)然那還是幾年前，現(xiàn)在么，別說是聲音克隆，面孔表情都能克隆得一模一樣了。利用人工智能換臉技術(shù)冒充熟人甚至冒充公檢法進(jìn)行視頻通話詐騙的案件屢見不鮮，且涉案金額往往巨大。

在漫長(zhǎng)的進(jìn)化中，人類大腦習(xí)慣了通過認(rèn)臉和聽聲音來確認(rèn)同伴�？墒乾F(xiàn)在，技術(shù)能夠輕易繞過這種生物本能的防御機(jī)制，算法下的信任危機(jī)已經(jīng)蔓延全球，誰也無法幸免。

3

用魔法打敗魔法？

在這個(gè)技術(shù)大爆炸的時(shí)代，真相的獲取成本正在變得無比高昂，而制造謊言的門檻卻在無限趨近于零。

面對(duì)這種降維打擊的技術(shù)霸權(quán)，作為普通人，會(huì)感到一種深深的無力——在那些看不見的算法黑箱面前，我們仿佛是透明的。上一秒在搜索什么，或者只是和身旁的朋友談?wù)撘痪涫裁�，下一秒，大�?shù)據(jù)就恨不得把這件東西塞進(jìn)你的購(gòu)物車。

而監(jiān)控也在與時(shí)俱進(jìn)。很多人以為，只要出門戴上口罩和墨鏡，把臉遮得嚴(yán)嚴(yán)實(shí)實(shí)，監(jiān)控就拿我沒辦法了。這招在十年前可能有用，但在今天，除了人臉識(shí)別，最主流且難防范的技術(shù)叫作步態(tài)識(shí)別。

每個(gè)人的骨骼結(jié)構(gòu)長(zhǎng)度不同，肌肉的發(fā)力習(xí)慣不同，走路時(shí)的重心轉(zhuǎn)移軌跡也是獨(dú)一無二的。這種身體的生物力學(xué)特征幾乎無法通過后天的刻意偽裝來長(zhǎng)時(shí)間改變。所以步態(tài)識(shí)別系統(tǒng)不需要看清你的臉，只要攝像頭拍到你連續(xù)走上十幾步的畫面，后臺(tái)的算法就能迅速提取你全身幾十個(gè)骨骼關(guān)鍵點(diǎn)的動(dòng)態(tài)變化，然后和數(shù)據(jù)庫里的特征值進(jìn)行比對(duì)，從而在茫茫人海中把你摘出來——很多通緝犯就是這樣被抓的。

一些注重隱私的人研究出了一系列反人工智能監(jiān)控的設(shè)備，比如能破壞面部幾何特征的妝容（算法比較依賴尋找人臉的固定特征點(diǎn)和位置關(guān)系）；還有印滿了經(jīng)過復(fù)雜計(jì)算生成的雜亂圖案，這些圖案的特定像素排列會(huì)向算法發(fā)送大量的錯(cuò)誤誘導(dǎo)信息，讓系統(tǒng)把人錯(cuò)認(rèn)成一把椅子，從而達(dá)到“隱藏自己”的效果。

不過，你要是臉上涂滿油彩，再穿上這樣花里胡哨的像素風(fēng)衣服上街，那么肉眼就能輕易把你從人群里認(rèn)出來了吧……

再說到深度偽造，攻擊未來的偽造手段只會(huì)潛伏得更深，偽裝得更像真實(shí)，更加讓人難以察覺，比《真相捕捉》的劇情還難捉摸。

技術(shù)本無善惡，但掌握技術(shù)的人性卻深不可測(cè)。在這場(chǎng)看不見硝煙的數(shù)字攻防戰(zhàn)中，保持懷疑，保持清醒的思考能力，或許是我們普通人手中最后的武器了。

我要驗(yàn)牌，牌沒有問題，原來他就是“法國(guó)賭神”皮爾卡松！

泰式口音、10元老花鏡、到點(diǎn)下班……54歲瞿穎怎么剛翻紅就“擺爛”了？

伊朗實(shí)權(quán)人物拉里賈尼遇害，而最高領(lǐng)袖在莫斯科嗎？

版權(quán)說明

新民周刊所有平臺(tái)稿件， 未經(jīng)正式授權(quán)一律不得轉(zhuǎn)載、出版、改編，或進(jìn)行與新民周刊版權(quán)相關(guān)的其他行為，違者必究！