AI不僅能替你上學(xué)，幫你寫(xiě)作業(yè)，甚至還能為你領(lǐng)筆“補(bǔ)助金”回來(lái)——不過(guò)，前提是你得先教它怎么騙過(guò)活人。

這魔幻現(xiàn)實(shí)的一幕正在美國(guó)社區(qū)大學(xué)上演：詐騙集團(tuán)用ChatGPT等等AI工具批量生成學(xué)生身份，專(zhuān)門(mén)盜取聯(lián)邦和州政府的助學(xué)補(bǔ)貼。

這些“賽博學(xué)生”比人類(lèi)更善于“賣(mài)慘”，無(wú)家可歸學(xué)生和寄養(yǎng)青年的身份偽裝幫助他們更快通過(guò)申請(qǐng)。課堂表現(xiàn)更堪稱(chēng)模范，不僅能搶課占位，出勤率甚至比真學(xué)霸還高，還能準(zhǔn)時(shí)交作業(yè)。

魔幻的背后，是技術(shù)與人性的博弈。YouTube上，甚至有人發(fā)布“教學(xué)”視頻，展示了自動(dòng)化程序如何繞過(guò)Contra Costa College的入學(xué)審核系統(tǒng)。

這些“賽博學(xué)生”已經(jīng)幫助詐騙集團(tuán)收割了數(shù)百萬(wàn)美金。根據(jù)CalMatters，2022年6月，教育部對(duì)洛杉磯海港學(xué)院（Los Angeles Harbor College）和西洛杉磯學(xué)院（West Los Angeles College）一個(gè)詐騙集團(tuán)展開(kāi)調(diào)查，該集團(tuán)在過(guò)去四年中利用至少57人的身份竊取超過(guò)110萬(wàn)美元聯(lián)邦援助。洛杉磯城市學(xué)院（Los Angeles City College）另一詐騙案可能涉及超過(guò)100萬(wàn)美元，盜用70人身分。

校方也不得不為此支付高昂的費(fèi)用，借助專(zhuān)業(yè)的技術(shù)手段偵破騙局。加州校長(zhǎng)辦公室統(tǒng)計(jì)，2023年社區(qū)大學(xué)申請(qǐng)者中高達(dá)25%是機(jī)器人，而校方為此支付的防欺詐費(fèi)用已超過(guò)25萬(wàn)美元。

然而，這場(chǎng)校園騙局不過(guò)是AI侵蝕現(xiàn)實(shí)世界的冰山一角。

從偽造“全紅嬋家新房開(kāi)工”的帶貨視頻，到用雷軍的聲音生成罵人內(nèi)容；從“假靳東”騙取老人20萬(wàn)元，到寶媽被AI戀人騙走200萬(wàn)元，AI詐騙已滲透社交、消費(fèi)、金融的每一個(gè)縫隙。

在這場(chǎng)AI技術(shù)與人類(lèi)的認(rèn)知攻防戰(zhàn)中，人類(lèi)正面臨一場(chǎng)前所未有的信任危機(jī)——我們還能相信自己的眼睛和耳朵嗎？

01

AI學(xué)霸攻陷社區(qū)大學(xué)

“賽博學(xué)生”們的偽裝也并非毫無(wú)破綻。

2023年，伯克利市立學(xué)院（Berkeley City College）圖書(shū)館員道奇（Heather Dodge）在線(xiàn)上課程中要求學(xué)生用iPhone或網(wǎng)路攝影機(jī)拍攝基本自我介紹的影片作業(yè)，但發(fā)現(xiàn)4名學(xué)生提交的是類(lèi)似ChatGPT生成的泛泛文字。

道奇開(kāi)始懷疑他們的學(xué)生身份，但因?yàn)閾?dān)心存在偏見(jiàn)，她要求對(duì)他們分別進(jìn)行Zoom會(huì)議。其中兩人沒(méi)回應(yīng)，一名學(xué)生同意進(jìn)行視頻會(huì)議，但表示攝影機(jī)和麥克風(fēng)無(wú)法使用，另一名學(xué)生幾乎不會(huì)說(shuō)英語(yǔ)，每次透過(guò)Zoom提問(wèn)，都用手機(jī)翻譯。

除此以外，還出現(xiàn)了大量回復(fù)內(nèi)容明顯不合常理、幾乎不可能是人類(lèi)所寫(xiě)的賬戶(hù)。例如有的注冊(cè)賬號(hào)會(huì)在自我介紹中寫(xiě)出“你好，我是 [請(qǐng)輸入城市名稱(chēng)] 的學(xué)生”這類(lèi)明顯的程序模板語(yǔ)句，或者使用學(xué)生通常不會(huì)用的文法。

這些“賽博學(xué)生”通過(guò)注冊(cè)課程并保持足夠長(zhǎng)的注冊(cè)時(shí)間，為了維持在校身份，TA們會(huì)提交由 AI 生成的作業(yè)。

TA們的目標(biāo)是社區(qū)大學(xué)的助學(xué)金。作為兩年制的公立大學(xué)，美國(guó)社區(qū)大學(xué)學(xué)費(fèi)通常低于四年制大學(xué)。由于招生對(duì)象以本地學(xué)生為主，州和聯(lián)邦政府也會(huì)提供助學(xué)金支持。

加州法律要求社區(qū)大學(xué)接受所有合法學(xué)生，且長(zhǎng)期致力降低注冊(cè)門(mén)檻，學(xué)生需簽署宣誓書(shū)，保證其資訊真實(shí)性，但許多大學(xué)不會(huì)獨(dú)立核實(shí)學(xué)生身分。部分學(xué)院聲稱(chēng)對(duì)無(wú)家可歸或曾寄養(yǎng)青年的申請(qǐng)者較為寬松，這一漏洞正被詐騙者利用。

等到助學(xué)金發(fā)放后，“賽博學(xué)生”再退課，從中獲取資金。

教師們也面臨甄別真假學(xué)生的挑戰(zhàn)。Southwestern College 教授伊麗莎白?史密斯透露，她原本課程注冊(cè)的 104 人中，僅確認(rèn)其中 15 人為真實(shí)學(xué)生，其余均被她判斷為機(jī)器人。“起初我還為課程受歡迎感到開(kāi)心，現(xiàn)在只剩下滿(mǎn)心失望。”

但在許多情況下，人工判斷并不容易，還需要借助專(zhuān)業(yè)的技術(shù)手段，當(dāng)然也需要學(xué)校支付不菲的費(fèi)用。

洛杉磯社區(qū)學(xué)院副校長(zhǎng)洛佩茲（Nicole Albo-Lopez）表示，去年因詐欺行為，學(xué)區(qū)刪除約四分之一課程注冊(cè)，學(xué)校向身份驗(yàn)證公司Socure支付超過(guò)25萬(wàn)美元協(xié)助偵測(cè)詐欺。

當(dāng)“賽博學(xué)生”在校園中悄然蠶食教育資源時(shí)，一場(chǎng)AI信任危機(jī)正在社會(huì)各個(gè)角落悄然蔓延。

02

AI騙局隨處可見(jiàn)

AI詐騙的觸角早已突破校園圍墻，在國(guó)內(nèi)，自帶光環(huán)的公眾人物正在成為首批大規(guī)模受害者。

近日，社交平臺(tái)上出現(xiàn)多個(gè)賬號(hào)使用AI合成的全紅嬋爸爸、哥哥聲音，用完全相同的文案介紹家里要蓋新房，以此來(lái)博取流量。

在AI合成視頻中攜帶有駱駝奶粉、土雞蛋、洗衣液等多種商品鏈接，流量較大的仿冒作品評(píng)論區(qū)中，不乏有人被騙下單購(gòu)買(mǎi)，部分消費(fèi)者收到三無(wú)產(chǎn)品后投訴無(wú)門(mén)。

事實(shí)上，利用AI偽造視頻的現(xiàn)象并不罕見(jiàn)，此前曾有多位明星成為AI偽造視頻的素材。

半個(gè)月前，張馨予公開(kāi)譴責(zé)商家用 AI 合成其聲音推銷(xiāo)減肥藥。一個(gè)月前，劉曉慶也遭遇 AI 換臉視頻冒用，公開(kāi)表示 “聲音像我卻非我”。

“去年‘十一’，有網(wǎng)友說(shuō)過(guò)了7天假，被我整整罵了8天。是什么（情況）？網(wǎng)上出現(xiàn)了非常多（AI生成的）用我的聲音罵人的內(nèi)容?！苯衲?月，小米集團(tuán)創(chuàng)始人雷軍在兩會(huì)期間就表示，他本人就是AI換臉擬聲的受害者。

“假靳東”詐騙老年人、“國(guó)慶7天AI雷軍罵了8天”、“張文宏”深夜帶貨等一眾AI假冒名人的新聞?lì)l頻出現(xiàn)在熱搜榜單上，已經(jīng)引起今年兩會(huì)代表委員的高度關(guān)注，呼吁通過(guò)法律手段來(lái)加強(qiáng)對(duì)AI詐騙的管理和約束。

與此同時(shí)，AI 詐騙早已突破名人圈，滲透至社交陷阱、消費(fèi)欺詐和信息泄露等生活高頻場(chǎng)景。

不久前，AI假孫子的視頻就讓不少老年人深陷其中，視頻里穿紙尿褲的嬰兒獨(dú)自去地里摘茄子、洗凈后還能抄起菜刀給全家做三菜一湯。這些違背常理的內(nèi)容，在年輕人看來(lái)簡(jiǎn)直讓人難以置信，卻絲毫不影響評(píng)論區(qū)“幸福時(shí)光”“幸?？鞓?lè)”等老年用戶(hù)留下點(diǎn)贊和祝福。

如果說(shuō)面對(duì)AI假孫子，老年人只是投入感情，那在面對(duì)假“靳東”的時(shí)候，則是情感金錢(qián)雙投入。在假“靳東”詐騙案中，其中最典型的一例是60歲阿姨向假靳東轉(zhuǎn)賬近20萬(wàn)元。

圖源：AI生成

傳統(tǒng)電詐中，詐騙分子集中圍獵“一老一少”的情況比較常見(jiàn)，面對(duì)完全可以以假亂真的AI詐騙，年輕人也和老年人一樣沒(méi)有招架之力。

利用換臉和換聲技術(shù)，AI 化身“虛擬戀人”，用精心設(shè)計(jì)的話(huà)術(shù)和人設(shè)，把受害人迷得暈頭轉(zhuǎn)向，最后露出“騙錢(qián)”的真面目，類(lèi)似網(wǎng)絡(luò)交友詐騙案例屢見(jiàn)不鮮。

據(jù)《中國(guó)青年報(bào)》報(bào)道，2023年，寶媽王枚（化名）在境外求學(xué)期間通過(guò)社交平臺(tái)結(jié)識(shí)偽裝成房東的男性網(wǎng)友，對(duì)方利用AI換臉換聲技術(shù)獲取其信任并發(fā)展戀愛(ài)關(guān)系。隨后以投資加密貨幣為名誘騙其小額試水獲利，逐步誘導(dǎo)加大投入，致使王枚抵押房產(chǎn)、網(wǎng)貸累計(jì)損失約200萬(wàn)元，最終提現(xiàn)受阻發(fā)現(xiàn)被騙。

從名人到普羅大眾，AI 詐騙正無(wú)孔不入。

03

AI黑產(chǎn)已成產(chǎn)業(yè)鏈

AI 騙局在現(xiàn)實(shí)中肆意橫行，而在這背后，一個(gè)龐大且復(fù)雜的 AI 黑產(chǎn)產(chǎn)業(yè)鏈正悄然成型。

在電影《孤注一擲》中，大型詐騙集團(tuán)由成百上千名詐騙分子組成，集團(tuán)內(nèi)部分工明確。如今，AI技術(shù)普及讓詐騙門(mén)檻大幅降低，一兩名詐騙分子就可以展開(kāi)個(gè)人作案，AI技術(shù)承擔(dān)了從目標(biāo)篩選到身份偽裝的一系列工作。

幾年前“假靳東”進(jìn)行情感詐騙時(shí)還需要有真人來(lái)扮演，可現(xiàn)在AI生成的虛擬人物不僅更逼真，而且還更懂老年人的需求。

事實(shí)上，AI黑產(chǎn)由來(lái)已久。

早在2017年，一個(gè)名為“deepfakes”的 Reddit 用戶(hù)在社交網(wǎng)站上發(fā)布了斯嘉麗?約翰遜等女演員的換臉視頻，使得“Deepfake”成為了 “AI 換臉”的代名詞。

模型公布后引發(fā)轟動(dòng)。網(wǎng)絡(luò)上隨即開(kāi)始出現(xiàn)大量使用Deepfake合成的色情視頻，其中不少視頻女主角的人臉被替換為斯嘉麗·約翰遜、蓋爾·加朵等大牌女星。

這給女星們?cè)斐闪藰O其惡劣的負(fù)面影響，最終在粉絲的譴責(zé)中，視頻被刪除，相關(guān)論壇也被封禁。

但由于相關(guān)技術(shù)的源代碼都免費(fèi)開(kāi)放，很快，一系列AI換臉軟件在國(guó)內(nèi)風(fēng)生水起，包括ZAO、去演、顏技和AI換臉等。

在號(hào)稱(chēng)“僅需一張照片，出演天下好戲”的ZAO，只需一張正面照，就能生成十分真實(shí)且靈動(dòng)的最長(zhǎng)可達(dá)一分鐘的視頻，吸引了大量用戶(hù)關(guān)注。但很快，ZAO的霸王條款和隱私泄露等問(wèn)題遭到人們質(zhì)疑，其發(fā)行公司陌陌也隨即遭到工信部約談。

雖然AI換臉、AI脫衣以及AI語(yǔ)音和視頻這些技術(shù)早已有之，但隨著ChatGPT的火熱，這些技術(shù)再次回到大家的視野，甚至變得更加逼真，更加低門(mén)檻。

更讓人擔(dān)憂(yōu)的是，AI詐騙已經(jīng)形成了“生成-傳播-洗錢(qián)”的完整產(chǎn)業(yè)鏈。

上游技術(shù)提供者通過(guò)暗網(wǎng)兜售“AI換臉套餐”，價(jià)格從幾百元到數(shù)萬(wàn)元不等。中游推廣者則利用非法獲取的個(gè)人信息庫(kù)，通過(guò)短信、社交軟件精準(zhǔn)投放詐騙信息。下游洗錢(qián)者則通過(guò)虛擬貨幣、跑分平臺(tái)等渠道轉(zhuǎn)移資金。

除此以外，AI詐騙也在越來(lái)越普遍。

在一起山東警方破獲的AI詐騙案中。受騙人在收到冒充他的親戚的信息后，還收到了他打來(lái)的視頻，盡管在7秒的視頻中連線(xiàn)有些許卡頓，但是聲音和樣貌都讓受騙人確認(rèn)了對(duì)方的身份，進(jìn)而向?qū)Ψ劫~戶(hù)轉(zhuǎn)賬。

近一段時(shí)間以來(lái)，這種案例屢見(jiàn)不鮮。福州某科技公司法定代表人郭先生，也因?yàn)锳I偽造的微信視頻，在短短十分鐘內(nèi)，就被騙了430萬(wàn)。

AI的進(jìn)化史，也是一塊人性的試金石。當(dāng)“賽博學(xué)生”以公益之名掠奪教育資源，當(dāng)“虛擬戀人”以溫情為餌榨干受害者積蓄，技術(shù)的雙刃性從未如此鋒利。

歡迎在評(píng)論區(qū)留言~
如需開(kāi)白請(qǐng)加小編微信：dongfangmark