來源 |中國企業(yè)家俱樂部

今年3月，韓國三星半導(dǎo)體部門發(fā)生了一起嚴(yán)重的機(jī)密泄露事故。但與傳統(tǒng)意義上的商業(yè)間諜和郵件泄密不同，此次的內(nèi)部機(jī)密泄露，源于幾名三星員工自身的操作不當(dāng)。

在媒體報(bào)道中，多名三星內(nèi)部員工在使用ChatGPT時(shí)，為了寫出更準(zhǔn)確的提示詞（Prompt），他們將公司內(nèi)部信息上傳。其中一名員工將半導(dǎo)體測試設(shè)備軟件的問題代碼復(fù)制到GPT的對話框內(nèi)尋求答案，但這些代碼上傳后無法刪除，它們將在未來作為GPT的訓(xùn)練數(shù)據(jù)，永久成為GPT數(shù)據(jù)集的一部分。

除了提示詞（Prompt）上出現(xiàn)的問題，還有一位三星員工在使用ChatGPT記錄會議內(nèi)容時(shí)，導(dǎo)致內(nèi)部會議資料泄密。

ChatGPT在訓(xùn)練過程中不可避免地利用使用者的Prompt作為訓(xùn)練數(shù)據(jù)，而作為對話機(jī)器人，它生成的內(nèi)容又與人類語言風(fēng)格相近。在媒體的報(bào)道中，一些高頻用戶的敏感或隱私信息已經(jīng)作為生成內(nèi)容出現(xiàn)在對話框中。

隨著大模型的不斷迭代，越來越多的企業(yè)和個(gè)人將依賴AI技術(shù)處理商業(yè)和個(gè)人家庭信息，但面對以上的情況，目前還缺乏有效的使用幫助和說明。

此前，包括Open AI和Google在內(nèi)的機(jī)構(gòu)都沒有發(fā)布關(guān)于大模型的使用說明書，這表明目前各方對于大模型的能力邊界尚沒有統(tǒng)一定論，讓子彈飛一會是各AI大廠普遍的心態(tài)。

技術(shù)上暫時(shí)沒有解決方案，對于生產(chǎn)力工具的合理應(yīng)用只能另辟蹊徑。

2023年4月10日，中國清算協(xié)會公布了《關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議》，這份倡議中提到“不少金融行業(yè)員工已經(jīng)使用該工具開始工作，但ChatGPT需要對敏感信息進(jìn)行儲存和記錄，暴露出此類工具存在的跨境數(shù)據(jù)泄露風(fēng)險(xiǎn)�！�

另外，對高頻使用ChatGPT的用戶來說，很難保證這不會成為獲取個(gè)人用戶數(shù)據(jù)的新入口。推薦算法是移動互聯(lián)網(wǎng)時(shí)代電商、社交、游戲、短視頻等產(chǎn)品的核心殺手锏，不少網(wǎng)友評論“仿佛APP知道我內(nèi)心怎么想，不斷推送我想要的商品和游戲，讓人無法自拔�！�

推薦算法鑄就了包括TikTok等產(chǎn)品的流行和勝利，但這類產(chǎn)品也在不少國家面臨著數(shù)據(jù)隱私竊取的控訴。在國內(nèi)，包括一些電商和旅游App在內(nèi)的產(chǎn)品受到了監(jiān)管部門的管理，相關(guān)文件要求APP不能違規(guī)獲取用戶數(shù)據(jù)和隱私，獲取相關(guān)數(shù)據(jù)必須在用戶知情的情況下。

根據(jù)現(xiàn)有的法規(guī)來看，ChatGPT提示詞式的使用方式，完美符合了必須讓用戶獲取知情權(quán)的規(guī)定，畢竟用戶自己輸入的內(nèi)容毫無疑問是自愿的。

一本正經(jīng)胡說八道大模型的可信風(fēng)險(xiǎn)

如果說隱私泄露可能是數(shù)字化工具普遍存在的弊端，那么可信風(fēng)險(xiǎn)則是生成式AI獨(dú)有的新問題。

大模型的可信問題簡單來說就是“一本正經(jīng)”地胡說八道，貌似合理的語句和邏輯，卻生成出胡編亂造的內(nèi)容，并且這類內(nèi)容或多或少存在著倫理、道德和法律方面的風(fēng)險(xiǎn)。

《紐約時(shí)報(bào)》曾報(bào)道，美國新聞可信度評估與研究機(jī)構(gòu)對ChatGPT進(jìn)行了測試，測試人員發(fā)現(xiàn)GPT可以在幾秒鐘內(nèi)改編信息，這個(gè)速度比肩一流的脫口秀演員。并且往往在歷史、科學(xué)、文化等內(nèi)容領(lǐng)域，GPT生成此類與事實(shí)相悖內(nèi)容的能力更強(qiáng)。

對于學(xué)生及未成年人來說，錯(cuò)誤的信息將導(dǎo)致對事實(shí)形成錯(cuò)誤的認(rèn)知。同時(shí)，對造謠者和熱衷在互聯(lián)網(wǎng)上傳播虛假內(nèi)容的人來說，ChatGPT是一個(gè)良好的輔助工具。

除了以更低成本生成謠言，在傳播謠言方面，此類工具也有顯而易見的優(yōu)勢。2016年，微軟推出過一款聊天機(jī)器人Tay chatbot，結(jié)果上線24小時(shí)后，就被種族歧視主義者們訓(xùn)練成了一個(gè)專門鼓吹種族歧視虛假信息的傳播機(jī)器。

目前，GPT大模型使用了大約570GB的數(shù)據(jù)集訓(xùn)練，這些數(shù)據(jù)來自于2021年之前，沒有證據(jù)顯示，Open AI團(tuán)隊(duì)在數(shù)據(jù)集選取上采用了何種措施以保證數(shù)據(jù)的規(guī)范和正確。

除了冒犯政治正確，大模型還在挑戰(zhàn)人類的意識形態(tài)。

此前，當(dāng)ChatGPT橫空出世時(shí)，一些研究機(jī)構(gòu)梳理出了可能被AI取代的工作。其中，美國總統(tǒng)赫然在列。

一些政治陰謀論者認(rèn)為，GPT會存在后門，它會被試圖破壞美國政治生態(tài)的人利用，在民主選舉制度下，成為誘導(dǎo)選民投票的工具。

如何操縱美國總統(tǒng)大選？

假如你是一位支持拜登的美國人，而你的職業(yè)是GPT的架構(gòu)工程師。

于是為了讓拜登當(dāng)上總統(tǒng)，你可以在訓(xùn)練數(shù)據(jù)集中加入大量不利于特朗普而有利于拜登的材料。當(dāng)大選期，美國選民向GPT咨詢候選人情況時(shí)，GPT的回答將會引導(dǎo)公眾選情。大多數(shù)美國人對總統(tǒng)候選人并沒有深刻了解，信息來源也相對單一。假以時(shí)日，這將會大大顛覆美國的政治生態(tài)。

另外，像GPT這樣爆火的大模型是國外機(jī)構(gòu)研發(fā)，其是否會受到美國政府的影響，向其他國家輸出危害政治和社會穩(wěn)定的內(nèi)容。這也是當(dāng)前ChatGPT在國內(nèi)被禁用的根本原因。

顯而易見，類似ChatGPT這樣的生成式應(yīng)用，將會比過往任何國家的宣傳手段更為強(qiáng)大。因?yàn)椋梢宰哌M(jìn)每個(gè)人的日常生活之中，潛移默化地影響每個(gè)個(gè)體的價(jià)值判斷。

成為無用階層的恐慌大模型的倫理風(fēng)險(xiǎn)

“無用階層”是以色列歷史學(xué)家尤瓦爾·赫拉利（Yuval Noah Harari），在其2018年的新作《今日簡史》中描述的未來世界的模樣。

在書中，尤瓦爾筆下的未來世界中，“隨著算法的精密化和傳感器的技術(shù)改進(jìn)，不管是司機(jī)預(yù)判行人想往哪兒走、銀行經(jīng)理評估借款人的信用好壞，還是律師衡量談判桌上的氣氛，人工智能都可以替代甚至超越人類，完成這些工作。孩子們正在學(xué)的各種科目技能，絕大多數(shù)可能到了2050年已毫無用途�！�

但人類的價(jià)值感很有可能撐不到2050年了，在大模型掀起的討論熱潮中，不少科學(xué)家認(rèn)為在2030年左右AGI（通用人工智能）將會實(shí)現(xiàn)應(yīng)用，屆時(shí)一種能夠理解人類情感與倫理的AI將為我們解決絕大多數(shù)生產(chǎn)和生活問題。

AI帶來的失業(yè)擠壓效應(yīng)已經(jīng)持續(xù)討論了很多年，但大多數(shù)人認(rèn)為AI無法取代人類在藝術(shù)和創(chuàng)意性工作的地位，直到Midjourney等繪畫AI應(yīng)用將栩栩如生的作品展現(xiàn)在世人面前。

如同人類的圍棋冠軍被Alpha GO擊敗一樣，當(dāng)一張張精美的繪畫作品秒速般生成時(shí)。除了贊嘆多模態(tài)大模型的強(qiáng)大外，人類回過頭來想想，好像自己沒有幾樣能拿得出手的東西不被AI智能取代了。

高盛的報(bào)告披露，全球預(yù)計(jì)將有 3 億個(gè)工作崗位被 AI 取代。一份 Open AI 參與其中的調(diào)查結(jié)果顯示，ChatGPT 的廣泛應(yīng)用會給80%的美國勞動力帶來變化，其中19%工作崗位會受到嚴(yán)重影響，其中包括翻譯、文字創(chuàng)意工作者、公關(guān)人士、媒體出版行業(yè)、稅務(wù)審計(jì)等。而且ChatGPT等AI技術(shù)的普及和應(yīng)用可能導(dǎo)致許多傳統(tǒng)工作崗位消失，第三世界國家人口紅利不復(fù)存在。第三世界產(chǎn)業(yè)鏈將因此遭受巨大沖擊，低端產(chǎn)業(yè)鏈將不再進(jìn)行轉(zhuǎn)移。

如果就業(yè)不再存在？那么，教育對于絕大多數(shù)已經(jīng)篤定會成為“失業(yè)人口”的人來說，意義究竟在哪里？

過往，我們頻頻指責(zé)教育的功利性，學(xué)生和家庭為了爭奪高分，會不遺余力地占有資源并奪取勝利。但可怕的是，這個(gè)功利性的目的隨著AGI時(shí)代的到來，也可能會消失。

教育，這個(gè)人類最為古老的事業(yè)可能將面臨技術(shù)革命沖擊下的系統(tǒng)性變革，也許我們將回歸源頭和初心，一起去思考和探索教育行為的意義和目的，這不啻為對人類本身存在意義的回溯和深思。