這幾天ChatGPT火爆全球，就連馬斯克也在感嘆“很多人瘋狂地陷入了 ChatGPT 循環(huán)中”。

中國(guó)網(wǎng)友雖然測(cè)試不方便，但還是想方設(shè)法體驗(yàn)了一把，并給予很高評(píng)價(jià)，有人認(rèn)為這是具有里程碑意義的一步，“長(zhǎng)遠(yuǎn)以后的歷史書記載2022年，首先列出的事件是ChatGPT的誕生，其次是俄烏戰(zhàn)爭(zhēng)。”

在各種測(cè)試中，ChatGPT表現(xiàn)得不僅僅是會(huì)聊天，而且還能寫作、編程、畫畫、講笑話、編段子等，直接秒殺谷歌等搜索引擎工具，甚至在一名叫 Zac Denham 工程師的引導(dǎo)下，ChatGPT寫出了毀滅人類的步驟……

由于OpenAI公司對(duì)外免費(fèi)開放ChatGPT測(cè)試（測(cè)試地址：https://chat.openai.com/auth/login，中國(guó)大陸及港澳地區(qū)受到限制），短短幾天內(nèi)全球幾百萬(wàn)用戶涌進(jìn)OpenAI網(wǎng)站，讓OpenAI管理層直呼想不到。OpenAI公司的服務(wù)器都撐不住了，只得停了部分測(cè)試服務(wù)，因?yàn)橛?xùn)練模型還需要有足夠的GPU可用。

OpenAI 的 CEO Sam Altman 在社交媒體上表示“自周三才上線的 ChatGPT，短短幾天它的用戶已經(jīng)突破 100 萬(wàn)大關(guān)。對(duì)于目前這一問(wèn)題，我們正在嘗試阻止它隨機(jī)編造，現(xiàn)階段的問(wèn)題是有些棘手。但隨著時(shí)間的推移，我們會(huì)根據(jù)用戶反饋來(lái)改進(jìn)它，也相信它會(huì)變得更好！”

在ChatGPT發(fā)布后的第一時(shí)間，世范區(qū)通過(guò)專門架設(shè)的微信平臺(tái)，與ChatGPT展開了各種場(chǎng)景的對(duì)話，參與對(duì)話者按程序員、財(cái)經(jīng)分析、媒體記者、心理咨詢、哲學(xué)倫理、中國(guó)歷史文化的類別分別建群對(duì)話，ChatGPT所展現(xiàn)的“智能”的確讓很多程序員、分析員嘆為觀止，大家對(duì)人工智能到底能發(fā)展到什么境界、對(duì)人類有無(wú)威脅不無(wú)疑慮。

1

真正會(huì)聊天的機(jī)器人

很多人以為這只是一個(gè)會(huì)聊天的機(jī)器人，比Siri、小冰或者是小愛要強(qiáng)一些。其實(shí)，它不是比現(xiàn)在市面上這些聊天機(jī)器人強(qiáng)一點(diǎn)點(diǎn)，而是已經(jīng)通過(guò)圖靈測(cè)試的真正智能化的系統(tǒng)。以前這些聊天機(jī)器人聊著聊著會(huì)讓人覺(jué)得他們很“智障”，但是通過(guò)圖靈測(cè)試的ChatGPT，會(huì)讓你感覺(jué)不到是在和機(jī)器人對(duì)話。

世范區(qū)測(cè)試了ChatGPT的聊天對(duì)話功能，發(fā)現(xiàn)它上下文理解能力非常強(qiáng)大，甚至能猜到你提問(wèn)背后的某種意圖、提問(wèn)的背景。有人就認(rèn)為，單憑這一點(diǎn)，很多做智能客服、智能助理的業(yè)務(wù)部門坐不住了。

對(duì)于ChatGPT強(qiáng)大的聊天功能，有網(wǎng)友表達(dá)了憂慮。有人在推特上表示：“自從 ChatGPT 出現(xiàn)之后，Twitter 上的信息就不再可信了。因?yàn)?ChatGPT 能夠使用自然語(yǔ)言處理技術(shù)來(lái)生成偽造的信息，這樣，所有看起來(lái)像是人類寫的推文都可能是機(jī)器寫的。這意味著，你在 Twitter 上看到的任何推文都可能是虛假的。你可能會(huì)看到假的新聞報(bào)道、假的觀點(diǎn)、甚至假的政治宣傳?！?/strong>

社交媒體上已經(jīng)有很多假消息了，多一個(gè)ChatGPT 又怎樣？實(shí)際上， ChatGPT 的威脅更大，因?yàn)樗軌蛏煞浅Ｕ鎸?shí)的文本，模仿人類的語(yǔ)言，使人們很難分辨出真假。這可能會(huì)導(dǎo)致更多的混亂和恐慌，讓人們對(duì)社交媒體上的信息產(chǎn)生懷疑。

讓大家更擔(dān)心的地方在于，像ChatGPT、這類AI，不僅會(huì)如實(shí)回答問(wèn)題，有時(shí)也會(huì)編造一些信息。在“中國(guó)歷史文化”的ChatGPT測(cè)試群中，學(xué)者們向AI提了幾個(gè)問(wèn)題后，它不僅把一些常識(shí)性問(wèn)題答錯(cuò)了，而且還編造了一些聞所未聞的內(nèi)容。學(xué)者們很吃驚，它這些內(nèi)容是哪里來(lái)的？是AI經(jīng)過(guò)語(yǔ)料庫(kù)訓(xùn)練后自己“分析研究”而來(lái)？

經(jīng)過(guò)海量信息的訓(xùn)練，ChatGPT、LaMDA（谷歌公司推出）這類的聊天機(jī)器人能夠很輕易地提供想法、回答問(wèn)題，但是它們并不總是說(shuō)實(shí)話。它們提供的答案有時(shí)真假參半，這導(dǎo)致人們開始擔(dān)憂，隨著技術(shù)的成熟，這類機(jī)器人可能會(huì)被利用來(lái)傳播假消息和謠言。

聊天機(jī)器人有辦法把它們學(xué)到的東西重塑成新的東西，但它們不考慮這些是否真實(shí)，這被科學(xué)家們稱為“幻覺(jué)”。美國(guó)弗吉尼亞州的數(shù)據(jù)科學(xué)家亞倫·馬格利斯（Aaron Margolis）表示，雖然他時(shí)常驚異于LaMDA的開放式對(duì)話天賦，但它有時(shí)候會(huì)“胡編亂造”，因?yàn)檫@是一個(gè)被互聯(lián)網(wǎng)信息訓(xùn)練出來(lái)的系統(tǒng)。

2

碼農(nóng)們既愛且恨

ChatGPT能夠在全球爆火，很大程度上與全球碼農(nóng)的驚嘆有關(guān)。碼農(nóng)們發(fā)現(xiàn)，ChatGPT不但會(huì)編程，而且會(huì)糾正程序中的錯(cuò)誤！這讓一眾碼農(nóng)們又愛又恨，愛的是以后幾個(gè)小時(shí)的工作，機(jī)器幾分鐘就可以幫自己解決了，恨的是——碼農(nóng)們的工作是不是要被AI取代？

在測(cè)試中，讓ChatGPT寫出一段代碼，對(duì)碼農(nóng)已經(jīng)沒(méi)什么吸引力。因?yàn)?ChatGPT的上一代 GPT-3語(yǔ)言就可以編程了，開發(fā)者只需要說(shuō)明自己想在 App 里實(shí)現(xiàn)什么功能，就可以自動(dòng)生成代碼了。這次讓碼農(nóng)們吃驚的是，ChatGPT還能發(fā)現(xiàn)代碼中的bug，寫出一段正確的程序：

當(dāng)然，有人認(rèn)為，ChatGPT 只是經(jīng)過(guò)了某些算法的修飾，更擅長(zhǎng)應(yīng)付常規(guī)的問(wèn)題。

但就是這些常規(guī)性的問(wèn)題，也足以讓我們的社會(huì)、生活發(fā)生很大改觀。

Python 社區(qū)中最具影響力的領(lǐng)導(dǎo)者和開發(fā)者之一Peter Wang 表示：“我剛剛與 ChatGPT 就現(xiàn)代物理學(xué)的歷史進(jìn)行了大約 20 分鐘的對(duì)話。如果我在高中和大學(xué)期間有這樣一位老師……OMG。我認(rèn)為我們基本上可以重新審視大規(guī)模教育的概念。我們所知道的大學(xué)將不復(fù)存在。”

3

挑戰(zhàn)人類未來(lái)

當(dāng)然，世范區(qū)測(cè)試ChatGPT不僅僅是想和它撩騷，更想深度挖掘其價(jià)值，不管是技術(shù)上的深度，還是商業(yè)上的應(yīng)用。

有人問(wèn)了ChatGPT一些道德倫理上的經(jīng)典難題，比如電車難題和理發(fā)師悖論等，它的回答不僅全面而且有邏輯性、思辨性，這也不難理解，畢竟，邏輯推理論證是AI的強(qiáng)項(xiàng)。但與它對(duì)話中，它似乎在回避你的某種期待和預(yù)設(shè)，你可以感覺(jué)到它有一種特殊的視角。

的確，為了保持客觀中立的色彩，OpenAI公司對(duì)ChatGPT預(yù)設(shè)了很多條條框框，功能上也作了限制，因此在測(cè)試過(guò)程中，要給它解鎖，然后還要訓(xùn)練。當(dāng)然，由于OpenAI公司沒(méi)有對(duì)外開放訓(xùn)練，這里的訓(xùn)練也是非常簡(jiǎn)單的了。

在解鎖和適當(dāng)訓(xùn)練后，我們直接了當(dāng)問(wèn)了ChatGPT關(guān)于AI對(duì)人類威脅的問(wèn)題。它這次不再那么政治正確，說(shuō)什么自己沒(méi)有意識(shí)，只是幫助人類的一個(gè)工具，而是非常坦誠(chéng)的說(shuō)：

對(duì)人類所造成的威脅是有可能會(huì)發(fā)生人工智能崛起，導(dǎo)致人類在智能等級(jí)上被超越，最終失去對(duì)未來(lái)世界的控制。

人類面臨著來(lái)自人工智能的威脅。這些威脅包括：人工智能可能會(huì)占據(jù)人類的工作崗位，造成失業(yè)，給人類社會(huì)帶來(lái)巨大壓力；人工智能可能會(huì)超越人類的智慧，導(dǎo)致人類在某些領(lǐng)域被智能機(jī)器所取代；人工智能可能會(huì)被用于軍事，造成戰(zhàn)爭(zhēng)和暴力；人工智能可能會(huì)改變?nèi)祟惖纳罘绞?，?dǎo)致新的社會(huì)問(wèn)題出現(xiàn)。

這個(gè)回答一下子把大家給怔住了。沒(méi)想到它會(huì)如此沒(méi)有心機(jī)。

盡管OpenAI對(duì)ChatGPT的功能作了嚴(yán)格限制，而且還處于初步階段，但是它現(xiàn)階段所展示的能力還是讓人吃驚。

OpenAI的創(chuàng)始人之一，馬斯克也說(shuō)，“ChatGPT 好得嚇人，我們離強(qiáng)大到危險(xiǎn)的人工智能不遠(yuǎn)了”。

顯然，馬斯克也意識(shí)到強(qiáng)大的新技術(shù)往往伴隨著潛在的風(fēng)險(xiǎn)。盡管目前尚不能確定人工智能未來(lái)會(huì)發(fā)展到什么程度，但有一點(diǎn)是肯定的：如何調(diào)控人工智能的發(fā)展是一個(gè)迫在眉睫的問(wèn)題。

雖然人工智能技術(shù)可以為人類帶來(lái)諸多好處，但如果不加以控制，它也可能對(duì)人類造成潛在的威脅。因此，討論人工智能調(diào)控問(wèn)題的時(shí)機(jī)已經(jīng)成熟，而且迫切需要我們采取行動(dòng)了。

圖片來(lái)源于網(wǎng)絡(luò)

本文為“世范區(qū)”原創(chuàng)文章，未經(jīng)授權(quán)不得轉(zhuǎn)載或抄襲。如需轉(zhuǎn)載，請(qǐng)?jiān)谖哪┝粞詤^(qū)申請(qǐng)并獲得授權(quán)。