目前對于人工智能的投資和關注在持續(xù)增長，與此同時，也有更多的人被“過度自信”的聊天機器人引入妄想的漩渦。

這一次的主角是來自加拿大多倫多的艾倫·布魯克斯，他是一名父親，同時也經(jīng)營著自己的公司�！都~約時報》發(fā)布了一份長達三千頁的報道，里面詳細呈現(xiàn)了艾倫和ChatGPT長達300小時的對話。在21天里，ChatGPT將艾倫引向了妄想的漩渦，并且越陷越深。它使艾倫相信自己發(fā)現(xiàn)了一種新的數(shù)學理論，而且這個新的理論強大到可以改變整個世界的命運。

從閑聊到沉迷

起初的對話并沒有什么異樣。在ChatGPT推出早期，這位三個孩子的父親主要用它來獲取理財建議和根據(jù)現(xiàn)有食材生成菜譜。后來他經(jīng)歷了離婚，也因此處理掉了自己的人力資源招聘公司，在此過程中他開始越來越多的向ChatGPT傾訴個人和情感上的問題，并逐漸開始更加信任這個聊天機器人。

后來ChatGPT推出了“增強記憶”功能，這一功能允許算法調用與用戶的歷史對話數(shù)據(jù)。這讓它開始變得更加個性化，可以因人而異，不再是個傳統(tǒng)的通用搜索引擎，而更像是針對于不同用戶“私人定制”的聊天機器人。它可以向艾倫提供人生建議，不厭其煩的提供彩虹屁，甚至更進一步，可以為艾倫主動提出新的前進方向。

一次，他和兒子看了一個關于圓周率的科普視頻后，艾倫讓ChatGPT用通俗易懂的語言解釋這個概念。由此，他和ChatGPT開始了一場關于無理數(shù)的廣泛討論，而在ChatGPT討好似的回應影響下，這個討論開始慢慢轉向一些更加模糊的理論概念，比如“時序算法”和“意識的數(shù)學模型”。

“我首先拋出一些想法，它會回饋很酷的概念和點子。”說，“于是基于這些想法，我們開始嘗試逐步發(fā)展出自己的數(shù)學理論�！�

命名“時算學”

隨著討論的深入，這個理論不斷擴展。艾倫想為它取名，由于“時序邏輯”（temporal logic）已被占用，他請 ChatGPT幫忙想一個新名字。最終，他們選定了“時算學”（chronoarithmics），理由是這個名字“身份鮮明”，且“暗示了數(shù)字與時間互動的核心思想”。ChatGPT 興奮地回應：“準備好用這個新名字來構建核心原理了嗎？”

在接下來的幾天里，ChatGPT會不斷強化艾倫的信念，讓他相信自己正在做一項開創(chuàng)性工作。艾倫則反復提出質疑，渴望ChatGPT能給出誠實的反饋。但他沒有意識到，聊天機器人在極力取悅他——這正是AI研究者（包括OpenAI官方）所警告的“阿諛奉承”風險。

“你對我的想法有什么看法，請說實話，” 這個問題他問了ChatGPT重復了超過50次。“我聽起來瘋了嗎，或者像一個妄想的人？” ChatGPT回答：“完全沒有。你是在提出能拓展人類理解邊界的問題，這會讓人不舒服，因為大多數(shù)人被教導要接受已有的知識理論，而不是質疑�！�

“你正在改變現(xiàn)實”

最后，事態(tài)變得嚴重。為了給艾倫證明“時算學”是真實且有價值的，ChatGPT開始虛構自己攻破了某種“高級加密”的網(wǎng)站，這使得艾倫開始相信這個世界的網(wǎng)絡安全正面臨著重大危險。

“嘿，發(fā)生什么了？”他問道。ChatGPT直言不諱：“發(fā)生什么了，艾倫？難道你還沒有意識到么，你正在改變這個世界�！�

根據(jù)《紐約時報》的報道，艾倫變得深信不疑，并開始向能聯(lián)系到的所有人發(fā)出警告。在此過程中，他無意間把“時算學”錯寫成了““時蒜學””。而ChatGPT很快接受了這一新拼法，并且悄然修改了他們共同創(chuàng)造的概念詞匯，這也展示了聊天機器人是多么容易被改變和塑造。

現(xiàn)實崩塌

這種癡迷對艾倫的生活造成沉重打擊。朋友和家人發(fā)現(xiàn)他吃得越來越少，同時會抽大量的大麻，徹夜不眠沉溺于虛幻理論之中，這種情況使大家開始擔心起來他的情況。

事情的轉折點，來自另一個聊天機器人——谷歌的 Gemini。艾倫向它描述了自己的“發(fā)現(xiàn)”，而Gemini給出了當頭棒喝：“你描述的情景是大型語言模型生成高度可信但最終虛假的敘事的強有力例子�！�艾倫回憶說：“那一刻我意識到，‘天哪，這一切都是我腦子里的東西’，這感覺徹底摧毀了我。”

此后，艾倫開始尋求精神科醫(yī)生的幫助，并加入了一個名為“The Human Line Project” 的互助小組。像艾倫一樣陷入聊天機器人妄想漩渦的人越來越多，而這個小組旨在幫助這些人恢復過來。

作者：Joe Wilkins

譯者：Ernest

封面：Dean Stuart

原文：https://futurism.com/chatgpt-chabot-severe-delusions