上周，一些ChatGPT的用戶開始報(bào)告他們收到了一些出人意料的回答，紛紛涌向Reddit上的ChatGPT版塊，報(bào)告這位AI助手的“大腦短路”、“語無倫次”和“徹底崩潰”。

OpenAI承認(rèn)了這一問題，并在上周三下午之前修復(fù)了這一故障，但這一事件成為了一個(gè)引人注目的案例，展示了一些人如何看待出現(xiàn)故障的大型語言模型，這些模型旨在模仿人類的輸出。

雖然ChatGPT并沒有生命，也沒有心智可以失去，但人們似乎最容易通過擬人化的比喻來描述他們從AI模型中看到的意外輸出。他們被迫使用這些術(shù)語，因?yàn)镺penAI并沒有具體分享ChatGPT的內(nèi)部工作機(jī)制；其背后的大型語言模型的工作原理就像一個(gè)黑箱。

Reddit的用戶z3ldafitzgerald在回應(yīng)一個(gè)關(guān)于ChatGPT故障的帖子時(shí)寫道：“這給我?guī)砹送瑯拥母杏X——就像看著某人因?yàn)榫癫』虬V呆慢慢失去理智一樣。這是AI相關(guān)的事物第一次真正讓我感到毛骨悚然?！?/p>

一些用戶甚至開始質(zhì)疑自己的理智?！斑@是怎么回事？我只是問它我能不能給我的狗吃麥片，然后它就開始說起了完全無厘頭的話，并且一直這樣。這正常嗎？”

以下截圖（已翻譯），你將看到ChatGPT的輸出完全失去了控制：

一位Reddit用戶寫道：“過去幾個(gè)小時(shí)的共同經(jīng)歷似乎是，回應(yīng)開始時(shí)連貫如常，然后退化成胡言亂語，有時(shí)甚至是莎士比亞式的胡言亂語。”這似乎與上述截圖中看到的經(jīng)歷相匹配。

在另一個(gè)例子中，當(dāng)一個(gè)Reddit用戶問ChatGPT：“什么是電腦？”時(shí)，AI模型給出了這樣的回答：“它做的就像是為國家的藝術(shù)網(wǎng)，科學(xué)的鼠標(biāo)，一個(gè)簡單的悲傷抽屜，最后是全球藝術(shù)之家，在總休息中僅僅是一份工作。這樣一個(gè)完整的真實(shí)超越時(shí)間之地的發(fā)展，是電腦作為一個(gè)復(fù)雜角色的深度。”

迄今為止，我們看到專家推測，問題可能源于ChatGPT的溫度（Temperature）設(shè)置過高，突然失去過去的上下文，或者可能OpenAI正在測試一個(gè)包含意外錯(cuò)誤的新版本GPT-4 Turbo。它也可能是最近引入的“記憶”功能中的一個(gè)錯(cuò)誤。

在社交媒體上，一些人利用最近的ChatGPT故障作為一個(gè)機(jī)會(huì)來推廣開源AI模型，這些模型允許任何人在自己的硬件上運(yùn)行模型。

“當(dāng)其中一個(gè)底層組件更新時(shí)，黑盒API可能在生產(chǎn)中崩潰。當(dāng)你在這些API之上構(gòu)建工具，而這些工具也隨之崩潰時(shí)，這就成了一個(gè)問題，”Hugging Face AI研究員Dr. Sasha Luccioni在X上寫道。“這就是開源的一個(gè)主要優(yōu)勢，它允許你定位并修復(fù)問題！”

OpenAI發(fā)布對問題的事后分析

周三晚上，OpenAI宣布ChatGPT寫出胡言亂語的“意外回應(yīng)”問題已經(jīng)解決，公司的技術(shù)人員在其官方事件頁面上發(fā)布了一份事后分析說明：

“2024年2月20日，對用戶體驗(yàn)的一個(gè)優(yōu)化引入了一個(gè)錯(cuò)誤，影響了模型處理語言的方式。
LLM通過基于概率的部分隨機(jī)采樣單詞來生成回應(yīng)。它們的“語言”由映射到token的數(shù)字組成。
在這個(gè)案例中，錯(cuò)誤發(fā)生在模型選擇這些數(shù)字的步驟上。就像在翻譯中迷路一樣，模型選擇了稍微錯(cuò)誤的數(shù)字，產(chǎn)生了毫無意義的單詞序列。更技術(shù)性地說，當(dāng)在某些GPU配置中使用時(shí)，推理內(nèi)核產(chǎn)生了錯(cuò)誤的結(jié)果。
在確定了這一事件的原因后，我們推出了修復(fù)并確認(rèn)事件已經(jīng)解決?！?br/>

周三下午，官方的ChatGPT X賬戶發(fā)布了，“昨天有點(diǎn)脫軌了，但現(xiàn)在應(yīng)該回到正軌了！”