該圖片可能由AI生成

最近一則消息引發(fā)熱議：測(cè)試顯示ChatGPT最新版本在回答問(wèn)題時(shí)，多次引用了馬斯克旗下的Grokipedia作為信息來(lái)源。繼Claude之后，又一主流AI模型“中招”，社區(qū)瞬間炸鍋。

但這真的是什么大事嗎？

冷靜下來(lái)看，這件事的技術(shù)本質(zhì)其實(shí)很簡(jiǎn)單。Grokipedia是在這些模型完成訓(xùn)練之后才上線的，也就是說(shuō)，模型根本不知道這個(gè)網(wǎng)站是什么來(lái)頭。當(dāng)你讓AI進(jìn)行網(wǎng)絡(luò)搜索時(shí)，它會(huì)從大量鏈接中挑選看起來(lái)最相關(guān)的結(jié)果。Grokipedia恰好在某些搜索中排名靠前，于是被選中了。這跟“用AI訓(xùn)練AI”完全是兩碼事。

然而，恐慌情緒還是蔓延開(kāi)來(lái)。

有人擔(dān)心右翼偏見(jiàn)會(huì)滲透進(jìn)AI回答。有人質(zhì)疑為什么要用一個(gè)“AI生成的維基百科”當(dāng)來(lái)源。還有人開(kāi)玩笑說(shuō)，等著AI引用《我的奮斗》吧。

這些擔(dān)憂背后有一個(gè)更深層的問(wèn)題：我們對(duì)AI信息來(lái)源的焦慮，折射出我們對(duì)信息本身的不信任。

事實(shí)是，維基百科也有它的偏見(jiàn)問(wèn)題。長(zhǎng)期活躍的編輯者形成了自己的文化圈層，“可靠來(lái)源”的定義權(quán)掌握在特定群體手中。Grokipedia的出現(xiàn)，某種程度上是對(duì)這種壟斷的一次實(shí)驗(yàn)性挑戰(zhàn)。它讓AI來(lái)審核人類編輯的內(nèi)容，看看會(huì)發(fā)生什么。

當(dāng)然，用戶發(fā)現(xiàn)的問(wèn)題也很真實(shí)。有人親手修復(fù)了Grokipedia上關(guān)于《魔法少女小櫻》的大量幻覺(jué)內(nèi)容，每一集的劇情簡(jiǎn)介幾乎都是瞎編的。這提醒我們，任何信息來(lái)源都需要驗(yàn)證，無(wú)論它看起來(lái)多么權(quán)威。

有趣的是，當(dāng)有人親自測(cè)試時(shí)，用同樣的問(wèn)題問(wèn)ChatGPT，結(jié)果引用的是維基百科、PBS、大英百科全書(shū)，根本沒(méi)有Grokipedia的影子。媒體報(bào)道的“多次引用”與實(shí)際體驗(yàn)之間的差距，本身就值得玩味。

最終，這可能只是一個(gè)很快會(huì)被修復(fù)的小問(wèn)題。OpenAI只需要把Grokipedia加入黑名單就完事了。但真正的挑戰(zhàn)在于：隨著網(wǎng)上AI生成的內(nèi)容越來(lái)越多，AI如何避免陷入“摘要的摘要”這個(gè)無(wú)限循環(huán)？

一位評(píng)論者說(shuō)得好：這讓我們回到了AI出現(xiàn)之前的老問(wèn)題，人們獲取信息卻從不核實(shí)來(lái)源。

也許，我們對(duì)AI寄予了太高的期望，把它當(dāng)成通往客觀真理的魔鏡。但它終究只是一個(gè)工具，反映的是整個(gè)互聯(lián)網(wǎng)的混亂與偏見(jiàn)。在這個(gè)信息過(guò)載的時(shí)代，獨(dú)立思考和交叉驗(yàn)證的能力，比以往任何時(shí)候都更加珍貴。

reddit.com/r/singularity/comments/1qn325q/after_claude_now_chatgpt_is_also_uses_grokipedia/