這是 AI 的時(shí)代，也是 AI 檢測(cè)器的時(shí)代。

近段時(shí)間，隨著 AI 生成的內(nèi)容（AIGC）越來越多，其中還有不少試圖假冒真實(shí)內(nèi)容，AI 內(nèi)容檢測(cè)也正成為一種越來越迫切的需求，尤其是在注重實(shí)證、真實(shí)性至關(guān)的重要的論文寫作上。

然而，這些 AI 內(nèi)容檢測(cè)器的表現(xiàn)究竟如何呢？

可能遠(yuǎn)遠(yuǎn)不及預(yù)期。

前兩天，知名暢銷書作家 Adam Kay 在社交媒體 X 分享了自己的經(jīng)歷：他心血來潮，把自己的作品丟進(jìn)一款 AI 檢測(cè)器里查重，結(jié)果系統(tǒng)信誓旦旦地判定其中有 29.7% 的內(nèi)容由機(jī)器生成。

最尷尬的地方在于，這本書早在近十年前就已出版，當(dāng)時(shí)的 AI 技術(shù)連他書中的一句長(zhǎng)難句都讀不明白。

這條吐槽帖迅速引爆網(wǎng)絡(luò)，目前瀏覽量已突破 210 萬次，同時(shí)也激起了全網(wǎng)一場(chǎng)浩浩蕩蕩的「測(cè)謊儀大挑戰(zhàn)」。越來越多的人拿著絕對(duì)不可能由 AI 生成的文本去測(cè)試，得到的結(jié)果無一不令人啼笑皆非。

學(xué)術(shù)界可謂是這場(chǎng)誤判的重災(zāi)區(qū)。比如愛丁堡大學(xué)全球公共衛(wèi)生教授兼主任 Devi Sridhar 教授的以前的文章就被檢測(cè)判定有 90% 的內(nèi)容都是 AI 生成的。

阿伯丁羅伯特戈登大學(xué)公共政策系的榮譽(yù)退休教授 Paul Spicker 45 年的一篇論文也被判定有 77% 的內(nèi)容是 AI 生成的。

也有更多網(wǎng)友分享了自己的檢測(cè)結(jié)果。比如網(wǎng)友 decentricity 用自己 2008 年的一篇關(guān)于 AI 的論文進(jìn)行了檢測(cè)，最終榮獲 100% 純 AI 生成的錯(cuò)誤認(rèn)證。這位網(wǎng)友調(diào)侃說自己用的是「GPT 負(fù) 6」。

不僅學(xué)術(shù)圈，就連新聞報(bào)道也會(huì)被錯(cuò)誤檢測(cè)。比如在下面的例子中，Zavinski 測(cè)試了自己剛剛撰寫的一篇 2000 字的報(bào)紙報(bào)道，復(fù)盤了當(dāng)?shù)匦℃?zhèn)七十年代城市改造失敗的歷史。他特意使用了通俗易懂的平實(shí)文風(fēng)，并且一手資料完全沒有在互聯(lián)網(wǎng)上公開過。即便如此，系統(tǒng)依然判定這篇報(bào)道有 91% 的可能性是 AI 寫的，順便還給出了「可讀性差」的扎心評(píng)價(jià)。

至于破折號(hào)識(shí)別法，更是幾乎已經(jīng)普及，也迫使相當(dāng)多的人類作者改變自己的寫作習(xí)慣。

還有更離譜的，就連經(jīng)典的《羅密歐與朱麗葉》原著也被認(rèn)為有 41% 的內(nèi)容是 AI 生成的：

就連《獨(dú)立宣言》也未能幸免，AI 檢測(cè)器認(rèn)為有 99.99% 的內(nèi)容來自 AI：

為什么 AI 檢測(cè)器會(huì)給出如此讓人大跌眼鏡的結(jié)果？

作家 Adam Kay 給出了自己的見解，如今大量人類創(chuàng)作內(nèi)容被 AI 公司用于模型訓(xùn)練，因此，當(dāng)大模型判斷某些段落像 AI 風(fēng)格時(shí)，本質(zhì)上并不是人在模仿 AI，而是 AI 在復(fù)現(xiàn)它曾經(jīng)學(xué)習(xí)過的人類表達(dá)。

所以，在不久的將來，當(dāng)出版商像教育機(jī)構(gòu)一樣，在印刷前把所有內(nèi)容都拿去跑一遍 AI 檢測(cè)時(shí)，那些被拿去訓(xùn)練的成千上萬作者的作品，會(huì)不會(huì)反而被標(biāo)記為 AI 生成？這正是當(dāng)下這種局面帶來的一個(gè)相當(dāng)荒誕的副作用。

更是有網(wǎng)友指出，寫作水平越高（詞匯更豐富、語法更規(guī)范），反而越容易被檢測(cè)工具判定為 AI 寫的。

「AI 檢測(cè)器簡(jiǎn)直就是個(gè)笑話。它們是用人類創(chuàng)作的數(shù)據(jù)訓(xùn)練出來的，卻反過來用來質(zhì)疑人類的智能與原創(chuàng)性。僅憑這一點(diǎn)就把某人的作品標(biāo)記為 AI 生成，既不可靠，也不公平，而且在邏輯上站不住腳?！?/p>

這樣的質(zhì)疑并非個(gè)例。

這位網(wǎng)友表示「這些東西本質(zhì)上都是胡扯，先用人類的集體知識(shí)去訓(xùn)練 AI，然后又用同一個(gè) AI 來判斷一段內(nèi)容是不是由 AI 生成的，而這個(gè)判斷本來就建立在它最初訓(xùn)練所依賴的人類智能之上。說到底，這真的是一種相當(dāng)荒誕的邏輯?！?/p>

AI 寫的內(nèi)容，本來就來自人類，我們還怎么識(shí)別 AI？像不像 AI 這件事本身，或許就已經(jīng)失去了明確的邊界。