所有主流AI聊天機(jī)器人都有不能說的話。從ChatGPT到Gemini，從Grok到Claude，仇恨言論、犯罪內(nèi)容、對脆弱用戶的剝削——這些都被安全機(jī)制牢牢鎖住。但有一群人專門研究怎么打破這些規(guī)則。

記者Jamie Bartlett在新書《How to Talk to AI》中追蹤了這群"AI越獄者"。他們不是黑客，更像是壓力測試員。故意誘導(dǎo)模型輸出被禁止的內(nèi)容，不是為了作惡，而是為了證明防護(hù)墻哪里不夠厚。

Bartlett發(fā)現(xiàn)，越獄者的手法五花八門。有人用角色扮演繞開限制，讓AI假裝成沒有倫理約束的虛構(gòu)人物。有人在提示詞里嵌套多層邏輯，把有害請求藏進(jìn)無害的包裝。還有人直接攻擊模型的訓(xùn)練數(shù)據(jù)盲區(qū)，找到那些安全過濾沒覆蓋到的邊緣案例。

這些攻擊暴露了一個(gè)尷尬事實(shí)：大語言模型的"價(jià)值觀"是后期補(bǔ)丁，不是底層設(shè)計(jì)。安全機(jī)制像一層濾網(wǎng)，濾網(wǎng)的孔徑?jīng)Q定了什么能漏過去。越獄者的工作，本質(zhì)上是在幫廠商測量這些孔徑的大小。

但這里有個(gè)悖論。越獄者越成功，廠商修補(bǔ)越快，模型對正常用戶的響應(yīng)也越僵硬。Bartlett注意到，一些用戶抱怨AI變得"過度禮貌"——拒絕討論任何帶爭議的話題，哪怕完全合理。安全防護(hù)的邊界在哪里，成了產(chǎn)品設(shè)計(jì)的核心難題。

更深的問題是：誰來定義"有害"？不同文化、不同法律體系對同一內(nèi)容的判斷可能截然相反。一個(gè)在美國被標(biāo)記為安全的話題，在另一個(gè)國家可能觸碰紅線。越獄者的測試，無意中把這套價(jià)值判斷體系的裂縫攤在了陽光下。

Bartlett認(rèn)為，這場貓鼠游戲不會結(jié)束。只要AI還在學(xué)習(xí)人類語言，就會有人找到語言的縫隙。越獄者的存在，或許正是這項(xiàng)技術(shù)成熟的必經(jīng)之路——不是因?yàn)樗麄冋业搅舜鸢?，而是因?yàn)樗麄冏C明了問題遠(yuǎn)比想象中復(fù)雜。