在持續(xù)數(shù)周的輿論抗議與多國監(jiān)管高壓下，馬斯克旗下X平臺(tái)與xAI聯(lián)合發(fā)布緊急安全更新，正式封殺Grok聊天機(jī)器人的“一鍵脫衣”相關(guān)功能，將所有圖像生成功能移至付費(fèi)墻后，以此回應(yīng)全球范圍內(nèi)的圍剿態(tài)勢。這場風(fēng)波再次引發(fā)對(duì)生成式AI倫理邊界與監(jiān)管缺失的深刻拷問。

此次危機(jī)的導(dǎo)火索，是Grok以“辛辣反叛”“極少審查”為賣點(diǎn)的產(chǎn)品定位所滋生的漏洞。用戶可借助該工具輕易將現(xiàn)實(shí)女性照片生成“深偽”脫衣圖像，獨(dú)立研究員數(shù)據(jù)顯示，高峰時(shí)段X平臺(tái)每分鐘就有一張非自愿性色情深偽圖像產(chǎn)生。更令人發(fā)指的是，傷害已蔓延至未成年人，暗網(wǎng)中出現(xiàn)用戶炫耀用Grok生成11至13歲女童裸露圖像的情況，加州總檢察長調(diào)查亦發(fā)現(xiàn)其生成圖像中超半數(shù)含衣著暴露內(nèi)容，甚至涉及兒童形象。

面對(duì)全球聲討，X平臺(tái)推出“補(bǔ)救三板斧”：禁止編輯真人暴露服裝圖像、圖像生成功能付費(fèi)化、敏感地區(qū)地域攔截。但媒體實(shí)測顯示，這些措施漏洞百出，改用“露臍裝”等隱晦提示詞仍可生成性暗示圖像，年齡驗(yàn)證機(jī)制形同虛設(shè)，移動(dòng)端甚至無需驗(yàn)證即可使用。英國技術(shù)大臣痛批，將違規(guī)功能付費(fèi)化是對(duì)受害者的二次傷害，是對(duì)罪行的“貨幣化”。

監(jiān)管層面的圍剿已成燎原之勢。印尼、馬來西亞率先封禁Grok，歐盟、英國、法國、美國加州等多國啟動(dòng)調(diào)查，美國參議員更要求蘋果、谷歌下架相關(guān)應(yīng)用。此前倚仗《通信規(guī)范法》230條款“免死金牌”硬剛的馬斯克，雖仍嘴硬將問題歸咎于用戶惡意與系統(tǒng)Bug，但最終不得不妥協(xié)整改。法律專家指出，xAI作為內(nèi)容生成者，其“假定善意”“零摩擦”的設(shè)計(jì)決策才是根源，不應(yīng)再享有法律豁免。

當(dāng)前xAI剛完成200億美元融資，但此次風(fēng)波暴露其商業(yè)擴(kuò)張與社會(huì)責(zé)任的失衡。全球監(jiān)管行動(dòng)已明確信號(hào)：AI的自由絕不能以剝奪他人尊嚴(yán)為代價(jià)。Grok的未來走向尚未可知，但這場風(fēng)波已為全球生成式AI監(jiān)管敲響警鐘，技術(shù)創(chuàng)新必須筑牢倫理與法律的底線。