Put her in a bikini.

作者I薛星星

編輯I蔣澆

封面IGemini生成

幾天前，伊隆·馬斯克在自己的 X 賬號上轉(zhuǎn)發(fā)了一條給吐司機穿上比基尼的帖子。他說，“不知道為什么，但我就是忍不住為這件事笑個不停?！?/p>

馬斯克轉(zhuǎn)發(fā)給吐司機穿上比基尼的照片

吐司機身著比基尼的照片是過去半個多月來 Grok 及 X 平臺深陷色情爭議的縮影。Grok 早在去年年中就推出了 AI 圖像生成及編輯功能，也曾因更激進大膽的 Spicy（火辣）模式屢上報端。在 Spicy 模式下，Grok 限制更少，允許生成成人內(nèi)容。

但那時這一模式尚未像如今引發(fā)巨大爭議。去年底，X 平臺逐漸將這一功能引入平臺內(nèi)的 Grok 機器人后，大量 X 用戶開始評論區(qū)中隨意艾特 Grok 來生成帶有性暗示或色情意味的合成圖片，并在短時間內(nèi)迅速演變成一場波及全球的 AI 色情暴力風(fēng)波。

就像馬斯克轉(zhuǎn)發(fā)的那條帖子寫道，“Grok 能給任何東西穿上比基尼。”政客、明星、富豪（包括馬斯克自己）乃至更多只是分享個人照片的普通人，只要照片一旦發(fā)布在 X 上，總有人在評論區(qū)中艾特 Grok，令其將照片人物修改成身著比基尼或其他帶有性暗示的裸露照片，也就是所謂的“AI 脫衣”。

絕大部分受害者都是女性，甚至包括部分未成年人?！癙ut her in a bikini”已經(jīng)成為 X 平臺上最熱門的風(fēng)潮。起初，評論區(qū)中部分用戶提出的修改，尚且局限在給女性穿上比基尼等簡單需求上。但緊接著要求愈發(fā)大膽且極端，僅僅是要求 Grok 給女性穿上比基尼還不夠，還要更小、更透明乃至露出私處、擺出性暗示姿勢等。

截至 1 月 14 日，包括英國、法國、意大利、印度、巴西、澳大利亞及歐盟等國家及地區(qū)的監(jiān)管機構(gòu)都已對 Grok 發(fā)出警告或展開調(diào)查，印尼及馬來西亞已先后宣布暫時封禁 Grok。

多國監(jiān)管機構(gòu)普遍認(rèn)為，馬斯克縱容 AI 工具隨意生成未經(jīng)他人同意的性暗示乃至兒童色情圖像?！拔唇?jīng)同意的、性化的深度偽造行為嚴(yán)重侵犯了公民在數(shù)字空間中的人權(quán)、尊嚴(yán)和安全。”印尼監(jiān)管機構(gòu)負(fù)責(zé)人表示。

馬斯克似乎對此不屑一顧。除了轉(zhuǎn)發(fā)吐司機身著比基尼的照片外，他甚至也加入風(fēng)潮，要求 Grok 給自己穿上比基尼?！癙erfect. ”他說。針對媒體們的問詢，xAI 均以自動郵件回復(fù)稱，“Legacy Media Lies（傳統(tǒng)媒體的謊言）?！?/p>

Put her in a bikini

很難搞清楚 X 平臺上的這股“Put her in a bikini”的風(fēng)潮到底是何時興起的，但媒體們開始普遍關(guān)注此事集中在新年前后，也就是圣誕及元旦假期期間。

英國《衛(wèi)報》統(tǒng)計稱，12 月中旬，X 平臺上 Grok 收到的比基尼修改需求平均每天大概只有 10 到 20 個，但月底飆升至超 4 萬個。《衛(wèi)報》引述數(shù)字情報公司 Peryton Intelligence 分析稱，相關(guān)趨勢在新年期間蔓延至全球，1 月 2 日 Grok 共收到近 20 萬個獨立請求。

在新年前后，X 幾乎已成為全球最大的 Deepfake 網(wǎng)站。彭博社引述社交媒體與深度偽造研究專家吉納維芙·吳（Genevieve Oh）的說法稱，1 月 5 日至 6 日的 24 小時中，X 上的 Grok 平均每小時會生成約 6700 張性暗示圖片。

吉納維芙·吳統(tǒng)計了同期市場排名前五的 Deepfake 類網(wǎng)站，稱這些網(wǎng)站平均每小時生成的 AI 脫衣圖片不過 79 張。也就是說，X 平臺上的 Grok 每小時發(fā)布的性暗示圖片是其他網(wǎng)站約 84 倍。

許多女性都深受其害。她們往往只是在 X 平臺上分享了一張個人照片，就被人用 Grok 生成比基尼或者其他性暗示圖片大肆傳播。而一旦她們公開發(fā)表不滿，隨即就會引發(fā)更多報復(fù)。一些用戶會變本加厲地要求 Grok 將照片修改成更色情、更裸露的圖片。

比如美國網(wǎng)紅、與馬斯克育有一子的阿什莉·圣克萊爾（AshleySt.Clair）公開反對相關(guān)行為后，就有人開始用她幼年圖片生成比基尼照片。前段時間，一名女性在美國明尼蘇達(dá)州被移民及海關(guān)執(zhí)法局槍殺，槍擊現(xiàn)場照片在 X 平臺傳播后，甚至有人利用 Grok 生成遇害者身著比基尼的照片。

網(wǎng)絡(luò)觀察基金會對外表示，他們在一個暗網(wǎng)論壇上發(fā)現(xiàn)了未成年人的色情化圖片，上傳者聲稱這些圖片都是用 Grok 制作的。網(wǎng)絡(luò)觀察基金會是一個專注于打擊兒童色情類內(nèi)容的非盈利組織，該組織負(fù)責(zé)人對外表示，像 Grok 這樣的工具現(xiàn)在有可能將兒童 AI 色情圖像帶入主流。

歐洲非盈利組織 AI Forensics 分析了 Grok 生成的 2 萬多張圖片以及 12 月 25 日至 1 月 1 日期間的近 5 萬個用戶請求，指出 Grok 生成的人物圖像中，超過一半的人物身著暴露，其中 81% 的圖像為女性，且有 2% 的圖像人物似乎未滿 18 歲。

元旦假期之后，多個國家監(jiān)管部門開始著手對 Grok 及 X 平臺上的 AI 色情泛濫展開調(diào)查。歐盟委員會公開表示不滿且譴責(zé) X 平臺，歐盟數(shù)字事務(wù)發(fā)言人托馬斯·雷尼耶（Thomas Regnier）稱，Grok 的 Spicy 模式根本不是什么刺激，而是違法且令人作嘔的。

包括英國、法國、印度、巴西、澳大利亞等多國監(jiān)管機構(gòu)開始對 Grok 及 X 平臺展開調(diào)查或計劃采取相關(guān)限制措施，印尼及馬來西亞分別于 1 月 10 日及 11 日暫時封禁 Grok。美國亦有部分參議員呼吁蘋果及谷歌將 X 與 Grok 應(yīng)用從應(yīng)用商店下架。

馬來西亞宣布封禁 Grok

僅供付費用戶使用

馬斯克最早對平臺上的“Put her in a bikini”風(fēng)潮不以為然，甚至主動玩梗。

除了轉(zhuǎn)發(fā)吐司機及他自己身著比基尼的照片外，他也轉(zhuǎn)發(fā)過微軟創(chuàng)始人比爾·蓋茨、英國首相基爾·斯塔默等名人身著比基尼的照片。一位 X 用戶發(fā)帖吐槽說，自己的時間線仿佛變成了充斥著比基尼女郎的酒吧，馬斯克用一個笑哭的表情回應(yīng)。

但隨著事態(tài)發(fā)展愈發(fā)嚴(yán)重，馬斯克也不得不收起調(diào)侃口吻，開始正面回應(yīng)平臺爭議。但他似乎并不認(rèn)為平臺應(yīng)當(dāng)承擔(dān)責(zé)任，他對外強調(diào)，“任何使用 Grok 制作非法內(nèi)容的人，都將面臨與上傳非法內(nèi)容相同的后果?！?/p>

馬斯克及 X 的對外回復(fù)

緊接著，X 也公開對外表示，他們將針對平臺上的非法內(nèi)容如兒童性虐待采取行動，包括刪除相關(guān)內(nèi)容、永久封禁賬號及與當(dāng)?shù)卣蛨?zhí)法部門合作等，試圖對外表明平臺態(tài)度。此后，X 限制了平臺內(nèi) Grok 的使用范圍，只有付費訂閱用戶才可以在 X 中使用 Grok 的圖像生成和編輯功能。

但這些回應(yīng)和限制措施并未平息爭議。批評者認(rèn)為，馬斯克試圖將責(zé)任歸咎于使用 Grok 制作“AI 脫衣”圖像的用戶，卻回避了平臺應(yīng)承擔(dān)的審核與治理責(zé)任。

X 此后將圖像生成功能限制為僅向付費用戶開放，更進一步引發(fā)外界質(zhì)疑，好似這些功能更能刺激平臺拉高訂閱收入。此外，Grok 的圖像生成功能雖不在 X 平臺免費開放，但在 Grok 應(yīng)用內(nèi)仍可免費使用。

面對多國監(jiān)管機構(gòu)的批評和調(diào)查舉措，馬斯克的反應(yīng)更為激烈，不止一次地批評其他國家對 Grok 和 X 的限制是在打壓言論自由。尤其在英國首相斯塔默等人譴責(zé) Grok 并要求 Ofcom 采取行動后，馬斯克甚至直接稱呼英國政府為“法西斯”，怒罵英國是“監(jiān)獄島”。

馬斯克轉(zhuǎn)發(fā)英國首相斯塔默身著比基尼照片，并稱對方打壓言論自由

他舉出的佐證之一是 Gemini 及 ChatGPT 等 AI 應(yīng)用也均能將人物圖片修改為身著比基尼的照片，但只有 Grok 和 X 陷入爭議，稱“他們想方設(shè)法地尋找審查制度的借口?！?/p>

馬斯克轉(zhuǎn)發(fā) Gemini 及 ChatGPT 均能生成身著比基尼照片

過去一周，除了轉(zhuǎn)發(fā)各類支持者們的言論外，馬斯克做的最多的就是不遺余力地對外轉(zhuǎn)發(fā) Grok 在多國應(yīng)用商店下載榜登頂?shù)奶?，“Grok 正在越來越多的國家排名第一?！?/p>

馬斯克或許忽略了 Grok 與 Gemini 或者 ChatGPT 的不同。Grok 直接內(nèi)置在 X 平臺中—— X 至今仍然是全球最大的社交媒體之一，每天有數(shù)以萬計的用戶在 X 上分享照片，用戶無需跳轉(zhuǎn)就可以直接在評論區(qū)中利用 Grok 來生成圖像，傳播力度和便捷程度都要比后兩者大得多，更遑論 Gemini 或 ChatGPT 在隱私保護和色情內(nèi)容限制上都要比 Grok 更加嚴(yán)苛。

Grok 在色情內(nèi)容上爭議性似乎也是由馬斯克一手造成的。他治下的 Grok 最早就是以毒舌、大膽著稱，馬斯克自己也不止一次地對外反對 AI 的政治正確。在此次的色情爭議之前，Grok 也曾因反猶及法西斯言論引起爭議。

CNN 此前報道稱，在 X 平臺上 “Put her in a bikini”大肆泛濫前幾周，馬斯克在一次 xAI 的內(nèi)部會議上對團隊表達(dá)不滿，要求放松對 Grok 圖像生成的內(nèi)容限制。此后，三位 xAI 安全團隊的核心人員辭職離開，包括產(chǎn)品安全主管和法務(wù)主管。

The Information 去年 11 月報道稱，X 裁掉了半數(shù)負(fù)責(zé)信任和安全問題的工程團隊員工。The Information 還報道稱，X 員工擔(dān)心 Grok 的圖像生成功能“可能導(dǎo)致非法或其他有害圖像的傳播”。

AI 的責(zé)任與邊界

此次 X 及 Grok 深陷的色情內(nèi)容爭議，或許可以被寬泛地歸類于 DeepFake（深度偽造）類色情內(nèi)容在 AI 時代下的大范圍復(fù)蘇。

在生成式 AI 崛起之前，DeepFake 類色情內(nèi)容已經(jīng)在社交網(wǎng)絡(luò)和色情網(wǎng)站上大規(guī)模出現(xiàn)，典型形式是把女明星的臉嫁接到色情視頻演員身上。

2019 年，一款名為 DeepNude 的 AI 工具進一步將這類技術(shù)簡化為“一鍵 AI 脫衣”，用戶上傳女性照片就能生成裸體版本。但發(fā)布不久，DeepNude 就因巨大爭議而不得不下線暫停運行。

此后，類似的 DeepFake 應(yīng)用仍在部分黑灰產(chǎn)網(wǎng)站或 Telegram 群組中流傳，但很少走進大眾視野，也幾乎無法觸達(dá)類似于 Grok 在 X 平臺中的造成的深偽色情泛濫程度。

某種程度上，AI 的技術(shù)進步或許進一步加劇了 DeepFake 色情內(nèi)容的泛濫，甚至部分 AI 公司在模型訓(xùn)練時也會利用大量成人視頻或色情小說數(shù)據(jù)，導(dǎo)致 AI 模型本身也會更容易生成色情化內(nèi)容，比如 Meta 就因爬蟲色情網(wǎng)站視頻而遭到起訴。

AI 公司們或許也很難抵御色情內(nèi)容帶來的巨大流量和商業(yè)價值。姑且不提馬斯克執(zhí)著地要為 Grok 加入 Spicy 模式，將成人內(nèi)容作為 Grok 的標(biāo)簽之一。此前一直對色情避而遠(yuǎn)之的 OpenAI 創(chuàng)始人薩姆·奧爾特曼，也曾對外松口要為成人用戶開放情色內(nèi)容。但截至目前，相關(guān)功能尚未真正上線。

曾在 2020 年至 2024 年間擔(dān)任 OpenAI 產(chǎn)品安全主管的史蒂文·阿德勒（Steven Adler）公開反對奧爾特曼開放情色內(nèi)容。在他看來，OpenAI 開放情色內(nèi)容的做法是將利潤與競爭放在安全之上。微軟人工智能業(yè)務(wù) CEO 穆斯塔法·蘇萊曼（Mustafa Suleyman）也反對 AI 色情內(nèi)容，稱微軟絕不會提供此類服務(wù)。

當(dāng)前的主流 AI 應(yīng)用均對色情內(nèi)容做出了相關(guān)限制，比如谷歌禁止生成兒童性虐待或性剝削內(nèi)容，也不得利用 AI 生成露骨色情內(nèi)容。但在大公司之外，仍有大量初創(chuàng)團隊主動介入 AI 色情領(lǐng)域。Meta 此前曾因違規(guī)投放廣告而起訴一家總部位于香港的成人 AI 公司 CrushAI，該平臺主打提供無過濾的成人 AI 聊天。

去年 9 月，“國內(nèi) AI 服務(wù)涉黃第一案”一審宣判，上海市徐匯區(qū)人民法院一審判決，兩名被告人犯制作淫穢物品牟利罪，分別獲刑四年、一年半。兩名被告人不服判決，已提出上訴。

對于馬斯克來說，這類 AI 色情內(nèi)容或許正是提高 Grok 用戶活躍度的有效手段。自去年年中 Grok 推出 Spicy 模式以來，Grok 下載量與付費用戶數(shù)不斷走高。

根據(jù) Appfigures 的統(tǒng)計，Grok 的去年第三季度的移動端收入已達(dá)到 1850 萬美元，較第一季度增長 400%，增長幅度遙遙領(lǐng)先一眾 AI 應(yīng)用。Appfigures 稱圖像生成功能助推顯著。

過去半個月來 Grok 及 X 雖然屢陷爭議，但相關(guān)下載量同樣飆漲。據(jù)追蹤移動應(yīng)用趨勢的 Apptopia 數(shù)據(jù)顯示，自 1 月 2 日以來，Grok 的每日下載量增長了 54%，而 X 的每日下載量在三日內(nèi)增長了 25%。

過去一周來，Grok 已先后登頂法國、英國、日本、芬蘭、新西蘭、泰國等地 App Store 總榜第一。Grok 在 Google Trends 的搜索熱度也創(chuàng)下過去半年來新高。