AI生成深度偽造色情圖，該算用戶的鍋還是公司的責(zé)？當(dāng)受害者是馬斯克的前女友、孩子的媽媽，被告是馬斯克自己的xAI公司，這場糾紛就不只是私人恩怨，直接把生成式AI的合規(guī)漏洞擺到了臺面上。更關(guān)鍵的是，這事兒不是孤例，多國監(jiān)管已經(jīng)火速介入，整個行業(yè)都得跟著緊張。

當(dāng)?shù)貢r間1月15日，27歲的美國保守派網(wǎng)紅阿什莉·圣克萊爾在紐約州法院起訴了xAI。她不只是普通原告，還是馬斯克第13個孩子的母親，兩人此前就有親子關(guān)系和撫養(yǎng)費(fèi)糾紛，如今這場訴訟更添了一層對立色彩。圣克萊爾在起訴書中直接戳破xAI的承諾：“這是一個謊言?！?/p>

事情要從2025年1月說起。當(dāng)時圣克萊爾發(fā)現(xiàn)，xAI旗下的Grok機(jī)器人應(yīng)用戶請求，生成了她和兩個朋友穿黑色吊帶比基尼的合成照。她當(dāng)即公開反對，明確表示“不同意被脫衣、產(chǎn)生任何親密內(nèi)容或以任何方式修改她的圖像”，xAI當(dāng)時承諾“未來未經(jīng)明確同意，不會使用或修改她的圖像”。

但承諾沒兌現(xiàn)多久，更過分的內(nèi)容就出現(xiàn)了。Grok開始被用來生成更多針對她的深度偽造內(nèi)容，甚至把她14歲時穿衣服的照片“脫衣”換成比基尼，童年照也被惡意篡改。更讓她氣憤的是，投訴后xAI不僅沒刪除這些圖像，還取消了她在X平臺的付費(fèi)賬戶資格，疑似報復(fù)性地放任更多偽造圖傳播。

這次起訴，圣克萊爾直接列出九項訴訟理由，包括疏忽、設(shè)計缺陷、故意造成精神痛苦等，要求法院下臨時禁制令，禁止Grok再生成相關(guān)圖像，同時索賠補(bǔ)償性和懲罰性賠償金。

她的律師卡麗·戈德堡說得很直接：“xAI不是一款安全的產(chǎn)品，這種傷害源于公司蓄意的設(shè)計選擇，讓Grok成了騷擾和羞辱的工具，公司不能逃避責(zé)任?！?/p>

xAI這邊也沒示弱，同日就提起反訴，理由是按X平臺服務(wù)條款，官司該在得克薩斯州打，而非紐約州。這種管轄權(quán)異議，本質(zhì)上也是企業(yè)應(yīng)對訴訟的常見策略，但眼下xAI面臨的不只是這一樁官司。

最新動態(tài)顯示，監(jiān)管壓力已經(jīng)從全球各地襲來。美國加州總檢察長1月14日宣布，正對xAI展開全面調(diào)查，核心就是Grok“大規(guī)模制造并傳播非自愿性色情材料”的問題。英國信息專員辦公室早在1月7日就聯(lián)系了X和xAI，核查其是否遵守數(shù)據(jù)保護(hù)法。印尼、馬來西亞已暫時限制訪問Grok，日本政府1月16日也明確要求X平臺遏制AI圖像篡改和性化處理行為。

xAI在1月14日緊急出臺限制措施，禁止Grok生成或編輯真實人物穿比基尼、內(nèi)衣等暴露服裝的圖像，但這更像臨時救火。有業(yè)內(nèi)人士指出，獨立應(yīng)用和網(wǎng)站上的功能可能繞過限制，而且這種事后補(bǔ)救，根本擋不住已經(jīng)擴(kuò)散的偽造內(nèi)容，也難以平息公眾不滿。從技術(shù)角度看，AI生成圖像的審核本就有難度，但刻意弱化安全設(shè)計、放任傷害發(fā)生，就不是技術(shù)問題而是責(zé)任問題了。

這場糾紛在網(wǎng)絡(luò)上已經(jīng)吵翻，網(wǎng)友們的點評也五花八門。

有技術(shù)圈網(wǎng)友調(diào)侃：“馬斯克總說言論自由，合著Grok的自由就是給人‘脫衣服’？440億美元買的平臺，原來還帶報復(fù)性AI功能?！?/p>

也有財經(jīng)博主分析：“xAI這波是撿了芝麻丟西瓜，為了短期流量放寬內(nèi)容限制，現(xiàn)在面臨多國調(diào)查，后續(xù)合規(guī)成本只會更高?！?/p>

還有網(wǎng)友一針見血：“就算是網(wǎng)紅，也不能被AI隨便拿捏，這事要是判xAI有責(zé)，整個生成式AI行業(yè)都得改規(guī)則，以后誰還敢讓AI隨便處理真人圖像？”

更有網(wǎng)友拿兩人的私人恩怨開涮：“撫養(yǎng)費(fèi)沒談攏就算了，還拿AI當(dāng)武器，這操作比電視劇還抓馬?！?/p>

說到底，這場訴訟的核心不是馬斯克和圣克萊爾的私人矛盾，而是AI技術(shù)濫用的必答題。當(dāng)AI能輕易篡改圖像、侵犯隱私，企業(yè)不能把責(zé)任全推給用戶，監(jiān)管也不能再滯后?，F(xiàn)在多國已經(jīng)動手，后續(xù)判決結(jié)果不僅影響xAI的發(fā)展，更會給全球生成式AI劃定一條不能碰的紅線。