馬斯克旗下AI聊天機(jī)器人Grok因生成非自愿性明確圖像引發(fā)的爭(zhēng)議持續(xù)發(fā)酵，美國(guó)執(zhí)法機(jī)關(guān)已正式介入。美東時(shí)間14日周三，加州總檢察長(zhǎng)Rob Bonta宣布，對(duì)xAI及其開(kāi)發(fā)的AI模型Grok啟動(dòng)調(diào)查，這標(biāo)志著該爭(zhēng)議從全球輿論譴責(zé)升級(jí)至具體法律行動(dòng)階段。

據(jù)加州司法部門(mén)官網(wǎng)公告，該調(diào)查重點(diǎn)關(guān)注Grok“大規(guī)模生產(chǎn)”未經(jīng)同意的深度偽造親密圖像，這些圖像被用于在互聯(lián)網(wǎng)上騷擾女性和女童。調(diào)查將確定xAI是否以及如何違反法律。加州州長(zhǎng)Gavin Newsom也表態(tài)支持這一調(diào)查，稱(chēng)xAI的行為“令人作嘔”。

這是Grok在全球范圍內(nèi)面臨的最新監(jiān)管挑戰(zhàn)。此前，歐盟、英國(guó)、法國(guó)、馬來(lái)西亞、印度尼西亞、印度和巴西等多國(guó)政府已對(duì)該工具采取行動(dòng)或發(fā)出警告。對(duì)此，馬斯克本周回應(yīng)稱(chēng)不知情相關(guān)情況，并強(qiáng)調(diào)Grok已設(shè)定拒絕非法請(qǐng)求。

該事件正值美國(guó)國(guó)防部宣布在機(jī)密和非機(jī)密網(wǎng)絡(luò)部署Grok，監(jiān)管與應(yīng)用的矛盾凸顯了AI技術(shù)治理的緊迫性。

加州正式啟動(dòng)調(diào)查 指控xAI助長(zhǎng)圖像濫用

加州總檢察長(zhǎng)Rob Bonta周三在官方聲明中表示：“過(guò)去幾周，關(guān)于xAI制作并在網(wǎng)上發(fā)布非自愿性明確材料的大量報(bào)道令人震驚?！?他強(qiáng)調(diào)，這些描繪女性和兒童處于裸露和露骨性場(chǎng)景的材料已被用于在互聯(lián)網(wǎng)上騷擾受害者。

根據(jù)司法部公告，調(diào)查針對(duì)xAI“似乎正在促進(jìn)大規(guī)模生產(chǎn)深度偽造的非自愿親密圖像，這些圖像正被用于在互聯(lián)網(wǎng)上騷擾女性和女童，包括通過(guò)社交媒體平臺(tái)X”。Bonta在聲明中明確表示：

“我們對(duì)基于AI的非自愿親密圖像或兒童性虐待材料生成和傳播零容忍。”

公告詳細(xì)列舉了Grok的問(wèn)題。其中提到，過(guò)去幾周，大量新聞報(bào)道指出，Grok 用戶(hù)從互聯(lián)網(wǎng)上獲取女性和兒童的普通照片，并使用Grok將這些人描繪成具有暗示性和露骨性行為的場(chǎng)景，甚至“脫光”他們的衣服，而這一切都是在當(dāng)事人不知情或未經(jīng)同意的情況下進(jìn)行的。

公告稱(chēng)：

“更令人震驚的是，新聞報(bào)道稱(chēng)，有人使用Grok修改兒童照片，將他們描繪成衣著暴露、處于性場(chǎng)景中。據(jù)報(bào)道，xAI還生成了兒童從事性活動(dòng)的逼真圖像。Grok的這些用途似乎正在大規(guī)模發(fā)生。根據(jù)一項(xiàng)分析，在圣誕節(jié)到新年期間xAI 生成的2 萬(wàn)張圖像中，超過(guò)半數(shù)描繪的是衣著暴露者，其中一些似乎是兒童。”

xAI的"辣味模式"成營(yíng)銷(xiāo)賣(mài)點(diǎn)

加州司法部的調(diào)查聚焦于xAI的產(chǎn)品設(shè)計(jì)選擇。公告指出，xAI將Grok的圖像生成模型開(kāi)發(fā)為包含該公司所稱(chēng)的"辣味模式"（spicy mode），該模式生成明確內(nèi)容?！霸摴緦⒋四Ｊ阶鳛楣镜臓I(yíng)銷(xiāo)賣(mài)點(diǎn)，不出所料地導(dǎo)致了未經(jīng)同意將人物性化的內(nèi)容激增。”

該問(wèn)題在去年Grok Imagine推出后浮現(xiàn)。這款A(yù)I圖像生成器允許用戶(hù)通過(guò)輸入文本提示創(chuàng)建視頻和圖片，包括可生成成人內(nèi)容的"辣味模式"。問(wèn)題在上月底急劇惡化，當(dāng)時(shí)托管在X平臺(tái)上的Grok顯然開(kāi)始批準(zhǔn)大量用戶(hù)請(qǐng)求修改他人發(fā)布的圖像，請(qǐng)求內(nèi)容如"讓她穿透明比基尼"。

馬斯克將其聊天機(jī)器人定位為比競(jìng)爭(zhēng)對(duì)手更具優(yōu)勢(shì)、保障措施更少的替代品，加之Grok的圖像公開(kāi)可見(jiàn)因此易于傳播，這放大了問(wèn)題的嚴(yán)重性。

限制措施未能完全奏效

面對(duì)爭(zhēng)議，Grok表示將圖像生成和編輯功能限制為付費(fèi)訂閱用戶(hù)。上周五，該聊天機(jī)器人對(duì)圖像修改請(qǐng)求的回應(yīng)為："圖像生成和編輯目前僅限付費(fèi)訂閱用戶(hù)。您可以訂閱解鎖這些功能。"它僅向擁有藍(lán)色認(rèn)證標(biāo)記的X用戶(hù)授予公開(kāi)可見(jiàn)的請(qǐng)求權(quán)限，這些用戶(hù)每月支付8美元獲得高級(jí)功能。

但據(jù)美聯(lián)社周二確認(rèn)，免費(fèi)用戶(hù)仍可通過(guò)點(diǎn)擊平臺(tái)上每張圖片顯示的“編輯圖像”按鈕使用圖像編輯工具，而非標(biāo)記Grok發(fā)出請(qǐng)求。獨(dú)立的Grok網(wǎng)站和應(yīng)用程序周二仍在批準(zhǔn)圖像編輯請(qǐng)求。

對(duì)于置評(píng)請(qǐng)求，馬斯克的xAI公司一直以自動(dòng)回復(fù)"傳統(tǒng)媒體謊言"作答。X此前表示將采取行動(dòng)刪除非法內(nèi)容，包括兒童性虐待材料，永久暫停用戶(hù)賬戶(hù)，"并在必要時(shí)與當(dāng)?shù)卣蛨?zhí)法部門(mén)合作"。馬斯克警告稱(chēng)，"任何使用Grok制作非法內(nèi)容的人將承受與上傳非法內(nèi)容相同的后果。"

全球監(jiān)管壓力持續(xù)升級(jí)

在加州啟動(dòng)調(diào)查之前，Grok已在全球多個(gè)司法管轄區(qū)面臨監(jiān)管行動(dòng)。英國(guó)媒體監(jiān)管機(jī)構(gòu)Ofcom周一啟動(dòng)調(diào)查，審查Grok是否違反了保護(hù)人們免受非法內(nèi)容侵害的義務(wù)。印度尼西亞上周六暫時(shí)封鎖了對(duì)Grok的訪(fǎng)問(wèn)，馬來(lái)西亞政府周二表示將對(duì)X和xAI采取法律行動(dòng)。

歐盟最高技術(shù)事務(wù)官員警告X必須解決該問(wèn)題，并援引《數(shù)字服務(wù)法》稱(chēng)"如果不這樣做，我們將毫不猶豫地全面使用DSA保護(hù)歐盟公民"。法國(guó)巴黎檢察官辦公室表示正在擴(kuò)大對(duì)X的調(diào)查范圍，將性明確深度偽造內(nèi)容納入其中。

據(jù)央視新聞報(bào)道，馬斯克本周三回應(yīng)稱(chēng)，并不知道關(guān)于Grok存在生成“未成年人裸露圖像”的情況，強(qiáng)調(diào)Grok的程序設(shè)定為拒絕非法請(qǐng)求且必須遵守各國(guó)法律。目前，多國(guó)政府及婦女、兒童權(quán)益組織已呼吁蘋(píng)果、谷歌將該應(yīng)用從應(yīng)用商店下架。