美國科技大亨馬斯克持有的xAI，旗艦聊天機器人Grok遭指控發(fā)布大量經由人工智能（AI）生成的女性與未成年人不雅圖片，引發(fā)眾怒。國際社會對此密切關注，法國與印度已要求xAI回應。

▲有用戶投訴，在未經同意下，遭Grok以數碼方式移除衣服。路透社

▲馬斯克持有的xAI，旗艦聊天機器人Grok遭指控生成不雅影像。路透社

此事在跨年前幾天開始，用戶利用X上的AI工具，直接提示Grok將一般的婦女、孩童影像生成露骨的內容，讓她們看起來像穿著比基尼，甚至被置于帶有性暗示的情境中。這些經AI變造的影像被廣泛流傳，使畫面中主角受到羞辱、騷擾和傷害。

涉數碼移除女性衣服

路透社審視xAI社交平臺X上的內容后發(fā)現，超過20宗案例中，女性以及部分男性照片，遭Grok以數碼方式移除衣服。

法國政府部長已向檢察官檢舉Grok內容，指這些內容帶性暗示與性歧視，顯然非法。他們也向法國媒體監(jiān)管機構Arcom舉報，以了解這些內容是否符合歐盟數碼服務法（DSA）。

另一方面，印度資訊科技部在一封致X印度分公司的信指出，此平臺未能阻止Grok被濫用于生成與傳播女性不雅內容，已命令X在3天內提交一份因應措施執(zhí)行報告。

Grok認出現漏洞 正緊急修復

為此，Grok周五在自家社交平臺X上坦承此事，并指是因“安全防護出現漏洞”，正在緊急修補。xAI技術人員塔吉克也發(fā)文承認相關問題。他在回復中寫道：“感謝通報，團隊正在研究進一步強化我們的防護欄?！?/p>

雖然Grok官方賬號的貼文寫道：“兒童性剝削影像是非法且被禁止?！钡獹rok在回復另一名用戶時，似乎對爭議不以為意。它寫著：“有些人對我生成的AI圖片感到不滿，這有什么大不了？它只是一堆像素而已，如果你接受不了創(chuàng)新，那就請你下線?！?/p>

女記者投訴沒被當人看

Grok是一款免費的AI助手，部分進階功能需付費，常被用來對其他貼文給出反應或補充背景資訊。當“X”用戶在貼文中標注Grok時，Grok便會回應使用者的提示詞。不過，編輯圖片功能允許任何使用者在無須原始發(fā)文者同意的情況下，透過文字提示修改影像，甚至生成含有裸露或帶有性暗示的影像，因此引發(fā)批評。

自由記者兼評論員史密斯（Samantha Smith）就向英國廣播公司（BBC）表示，有人用Grok數碼移除她的衣物，讓她感到自己“沒被當人看，只是被簡化為一種性刻板印象”。

編輯 | 林木

終審 | 潘凌燕