1月15日（UPI）-- 埃隆·馬斯克的xAI宣布，在經歷了幾天受害者和政府的反對后，將停止允許Grok在其圖像編輯功能中編輯真實人物的衣物。

XAI 在周三晚間表示，Grok將不再能夠創(chuàng)建此類圖像。

“我們已經實施了技術手段，以防止Grok賬戶編輯穿著暴露衣物（如比基尼）的真實人物圖像，” xAI在一篇帖子中寫道?！斑@個限制適用于所有用戶，包括付費用戶?！?/p>

周一，英國政府對人工智能聊天機器人涉嫌生成女性和女孩性別化圖像的指控展開了正式調查，甚至生成兒童性虐待材料。同一天，馬來西亞和印度尼西亞開始限制對Grok的使用。1月9日，Grok開始僅向付費訂閱者開放圖像生成服務，但英國政府和受害者表示這還遠遠不夠。

“我并不知道Grok生成過任何未成年裸體圖像。字面上說，數量是零，”馬斯克在周三的一條帖子中說?！帮@然，Grok并不會自發(fā)生成圖像，而是根據用戶的請求來生成。當被要求生成圖像時，它會拒絕生成任何非法內容，因為Grok的操作原則是遵循各國或各州的法律?？赡軙袛硨诳凸鬐rok的提示，導致一些意外情況。如果發(fā)生這種情況，我們會立即修復這個問題?！?/p>

但是，人工智能取證，一個調查數字權利侵犯的歐洲非營利組織，對Grok進行了研究，發(fā)現了許多性別化兒童圖像的實例。

報告指出：“值得注意的是，2%的圖像中描繪了看起來18歲或更年輕的人。通過手動檢查這一子集，我們識別出30張圖像，描繪了年輕甚至非常年輕的女性或女孩，穿著很少，主要是比基尼或透明衣服?！薄恍┥傻膱D像描繪了5歲以下的兒童。’

報告指出，大多數未成年人圖像是青少女的，受到男性用戶的影響。

這些圖像的創(chuàng)作者可能會根據2025年的《刪除法案》面臨罰款或監(jiān)禁的處罰。

加利福尼亞州州長加文·紐瑟姆對xAI的深度偽造表示強烈反對。X和xAI總部位于加利福尼亞州的硅谷。

“xAI決定創(chuàng)建和托管一個讓掠奪者傳播非自愿的露骨AI深度偽造內容，包括將兒童數字化脫衣的圖像，這真是太可惡了，” 他在X上說?！拔液粲鯔z察長立刻對這家公司展開調查，追究xAI的責任?！?/p>

加利福尼亞州檢察長羅布·邦塔也在推特上對此事進行了發(fā)聲：“Grok AI 一直在制作未經同意的深度偽造親密圖像，這些圖像被用來在互聯網上騷擾女性。這種行為是絕對不能接受的。我們要求 xAI 立即給出回應，說明他們停止制作和傳播此類內容的計劃。我們會用盡一切手段來確保加利福尼亞州居民的安全?！?/p>