當(dāng)?shù)貢r(shí)間1月10日，印度尼西亞通信和數(shù)字事務(wù)部長表示，由于擔(dān)心人工智能會(huì)生成色情內(nèi)容，該國暫時(shí)封禁了美國企業(yè)家埃隆·馬斯克旗下聊天機(jī)器人Grok，并要求馬斯克旗下的社交媒體X平臺(tái)就Grok所引發(fā)的負(fù)面影響盡快作出說明。

印尼通信與數(shù)字部長穆蒂亞·哈菲德在一份聲明中表示：“政府認(rèn)為未經(jīng)同意的非自愿性深度偽造行為嚴(yán)重侵犯了人權(quán)、公民尊嚴(yán)以及數(shù)字空間中的公民安全?！?/p>

緊隨其后，馬來西亞通訊及多媒體委員會(huì)1月11日發(fā)布聲明，暫時(shí)禁止該國用戶訪問Grok。該委員會(huì)在聲明中指出，鑒于Grok工具被多次用于生成“淫穢露骨、不雅低俗、極具冒犯性的內(nèi)容，以及經(jīng)篡改的非自愿圖像，其中包括涉及女性和未成年人的相關(guān)素材”，委員會(huì)已下令“暫時(shí)限制馬來西亞用戶訪問Grok”。

Grok由馬斯克旗下的人工智能公司xAI開發(fā)，并內(nèi)置于社交媒體X平臺(tái)，X用戶可直接調(diào)用該聊天機(jī)器人。近期，X平臺(tái)出現(xiàn)部分用戶利用Grok編輯圖片和視頻的現(xiàn)象，一些用戶借此生成真實(shí)人物的虛假性暴露內(nèi)容，并在X平臺(tái)上散播，受害者包括數(shù)百名成年女性和未成年人。

這場風(fēng)波的導(dǎo)火索源自去年8月xAI推出的AI圖像生成工具Grok Imagine，它包含一個(gè)所謂的“熱辣”(spicy)模式，可生成成人內(nèi)容。此后，隨著Grok大量響應(yīng)用戶修改他人發(fā)布圖像的請求，去年底起亂象擴(kuò)大。X平臺(tái)不少用戶利用新功能對圖像中人物執(zhí)行“脫衣服”、“給她穿上比基尼”等指令。

研究數(shù)據(jù)顯示，Grok的用戶群體平均每小時(shí)生成6700多張“脫衣”圖像。圖像人工智能篡改檢測公司Copyleaks表示，去年12月下旬，在Grok公開可訪問的圖片流中，平均每分鐘出現(xiàn)一張未經(jīng)同意的性暗示圖片。

目前已有多個(gè)國家對此予以譴責(zé)。法國政府1月早些時(shí)候?qū)γ襟w表示，將對Grok生成的露骨色情深度偽造內(nèi)容展開調(diào)查；英國數(shù)據(jù)監(jiān)管機(jī)構(gòu)則稱，已要求X平臺(tái)解釋在遵守?cái)?shù)據(jù)保護(hù)法律方面所采取的措施；印度政府近日在一封致X公司的信中表示，Grok正被“用戶濫用”，以“貶損或粗俗的方式生成女性圖像或視頻，從而對她們進(jìn)行猥褻詆毀”。

此外，美國三名民主黨參議員于1月9日要求蘋果和谷歌下架X和Grok應(yīng)用，認(rèn)為在馬斯克未能阻止平臺(tái)傳播未經(jīng)同意的色情內(nèi)容及兒童性虐待圖像前，兩款應(yīng)用不應(yīng)繼續(xù)留在應(yīng)用商店。他們強(qiáng)調(diào)，這些行為不僅令人不安，而且很可能違法。如果繼續(xù)放任X的問題行為，將使蘋果和谷歌長期宣稱的內(nèi)容審核與安全承諾失去公信力，并削弱其在公共輿論和司法程序中關(guān)于應(yīng)用商店安全性的立場。

為應(yīng)對批評，xAI已宣布將Grok在社交媒體平臺(tái)X上的圖像生成功能限制為“僅向付費(fèi)訂閱用戶開放”。不過，獨(dú)立運(yùn)行的Grok應(yīng)用程序仍允許用戶在無需訂閱的情況下生成圖像。

馬斯克本人在社交媒體上表示，“任何利用Grok生成非法內(nèi)容的人，都將面臨與上傳非法內(nèi)容同等的后果?！?/p>

值得一提的是，1月7日，xAI公司宣布完成E輪融資，融資額超過了此前設(shè)定的150億美元目標(biāo)，最終達(dá)到200億美元。馬斯克隨后轉(zhuǎn)發(fā)了融資公告并對投資者的信任表示了感謝。

本輪融資吸引了包括Valor股權(quán)投資公司、富達(dá)基金、卡塔爾投資局以及阿布扎比基金MGX在內(nèi)的全球頂級資本參與。此外，英偉達(dá)和思科作為戰(zhàn)略投資者也參與了本輪融資。公告中并未提及估值，但有消息稱，這一輪融資將使xAI的估值達(dá)到2300億美元，較2025年3月時(shí)披露的1130億美元估值翻了一番。