據(jù)新華社，就美國企業(yè)家馬斯克名下人工智能企業(yè)xAI的聊天機(jī)器人“格羅克”繼續(xù)允許用戶生成“深度偽造”色情內(nèi)容，英國政府1月9日發(fā)表聲明，呼吁英國通信管理局迅速采取行動，并警告說，如果xAI拒不遵守英國法律，其服務(wù)將面臨在英國被屏蔽的風(fēng)險(xiǎn)。

據(jù)央視新聞，“格羅克”由美國企業(yè)家埃隆·馬斯克旗下人工智能企業(yè)xAI公司開發(fā)，并內(nèi)置于馬斯克旗下社交媒體平臺X。近期，X平臺出現(xiàn)部分用戶利用“格羅克”編輯圖片和視頻的現(xiàn)象，一些用戶借此生成真實(shí)人物的虛假性暴露內(nèi)容，并在X平臺上散播，受害者包括數(shù)百名成年女性和未成年人。

圖片來源：央視新聞

“格羅克”在涉嫌生成色情內(nèi)容引發(fā)廣泛譴責(zé)后，“格羅克”相關(guān)的圖像生成和編輯功能已被更改為僅能由付費(fèi)用戶使用。英國首相府1月9日表示，這對受害者來說是“侮辱性的”。

據(jù)英國天空電視臺網(wǎng)站等媒體報(bào)道，英國首相府發(fā)言人當(dāng)天說，盡管最新服務(wù)變更證明了相關(guān)企業(yè)在想要行動時(shí)可以“迅速采取措施”，但這“不是解決方案”，“只不過是將允許創(chuàng)建非法圖像的人工智能功能變成了一項(xiàng)高級服務(wù)”。

據(jù)報(bào)道，“格羅克”的服務(wù)更改是在英國通信管理局表示已與X平臺“緊急聯(lián)系”后進(jìn)行的。英國首相斯塔默此前稱此事“令人不齒”且“令人作嘔”，他要求該公司“控制住局面”。

圖像生成問題實(shí)際上自Grok Imagine推出后就浮出水面。Grok Imagine是一個AI圖像生成器，允許用戶通過輸入文本提示來創(chuàng)建圖片和視頻。它包含一個所謂的“熱辣模式”，可生成成人內(nèi)容。上月底，隨著“格羅克”開始大量響應(yīng)用戶修改他人發(fā)布圖像的請求，問題迅速擴(kuò)大。

此外，法國、波蘭、印度、馬來西亞和巴西等國的官員及監(jiān)管機(jī)構(gòu)也紛紛對X平臺表示譴責(zé)，并呼吁展開調(diào)查。

據(jù)央視新聞，歐盟委員會發(fā)言人托馬斯·雷尼耶1月8日表示，歐盟委員會已責(zé)令美國社交媒體平臺X保留其內(nèi)置聊天機(jī)器人“格羅克（Grok）”相關(guān)的全部內(nèi)部文件和數(shù)據(jù)，直至2026年年底。

雷尼耶說，歐盟委員會“嚴(yán)肅對待”這一問題，并已決定延長2025年向X平臺發(fā)出的“資料保留”要求。該要求此前主要涉及平臺算法相關(guān)信息以及非法內(nèi)容的傳播與擴(kuò)散情況等。

據(jù)美聯(lián)社6日報(bào)道，xAI公司對其置評請求作出自動回復(fù)：“傳統(tǒng)媒體撒謊”。但X平臺并未否認(rèn)通過“格羅克”生成的有問題內(nèi)容的存在。X平臺在一篇帖子中聲稱會對非法內(nèi)容采取行動，例如刪除內(nèi)容、永久封禁賬戶，并在必要時(shí)與當(dāng)?shù)卣蛨?zhí)法部門合作。

每日經(jīng)濟(jì)新聞綜合新華社、央視新聞