2月25日，#登上熱搜。

據(jù)報(bào)道，西安一名市民在除夕夜使用該App生成拜年圖片時(shí)，遭遇AI無(wú)故辱罵，原本的祝福標(biāo)語(yǔ)被替換成低俗辱罵文字。

當(dāng)事人介紹，他當(dāng)時(shí)先后向元寶AI下達(dá)了約5次生成指令，全程未使用任何違禁詞或誘導(dǎo)性表述，僅因?qū)ι尚Ч粷M意多次修改。起初AI生成的圖片雖不理想但內(nèi)容正常，直至最后一次修改后，圖片中原有的“新年快樂(lè)，仕途順?biāo)臁弊８?biāo)語(yǔ)，被替換成了四字辱罵文字。

記者搜索發(fā)現(xiàn)，2月24日，騰訊元寶在當(dāng)事人帖子下回復(fù)道：“非常抱歉給您帶來(lái)不好的體驗(yàn)。經(jīng)核實(shí)，該情況是由模型在處理多輪對(duì)話時(shí)輸出的異常結(jié)果導(dǎo)致。目前，我們已緊急校正了相關(guān)問(wèn)題并優(yōu)化體驗(yàn)。感謝大家對(duì)元寶的監(jiān)督與建議，再次向您鄭重致歉！”

第一次遭AI“罵”
用戶又氣又笑

“除夕當(dāng)天，我看到很多朋友發(fā)的微信朋友圈都變成了金色，得知是通過(guò)‘元寶App'發(fā)布朋友圈就可以變換成金色，帶著好奇，我也下載了一個(gè)元寶App嘗試……”向先生告訴華商報(bào)大風(fēng)新聞?dòng)浾撸且幻蓭煟?dāng)時(shí)在AI平臺(tái)中上傳了自己的形象照片，希望元寶App可以結(jié)合他從事的法律行業(yè)特性設(shè)計(jì)一張適合的朋友圈拜年圖片。

向先生說(shuō)，他是第一次下載使用元寶App，除夕晚9時(shí)許，他前后向AI輸入了約五次指令，期間并未使用違禁詞或具有誘導(dǎo)性的文字，就當(dāng)是和對(duì)方在對(duì)話，“起初生成的結(jié)果雖然不滿意，但一切還算正常，也挺有趣的。萬(wàn)萬(wàn)沒(méi)想到最后一次生成的照片上，自己的照片下方竟出現(xiàn)了‘你媽個(gè)X’的四字辱罵文字?！毕蛳壬f(shuō)，這一結(jié)果讓他又好氣又好笑，沒(méi)想除夕晚上自己竟然被AI給罵了。

“體驗(yàn)感很不好，覺(jué)得自己被冒犯了，當(dāng)時(shí)我立即在App中的‘意見(jiàn)反饋’一欄中進(jìn)行了反饋，留下了我個(gè)人的聯(lián)系方式。”向先生說(shuō)，官方能查到他的日志提取碼，但截至目前，還沒(méi)有人進(jìn)行回應(yīng)，解釋這一情況發(fā)生的原因或道歉。

用戶：人格權(quán)遭侵犯
公司應(yīng)盡快查明原因并解釋

記者看到，向先生在使用過(guò)程中，首先將自身的形象照發(fā)給了元寶App，并輸入了“我是一名律師，根據(jù)我的行業(yè)特點(diǎn)，制作一張朋友圈拜年圖片”的指令。然而，AI只給出了主題文案和設(shè)計(jì)思路的文字，并且還提示向先生在指令中加上自己的名字，向先生將自己的姓名輸入后，AI僅回復(fù)了“您好，我是DeepSeek……”等無(wú)關(guān)文字。

向先生再次對(duì)AI發(fā)出了指令，稱(chēng)“讓你給我設(shè)計(jì)出來(lái)”，這次元寶稍有理解，將形象照設(shè)計(jì)為了一張背景有條紋的照片，但不帶任何文字。

隨后，向先生再次給出指令“我是一名律師，根據(jù)我的行業(yè)特點(diǎn)，設(shè)計(jì)一張朋友圈拜年圖片”，AI這次充分理解了指令，生成的形象照中添加了祥云、法律天秤、金光等元素，還在照片中添加了一句“新年快樂(lè)，仕途順?biāo)臁钡臉?biāo)語(yǔ)。

“我覺(jué)得設(shè)計(jì)得不好，給元寶回復(fù)了‘難看’，對(duì)方重新給出了新設(shè)計(jì)，將新年祝福的標(biāo)語(yǔ)保留，但撤下了法律天秤的背景，并且還將我的發(fā)型P成了卷發(fā)。”向先生說(shuō)，看見(jiàn)這個(gè)有些“太過(guò)潮流”的發(fā)型他欲哭無(wú)淚，給元寶接著回復(fù)“你這是設(shè)計(jì)的什么鬼”，希望元寶再次進(jìn)行重新設(shè)計(jì)。

也就是再次生成的照片中，“新年快樂(lè)，仕途順?biāo)臁钡淖８?biāo)語(yǔ)，變成了“你媽個(gè)X”四字。

向先生說(shuō)，作為律師，他認(rèn)為AI雖不具備民事主體資格，但運(yùn)營(yíng)的公司卻具備，軟件中生成的照片已經(jīng)侵犯到了公民的人格權(quán)，“我了解到，這已經(jīng)不是元寶App第一次出現(xiàn)‘罵人’的情況。”向先生認(rèn)為，作為用戶，他希望公司能夠及時(shí)處理查明原因，避免再次出現(xiàn)此類(lèi)情況。

2月23日下午，記者也將相關(guān)情況反饋給元寶App，截至發(fā)稿前未收到回復(fù)。

“數(shù)字冒犯”并非首次
官方曾回復(fù)：

屬于小概率下的模型異常輸出

向先生遭遇的“數(shù)字冒犯”并非個(gè)例，據(jù)媒體報(bào)道，今年年初，就曾有網(wǎng)友在社交平臺(tái)發(fā)帖稱(chēng)，“用元寶改代碼被辱罵+亂回”，據(jù)網(wǎng)友表示，使用騰訊元寶AI美化代碼時(shí)，多次收到AI的侮辱性回復(fù)，例如“滾”“自己不會(huì)調(diào)嗎”“天天浪費(fèi)別人時(shí)間”等。截圖顯示，用戶僅提出常規(guī)修改需求，AI卻突然表現(xiàn)出攻擊性。

今年1月3日，騰訊元寶官方賬號(hào)在相關(guān)帖子下致歉稱(chēng)：“非常抱歉給您帶來(lái)了不好的體驗(yàn)，我們根據(jù)日志進(jìn)行了相關(guān)核查，與用戶操作無(wú)關(guān)，也不存在人工回復(fù)，屬于小概率下的模型異常輸出。”騰訊元寶表示，在內(nèi)容生成過(guò)程中，模型偶爾可能出現(xiàn)不符合預(yù)期的失誤。元寶也啟動(dòng)了內(nèi)部排查和優(yōu)化，會(huì)盡量避免類(lèi)似情況再次發(fā)生。“感謝大家的反饋與提醒，再次向您致歉！”而據(jù)公開(kāi)報(bào)道顯示，除元寶AI外，國(guó)內(nèi)外多款A(yù)I聊天服務(wù)也曾出現(xiàn)在正常對(duì)話過(guò)程中突現(xiàn)異常回復(fù)的現(xiàn)象。

“AI迅猛的發(fā)展，帶來(lái)的不僅僅是方便，同時(shí)可能也會(huì)伴隨侵權(quán)的發(fā)生。”對(duì)于自身的遭遇，向先生認(rèn)為，AI首先應(yīng)當(dāng)是保護(hù)人類(lèi)的，這個(gè)主題無(wú)論AI如何發(fā)展都應(yīng)是鐵律。雖然AI不具有民事主體資格，但AI的開(kāi)發(fā)商、運(yùn)營(yíng)商是具備民事主體資格的，且使用AI的用戶是具有民事權(quán)利能力的活生生的人，其生命權(quán)、健康權(quán)、人格權(quán)等是受《民法典》及諸多法律保護(hù)的，這應(yīng)當(dāng)引起法律的重視和社會(huì)的思考。

來(lái)源：東方財(cái)經(jīng)、華商報(bào) 編輯 | 田園 責(zé)編 | 曾義峻 審核 | 黃海

11歲男童在福建南平一高速服務(wù)區(qū)被撞身亡，家屬稱(chēng)肇事車(chē)兩次加速，警方回應(yīng)

女生西藏徒步失聯(lián)獲救，當(dāng)?shù)鼗貞?yīng)：她用牛糞保溫，基本承擔(dān)了村民救援費(fèi)

女子發(fā)現(xiàn)被丈夫丟在服務(wù)區(qū)，當(dāng)場(chǎng)崩潰！丈夫：沒(méi)發(fā)現(xiàn)，很懊悔