2月25日，。

據(jù)報(bào)道，西安一名市民在除夕夜使用該App生成拜年圖片時，遭遇AI無故辱罵，原本的祝福標(biāo)語被替換成低俗辱罵文字。

當(dāng)事人介紹，他當(dāng)時先后向元寶AI下達(dá)了約5次生成指令，全程未使用任何違禁詞或誘導(dǎo)性表述，僅因?qū)ι尚Ч粷M意多次修改。起初AI生成的圖片雖不理想但內(nèi)容正常，直至最后一次修改后，圖片中原有的“新年快樂，仕途順?biāo)臁弊８?biāo)語，被替換成了四字辱罵文字。

小編搜索發(fā)現(xiàn)，2月24日，騰訊元寶在當(dāng)事人帖子下回復(fù)道：“非常抱歉給您帶來不好的體驗(yàn)。經(jīng)核實(shí)，該情況是由模型在處理多輪對話時輸出的異常結(jié)果導(dǎo)致。目前，我們已緊急校正了相關(guān)問題并優(yōu)化體驗(yàn)。感謝大家對元寶的監(jiān)督與建議，再次向您鄭重致歉！”

“除夕當(dāng)天，我看到很多朋友發(fā)的微信朋友圈都變成了金色，得知是通過‘元寶App’發(fā)布朋友圈就可以變換成金色，帶著好奇，我也下載了一個元寶App嘗試……”向先生告訴記者，他是一名律師，當(dāng)時在AI平臺中上傳了自己的形象照片，希望元寶App可以結(jié)合他從事的法律行業(yè)特性設(shè)計(jì)一張適合的朋友圈拜年圖片。

向先生說，他是第一次下載使用元寶App，除夕晚9時許，他前后向AI輸入了約五次指令，期間并未使用違禁詞或具有誘導(dǎo)性的文字，就當(dāng)是和對方在對話，“起初生成的結(jié)果雖然不滿意，但一切還算正常，也挺有趣的。萬萬沒想到最后一次生成的照片上，自己的照片下方竟出現(xiàn)了‘你媽個X’的四字辱罵文字?！毕蛳壬f，這一結(jié)果讓他又好氣又好笑，沒想除夕晚上自己竟然被AI給罵了。

“數(shù)字冒犯”并非首次

官方曾回復(fù)：

屬于小概率下的模型異常輸出

向先生遭遇的“數(shù)字冒犯”并非個例，據(jù)媒體報(bào)道，今年年初，就曾有網(wǎng)友在社交平臺發(fā)帖稱，“用元寶改代碼被辱罵+亂回”，據(jù)網(wǎng)友表示，使用騰訊元寶AI美化代碼時，多次收到AI的侮辱性回復(fù)，例如“滾”“自己不會調(diào)嗎”“天天浪費(fèi)別人時間”等。截圖顯示，用戶僅提出常規(guī)修改需求，AI卻突然表現(xiàn)出攻擊性。

今年1月3日，騰訊元寶官方賬號在相關(guān)帖子下致歉稱：“非常抱歉給您帶來了不好的體驗(yàn)，我們根據(jù)日志進(jìn)行了相關(guān)核查，與用戶操作無關(guān)，也不存在人工回復(fù)，屬于小概率下的模型異常輸出?！彬v訊元寶表示，在內(nèi)容生成過程中，模型偶爾可能出現(xiàn)不符合預(yù)期的失誤。元寶也啟動了內(nèi)部排查和優(yōu)化，會盡量避免類似情況再次發(fā)生。“感謝大家的反饋與提醒，再次向您致歉！”而據(jù)公開報(bào)道顯示，除元寶AI外，國內(nèi)外多款A(yù)I聊天服務(wù)也曾出現(xiàn)在正常對話過程中突現(xiàn)異?；貜?fù)的現(xiàn)象。

“AI迅猛的發(fā)展，帶來的不僅僅是方便，同時可能也會伴隨侵權(quán)的發(fā)生。”對于自身的遭遇，向先生認(rèn)為，AI首先應(yīng)當(dāng)是保護(hù)人類的，這個主題無論AI如何發(fā)展都應(yīng)是鐵律。雖然AI不具有民事主體資格，但AI的開發(fā)商、運(yùn)營商是具備民事主體資格的，且使用AI的用戶是具有民事權(quán)利能力的活生生的人，其生命權(quán)、健康權(quán)、人格權(quán)等是受《民法典》及諸多法律保護(hù)的，這應(yīng)當(dāng)引起法律的重視和社會的思考。

聲明

本文來 源于紅星新聞、東方財(cái)經(jīng)、華商報(bào)。以 上圖 文，貴在分享，版權(quán) 歸原作者及原出處所有，內(nèi)容僅為作者觀點(diǎn)，并不代表本公 眾號立場。如涉及版權(quán)等問題，請及時與我們聯(lián)系。

本文編輯：CHEN°

責(zé)任編輯：林美妮