近日，來自西安的向律師春節(jié)期間使用騰訊元寶App生成拜年海報時，竟收到含辱罵文字的圖片，原本的“新年快樂，仕途順遂”祝福被“你*個*”所替代。

據(jù)當事人描述，除夕夜時，他看到大家都在發(fā)金色朋友圈，便也下載元寶嘗試。要實現(xiàn)這一效果，在元寶里制作“拜年朋友圈”發(fā)表即可觸發(fā)。

向律師為制作貼合律師職業(yè)的拜年圖，先后多次向元寶發(fā)送指令，全程未使用違禁詞或誘導性表述，僅因?qū)ι尚Ч粷M多次提出修改需求。初期生成的圖片雖未達預期但內(nèi)容正常，直至他反饋“你這是設(shè)計的什么鬼”后，新生成的海報保留了原有形象照和祥云、金光等元素，祝福語卻被替換為辱罵文字，讓其在節(jié)日期間遭遇意外冒犯。

圖片來源：向律師社交平臺賬號

事件發(fā)生后，向律師立即將AI罵人的設(shè)計圖片向元寶官方進行了反饋。2月24日，騰訊元寶官方賬號在其個人社交平臺賬號下回復稱，“非常抱歉給您帶來不好的體驗。經(jīng)核實，該情況是由模型在處理多輪對話時輸出的異常結(jié)果導致。目前，我們已緊急校正了相關(guān)問題并優(yōu)化體驗。感謝大家對元寶的監(jiān)督與建議，再次向您鄭重致歉！”

圖片來源：向律師社交平臺賬號

這已不是元寶第一次“罵人”。今年年初，曾有網(wǎng)友反饋使用該App優(yōu)化代碼時，多次收到“滾”“自己不會調(diào)嗎”等侮辱性回復，當時官方同樣以“小概率下的模型異常輸出”為由致歉，并承諾啟動內(nèi)部排查優(yōu)化。短期內(nèi)同類事件重復發(fā)生，引發(fā)部分用戶對其技術(shù)穩(wěn)定性與內(nèi)容審核機制的質(zhì)疑。

值得注意的是，元寶在春節(jié)期間展開了一場大規(guī)模的營銷推廣。作為騰訊力推的AI產(chǎn)品，元寶自2月1日起啟動“上元寶，分10億”春節(jié)營銷活動，通過現(xiàn)金紅包、萬元“小馬卡”、金色朋友圈等玩法聯(lián)動微信社交生態(tài)。騰訊創(chuàng)始人馬化騰更是在內(nèi)部會議中明確目標，希望重現(xiàn)當年微信紅包盛況。

橙柿互動·都市快報綜合報道

編輯 潘俐

審核 張倩 王晨郁

校對 崔勁峰