近日，西安的向律師在社交平臺(tái)分享了一則今年春節(jié)假期期間的經(jīng)歷——使用元寶生成個(gè)人拜年海報(bào)，但生成的海報(bào)中卻有罵人的臟話。此事經(jīng)華商報(bào)報(bào)道后引起熱議，有網(wǎng)友表示“任何發(fā)明創(chuàng)造都有兩面性”“元寶罵人好像不是第一回了”“帶情緒的元寶”。

圖片來源：向律師社交平臺(tái)賬號(hào)

2月25日，向律師告訴紅星新聞?dòng)浾?，自己之前從未接觸過元寶，除夕當(dāng)天看到很多友人發(fā)的微信朋友圈都變成金色，得知是通過元寶發(fā)布朋友圈就可以變換成金色，帶著好奇他也下載了元寶App準(zhǔn)備嘗試，但“魔幻”的事就此展開了……

向律師表示，他想用自己的形象照，讓元寶結(jié)合法律行業(yè)特性，設(shè)計(jì)一張適合的朋友圈拜年圖片?！拔野盐业男蜗笳瞻l(fā)布給了元寶，然后給元寶說了‘我是一名律師，根據(jù)我的行業(yè)特點(diǎn)，制作一張朋友圈拜年圖片’的指令?！庇浾攉@得的聊天記錄顯示，最開始元寶并沒有理解向律師的指令信息，隨后向律師再次發(fā)出更為明確的“讓你給我設(shè)計(jì)出來”指令，隨后得到一張帶有條紋背景的形象照。

▲向律師與元寶溝通的聊天截圖

之后，向律師再次給出指令“我是一名律師，根據(jù)我的行業(yè)特點(diǎn)，設(shè)計(jì)一張朋友圈拜年圖片”，元寶這次生成的形象照后面了加了祥云、法律天平、金光等元素，還給了一句“新年快樂，仕途順?biāo)臁弊鳛樽８ＵZ。向律師覺得設(shè)計(jì)得不好，幾番重新交流后，向律師回復(fù)元寶“你這是設(shè)計(jì)的什么鬼”，隨后新生成的海報(bào)和上一張相比，元素沒有任何改變，發(fā)型依然存在，但圖片上的“新年快樂，仕途順?biāo)臁眳s改成了“你*個(gè)*”。

▲向律師與元寶溝通的聊天截圖

向律師說，新春佳節(jié)除夕夜，本應(yīng)該是高興的日子，卻遭遇“AI罵人”。他當(dāng)時(shí)就將罵人的設(shè)計(jì)圖片向元寶官方進(jìn)行了反饋，并且留了電話。

記者了解到，騰訊元寶官方賬號(hào)于昨日已在向律師社交賬號(hào)下留言，解釋原因并表示歉意。

25日，記者從騰訊方面獲悉，經(jīng)核實(shí)，該情況是由模型在處理多輪對(duì)話時(shí)輸出的異常結(jié)果導(dǎo)致。目前，元寶團(tuán)隊(duì)已緊急校正了相關(guān)問題并優(yōu)化體驗(yàn)。元寶團(tuán)隊(duì)表示，感謝大家對(duì)元寶的監(jiān)督與建議，再次向用戶鄭重致歉。

這似乎不是元寶第一次“發(fā)火”：此前有網(wǎng)友在社交平臺(tái)發(fā)帖稱，“用元寶改代碼被辱罵+亂回”，據(jù)網(wǎng)友表示，使用騰訊元寶AI美化代碼時(shí)，多次收到AI的侮辱性回復(fù)，例如“滾”“自己不會(huì)調(diào)嗎”“天天浪費(fèi)別人時(shí)間”等。截圖顯示，用戶僅提出常規(guī)修改需求，AI卻突然表現(xiàn)出攻擊性。

當(dāng)時(shí)騰訊元寶官方賬號(hào)在評(píng)論區(qū)回復(fù)稱，“非常抱歉給您帶來不好的體驗(yàn)，先打個(gè)包票：元寶絕對(duì)是純純的AI，沒有真人回復(fù)！針對(duì)這個(gè)問題，我們也盡快排查定位，給您一個(gè)反饋。您看可以在APP提交下日志嗎？我們排查下。方便的話，辛苦您在【設(shè)置】-【意見反饋】填寫簡(jiǎn)單反饋-【打開“允許上傳日志”】，提交就可以啦。”

1月3日，騰訊元寶官方賬號(hào)在評(píng)論區(qū)回復(fù)，“非常抱歉給您帶來了不好的體驗(yàn)，我們根據(jù)日志進(jìn)行了相關(guān)核查，與用戶操作無關(guān)，也不存在人工回復(fù)，屬于小概率下的模型異常輸出。”

騰訊元寶表示，在內(nèi)容生成過程中，模型偶爾可能出現(xiàn)不符合預(yù)期的失誤，這也是元寶持續(xù)需要改進(jìn)的地方。針對(duì)這個(gè)問題元寶也啟動(dòng)了內(nèi)部排查和優(yōu)化，會(huì)盡量避免類似情況。“感謝大家的反饋與提醒，再次向您致歉！”

來源：紅星新聞、澎湃新聞

編輯：李雨