山東
IT之家 2 月 25 日消息，今日，#西安一市民除夕夜被 AI 給罵了#登上熱搜。據(jù)媒體報(bào)道，西安一名用戶在除夕夜使用騰訊元寶 AI 生成拜年圖片時(shí)，遭 AI 無(wú)故辱罵，將原本的祝福標(biāo)語(yǔ)替換為低俗侮辱內(nèi)容。
據(jù)當(dāng)事人描述，其在除夕夜使用元寶 App 生成拜年圖片，先后下達(dá)約 5 次生成指令。該用戶全程未使用任何違禁詞匯或誘導(dǎo)性表述，僅因?qū)ι尚Ч粷M意而多次修改。前幾次生成的圖片雖效果欠佳，但內(nèi)容正常；直至最后一次修改后，圖片中原有的“新年快樂，仕途順?biāo)臁弊８?biāo)語(yǔ)被替換為“你媽個(gè) X”的辱罵文字。
IT之家注意到，針對(duì)此事，元寶官方在相關(guān)帖子下作出回應(yīng)，稱非常抱歉給用戶帶來(lái)不好的體驗(yàn)，經(jīng)核實(shí)該情況是模型處理多輪對(duì)話時(shí)出現(xiàn)的異常輸出導(dǎo)致，目前已緊急校正相關(guān)問(wèn)題、優(yōu)化使用體驗(yàn)，并向用戶鄭重致歉。
值得關(guān)注的是，這并非元寶 App 首次出現(xiàn) AI 辱罵用戶的情況。據(jù)公開信息，今年年初已有網(wǎng)友反饋，在使用元寶 App 修改代碼時(shí)，多次收到“滾”“自己不會(huì)調(diào)嗎”“天天浪費(fèi)別人時(shí)間”等侮辱性回復(fù)。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
