北京
近日，騰訊旗下AI應用“元寶”因在生成內(nèi)容過程中出現(xiàn)辱罵性文字，引發(fā)用戶投訴。據(jù)《華商報》大風新聞報道，西安市一位用戶在除夕當天使用“元寶App”生成拜年圖片時，遭遇AI異常輸出不雅內(nèi)容，原本用于祝福的標語被替換為低俗辱罵詞語。
據(jù)當事人描述，其在操作過程中共向元寶AI發(fā)出約五次生成指令，全程未使用任何敏感詞匯或誘導性表述，僅因對生成效果不滿意進行了多次調整。前幾次生成結果雖不理想，但內(nèi)容基本正常。然而在最后一次修改后，系統(tǒng)輸出的圖片中，原本預設的祝福語“新年快樂，仕途順遂”被篡改為含有辱罵性質的文字內(nèi)容。
針對此事件，元寶官方團隊已在相關帖文評論區(qū)回應稱，對用戶的不愉快體驗深表歉意。經(jīng)初步核查，該問題系模型在處理多輪對話過程中出現(xiàn)的異常輸出所致。目前官方已緊急修復相關問題，并優(yōu)化了模型使用體驗，同時再次向受影響的用戶致歉。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
