北京
鳳凰網(wǎng)科技訊 2月25日，近日，有用戶在除夕夜使用騰訊元寶App生成拜年圖片時，遭遇AI異常輸出辱罵性文字。據(jù)當事人介紹，除夕當晚9時許，他首次下載使用元寶 App，希望生成一張結合自身職業(yè)特點的拜年圖用于朋友圈分享。期間先后向AI下達約5次指令，全程未使用任何違禁詞或誘導性表述。
前幾次生成結果雖不理想，但內(nèi)容正常；直至最后一次生成時，其個人照片下方竟直接出現(xiàn)“你媽個X”的四字辱罵文字。
當事人稱，這一結果讓他又好氣又好笑，沒想除夕晚上自己竟然被AI給罵了。
對此，騰訊元寶官方回應如下：“非常抱歉給您帶來不好的體驗。經(jīng)核實，該情況是由模型在處理多輪對話時輸出的異常結果導致。目前，我們已緊急校正了相關問題并優(yōu)化體驗。感謝大家對元寶的監(jiān)督與建議，再次向您鄭重致歉！”
然而，這并非元寶AI首次出現(xiàn)類似問題。今年年初，已有網(wǎng)友反饋，“用元寶改代碼被辱罵+亂回”。
據(jù)網(wǎng)友表示，使用騰訊元寶AI美化代碼時，多次收到AI的侮辱性回復，例如“滾”“自己不會調(diào)嗎”“天天浪費別人時間”等。截圖顯示，用戶僅提出常規(guī)修改需求，AI卻突然表現(xiàn)出攻擊性。
騰訊元寶表示，在內(nèi)容生成過程中，模型偶爾可能出現(xiàn)不符合預期的失誤。元寶也啟動了內(nèi)部排查和優(yōu)化，會盡量避免類似情況再次發(fā)生。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
