北京
2月25日消息，騰訊旗下AI產(chǎn)品元寶App近日因生成辱罵性內(nèi)容再度引發(fā)爭(zhēng)議。
據(jù)元寶用戶向律師反映，其于除夕夜使用元寶App設(shè)計(jì)拜年海報(bào)時(shí)，AI在多輪對(duì)話后輸出含辱罵文字的圖片，將原有祝福語(yǔ)“新年快樂(lè)，仕途順?biāo)臁贝鄹臑榈退兹枇R信息。據(jù)悉，當(dāng)事人全程未使用違禁或誘導(dǎo)性表述，僅因?qū)ι尚Ч粷M多次提出修改要求。
騰訊元寶官方事后在涉事用戶社交平臺(tái)回應(yīng)稱，經(jīng)核實(shí)，該情況是模型處理多輪對(duì)話時(shí)出現(xiàn)的異常輸出，已緊急校正問(wèn)題并優(yōu)化體驗(yàn)，向用戶鄭重致歉。
據(jù)了解，這已是元寶短期內(nèi)第二次被曝出類似問(wèn)題。今年年初，曾有用戶反饋使用該應(yīng)用優(yōu)化代碼時(shí)，收到“滾”等侮辱性回復(fù)，當(dāng)時(shí)官方同樣解釋為“小概率模型異?！辈⒅虑浮Ｍ愂录貜?fù)發(fā)生，引發(fā)外界對(duì)其技術(shù)穩(wěn)定性及內(nèi)容審核機(jī)制的關(guān)注。（櫟行）
本文來(lái)源：網(wǎng)易智能
責(zé)任編輯：
李佳_NBJS32032
