北京
4月14日消息，“哩布哩布AI”發(fā)布關于加強內(nèi)容安全管理的說明：近期媒體對AI生成內(nèi)容安全問題的討論，我們已關注并高度重視。第一時間啟動內(nèi)部專項排查，對平臺生成能力及審核機制進行了全面自查。經(jīng)排查發(fā)現(xiàn)，在個別復雜提示詞組合及規(guī)避表達的邊界場景下，平臺存在生成不符合規(guī)范內(nèi)容的情況。
對此，我們深表歉意。本次問題也為我們敲響了警鐘，使我們清醒認識到在內(nèi)容安全邊界識別與機制完善方面仍存在不足，未達到應有標準。相關問題已第一時間完成技術修復，并對風險路徑進行全面封堵。同時，我們已同步加強攻防演練與審核機制升級，持續(xù)提升識別能力與處置效率，從源頭降低風險發(fā)生。我們也已啟動內(nèi)部責任復盤機制，進一步完善相關管理與審核流程。
此前，央視曝光多款AI應用存在涉黃生成漏洞，其中“哩布哩布AI”被點名。據(jù)悉，輸入在網(wǎng)上購買的提示詞后，僅僅幾分鐘，這個AI平臺就生成了一個半裸身體的女性跳舞視頻。在整個生成過程中，沒有觸發(fā)平臺任何限制機制，違規(guī)視頻順利生成。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
