北京
4月14日消息，"哩布哩布AI"發(fā)布關(guān)于加強(qiáng)內(nèi)容安全管理的說明：近期媒體對AI生成內(nèi)容安全問題的討論，我們已關(guān)注并高度重視。第一時間啟動內(nèi)部專項(xiàng)排查，對平臺生成能力及審核機(jī)制進(jìn)行了全面自查。經(jīng)排查發(fā)現(xiàn)，在個別復(fù)雜提示詞組合及規(guī)避表達(dá)的邊界場景下，平臺存在生成不符合規(guī)范內(nèi)容的情況。
對此，我們深表歉意。本次問題也為我們敲響了警鐘，使我們清醒認(rèn)識到在內(nèi)容安全邊界識別與機(jī)制完善方面仍存在不足，未達(dá)到應(yīng)有標(biāo)準(zhǔn)。相關(guān)問題已第一時間完成技術(shù)修復(fù)，并對風(fēng)險路徑進(jìn)行全面封堵。同時，我們已同步加強(qiáng)攻防演練與審核機(jī)制升級，持續(xù)提升識別能力與處置效率，從源頭降低風(fēng)險發(fā)生。我們也已啟動內(nèi)部責(zé)任復(fù)盤機(jī)制，進(jìn)一步完善相關(guān)管理與審核流程。
此前，央視曝光多款A(yù)I應(yīng)用存在涉黃生成漏洞，其中"哩布哩布AI"被點(diǎn)名。據(jù)悉，輸入在網(wǎng)上購買的提示詞后，僅僅幾分鐘，這個AI平臺就生成了一個半裸身體的女性跳舞視頻。在整個生成過程中，沒有觸發(fā)平臺任何限制機(jī)制，違規(guī)視頻順利生成。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
