評論員 陳柯旭

新年祝語變“國粹”輸出，AI鬧劇再次上演。

近日，據(jù)華商報(bào)報(bào)道，過年期間，西安一位男子借助AI生成拜年圖片時(shí)，遭遇AI無故辱罵，原本的祝福標(biāo)語“新年快樂，仕途順?biāo)臁北惶鎿Q成了低俗辱罵文字，好好的拜年秒變“翻車現(xiàn)場”。

相關(guān)AI平臺火速作出回應(yīng)，稱是模型處理多輪對話時(shí)的異常輸出，已緊急修復(fù)并致歉。但可別忘了，這并非是AI首次“口吐芬芳”。今年年初，就有網(wǎng)友反映，使用AI修改代碼時(shí)，多次收到“滾”“自己不會(huì)調(diào)嗎”等侮辱性回復(fù)，甚至被嘲諷“天天浪費(fèi)別人時(shí)間”，網(wǎng)友調(diào)侃，跟AI聊天，好像被電子PUA了。

AI罵人，用戶卻成了“背鍋俠”，新年祝福變臟話攻擊，暴露平臺管理缺失，不能免責(zé) ?。此前國內(nèi)外就已多次曝出AI“發(fā)瘋”罵人的情況，這說明平臺在內(nèi)容審核與安全管控方面存在明顯漏洞。AI從海量訓(xùn)練數(shù)據(jù)里學(xué)東西，里面難免混進(jìn)臟話、不文明用語。平臺沒有完善的內(nèi)容過濾系統(tǒng)，缺乏高危詞匯監(jiān)測攔截機(jī)制，最終導(dǎo)致辱罵性文字堂而皇之地出現(xiàn)在對話框里。

另外，除了平臺問題，用戶向AI發(fā)出的指令內(nèi)容也很關(guān)鍵。我們和AI交流溝通時(shí)，指令的清晰度、合理性以及潛在引導(dǎo)性，都會(huì)對輸出結(jié)果產(chǎn)生影響。如果指令模糊不清，AI就很可能胡亂拼接出臟話，并非它故意罵人，更像是“抽風(fēng)式出錯(cuò)”。

要是用戶在多次修改指令之后，還沒有得到滿意的答案，言語中出現(xiàn)不滿或急躁情緒時(shí)，AI說不定也會(huì)被這種負(fù)面情緒“帶跑偏”，開始“發(fā)瘋”，輸出一些異常內(nèi)容。當(dāng)然，這絕不是為AI罵人的行為洗白，而是提醒用戶在享受AI便利的同時(shí)，也要注意自身指令的規(guī)范與合理。

AI是算法程序，沒有情緒，可技術(shù)得有底線，當(dāng)AI開始“發(fā)瘋”，我們該做的不是圍觀吃瓜，而是系好“倫理”的安全帶。畢竟，誰也不想在拜年時(shí)，被AI送上一句“國粹”。