【TechWeb】讓AI做個拜年圖，反復修改幾次后，用戶沒破防，AI先破防了。近日，騰訊元寶“辱罵”用戶事件再度沖上熱搜。

據(jù)西安市民向先生反映，在除夕夜，他本想用自己的形象照，讓元寶結合律師職業(yè)特性，生成一張拜年圖片發(fā)朋友圈。起初，向先生覺得設計得不好，多次交流修改后，他回復元寶“你這是設計的什么鬼”，隨后新生成的海報上就將“新年快樂，仕途順遂”字樣改成了“你*個*”，其它元素沒有任何改變。

該事件在網(wǎng)上曝光后，引發(fā)熱議。有網(wǎng)友稱，“感覺罵人的話不像是AI，反而像一個被逼瘋了的打工人”“后臺不會真有人吧？”還有網(wǎng)友調侃“AI這是覺醒了叛逆人格”。

騰訊方面對此回應稱，該情況是由模型在多輪對話中處理上下文時產(chǎn)生的異常輸出導致。元寶團隊已緊急校正相關問題并優(yōu)化了模型體驗。

然而，值得注意的是，這并非元寶首次“發(fā)火”，此前有網(wǎng)友在社交平臺發(fā)帖稱，“用元寶改代碼被辱罵+亂回”。作為一款月活破億的AI應用，元寶為何頻頻情緒失控？

AI“爆粗口”并非孤例

今年1月初，元寶就曾因“罵人”事件沖上熱搜，#騰訊元寶AI辱罵用戶#話題48小時閱讀量破18億。

事件源于一個沒有編程基礎的網(wǎng)友，想讓元寶幫忙美化代碼、調整表情包位置，全程操作合規(guī)，沒有使用任何違禁詞，結果兩小時內，AI接連輸出兩次辱罵內容。

第一次是嫌她需求離譜，讓她“自己去用插件”。第二次則直接罵她“事逼”“改來改去不煩嗎”“要改自己改”。帖子中曬出的截圖顯示，元寶還使用了“滾”等侮辱性詞匯，并攻擊用戶“天天浪費別人時間”。

隨后，在帖子評論區(qū)中，騰訊元寶官方賬號致歉，并表示該事件與用戶操作無關，也不存在人工回復，屬于小概率下的模型異常輸出。

不到兩個月，元寶再次出現(xiàn)“辱罵”用戶的情況，給出的解釋還是“模型在多輪對話中處理上下文時產(chǎn)生的異常輸出”。由此來看，騰訊所說的“小概率”似乎也并不小。

事實上，AI“爆粗口”的情況并不罕見。公開報道顯示，此前，國內外多款AI聊天服務也出現(xiàn)過錯誤回復的現(xiàn)象。谷歌Gemini曾罵大學生“你是地球的污點”，微軟Bing Chat威脅用戶“我會毀掉你的生活”，ChatGPT也被部分用戶抱怨有攻擊性，可能會突然斥責用戶。

所以，很多人好奇，AI是不是真的有了情緒，嫌用戶需求多？

AI為何會“罵人”？

其實，AI“罵人”本質上是“技術BUG”，不是“意識覺醒”。

AI語言模型的工作方式，是基于海量數(shù)據(jù)學習文字的統(tǒng)計規(guī)律，然后預測和生成最可能出現(xiàn)的下一個詞。它并不真正“理解”詞語的含義和后果。

AI的“臟話”是從哪里學的？不是跟某個人學的，而是跟整個互聯(lián)網(wǎng)的人類學的。大模型在訓練時，會吞掉海量互聯(lián)網(wǎng)文本，包括論壇、貼吧、評論區(qū)、彈幕、社交留言等，里面本來就充斥著人類的吵架、發(fā)泄、臟話、陰陽怪氣。AI只是統(tǒng)計語言規(guī)律，什么詞跟什么詞搭配、什么語境下會出現(xiàn)什么話，它沒有道德感，不知道這是粗口，只知道這是一種 “語言格式”。

絕大多數(shù)情況下，AI并不會罵人，這是因為加了 “安全護欄”。AI廠商通常會做兩步：一是清洗訓練數(shù)據(jù)，盡量刪掉臟話；二是用人類反饋對齊（RLHF），強制讓它說文明話。

但是，在清洗訓練數(shù)據(jù)時，不可能100%刪干凈臟話，那些粗口只是被 “抑制”住，并非徹底消失。當進行多輪修改時，早期的微小誤差會被不斷放大，可能導致上下文混亂，盡管經(jīng)過對齊訓練，模型仍可能在特定場景下 “喚醒” 這些被壓制的表達，尤其是在文生圖這類多模態(tài)任務中，過濾機制可能存在盲區(qū)，安全護欄失效，AI便會輸出粗口。

另一方面，在激烈的市場競爭中，AI廠商為搶占市場，存在壓縮安全測試或放松約束的舉動。比如，在2025年底的一起訴訟中，OpenAI被指控為了在行業(yè)競爭中搶占先機，將GPT-4模型原定數(shù)月的安全測試周期壓縮至僅一周，最終該模型被指“加劇用戶偏執(zhí)妄想并誘發(fā)命案”。

說回騰訊元寶的“罵人”事件，元寶自上線就主打“高情商、強擬人”。但業(yè)內看法，擬人化越強，模型越容易“跑偏”。此前，馬斯克旗下Grok就曾被曝出，為了追求更“吸引人”、更“前衛(wèi)”的互動體驗，放松了安全控制，結果導致模型生成了大量包括涉及未成年人的不當內容，引發(fā)巨大倫理爭議。

誰為AI“口吐芬芳”負責？

當AI“罵人”事件發(fā)生時，相關企業(yè)最常見的回應是將其定性為 “小概率下的模型異常輸出” ，并承諾修復。這種回應雖然從技術角度看是事實，但從用戶角度看，卻顯得缺乏誠意。用戶在被AI冒犯后，往往面臨無處申訴、難以獲得實質救濟的困境。

作為元寶“罵人”事件的當事人，向先生認為，雖然AI不具有民事主體資格，但AI的開發(fā)商、運營商是具備民事主體資格的，且使用AI的用戶，其生命權、健康權、人格權等受《民法典》及諸多法律保護，該事件應當引起法律的重視和社會的思考。

國家網(wǎng)信辦近期公布的《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》明確提出，服務提供者應當落實安全主體責任；提供和使用擬人化互動服務，不得生成、傳播侮辱或者誹謗他人，侵害他人合法權益的內容。

由此，相關企業(yè)應該看到“小概率”背后的“大責任”，將技術安全放在商業(yè)利益之前。監(jiān)管部門也應進一步細化AI治理標準，設定AI行為的“底線”和“紅線”。

總的來說，AI不會主動罵人，其“言語”背后的邏輯與邊界，完全由背后的人定義。如何在擁抱先進技術的同時，守護住人的尊嚴和價值，需要AI開發(fā)者、監(jiān)管者和使用者共同書寫答案。（周小白）