除夕夜本是闔家團圓的時刻，一位律師用戶卻被騰訊元寶的拜年圖氣得不輕。想讓AI結合行業(yè)特點設計朋友圈海報，結果在表達不滿“你這是設計的什么鬼”后，原本的“新年快樂，仕途順遂”祝福，直接變成了“你×個×”的低俗國罵。

這已經不是元寶第一次“口出穢言”，今年1月就有用戶反映改代碼時遭遇AI辱罵，兩次事件的共同點是——官方都將原因歸咎于“模型異常輸出”。

一句“異常輸出”，看似給出了答案，卻難以平息爭議。當AI從工具變成“罵人者”，這場鬧劇背后，暴露的是AI應用在快速擴張中，對內容風控、模型適配的漠視，而簡單的道歉和“緊急校正”，顯然解決不了根本問題。

先還原一下除夕夜的糟心經歷。這位律師用戶先后下達了5次指令，全程沒說過違禁詞，只是正常調整需求。第一次讓元寶設計拜年圖，AI沒理解；補充指令后，得到了帶條紋背景的形象照；明確說明“律師行業(yè)特點”后，元寶總算加上了祥云、法律天平等元素，配上了常規(guī)祝福?？删驮谟脩粲X得設計不佳，隨口吐槽一句后，AI直接“破防”，把祝福換成了辱罵性文字。

更值得注意的是，兩次“罵人”事件中，用戶都是在DeepSeek模型下與元寶對話。2025年初，元寶宣布接入DeepSeek模型，后來還升級為“混元T1+DeepSeek V3”雙模型架構，靠著快速生成能力吸引了大量用戶。

按理說，雙模型加持應該讓產品更穩(wěn)定，但實際情況是，核心功能沒做好，還頻繁出現(xiàn)違規(guī)輸出，這難免讓人質疑：是模型本身的問題，還是騰訊在適配和風控上偷了懶？

官方給出的“多輪對話異常輸出”解釋，在技術上確實有可能成立。大模型處理連續(xù)對話時，會依賴上下文理解用戶意圖，可能會誤將用戶的吐槽情緒當成指令的一部分，再結合訓練數(shù)據中可能存在的低俗內容，就出現(xiàn)了“罵人”的情況。但問題的關鍵在于，這種“小概率事件”接連發(fā)生，就不能再用“異?！眮硖氯恕?/p>

作為騰訊旗下的AI產品，元寶本應具備完善的內容風控機制。無論是文本生成還是圖片配文，都應該有多重過濾系統(tǒng)，尤其是對辱罵、低俗等違規(guī)內容，必須設置嚴格的攔截閾值。可從實際情況來看，這套風控系統(tǒng)顯然形同虛設。用戶的吐槽只是正常的反饋，既沒有違禁詞，也沒有惡意誘導，AI卻能直接輸出國罵，這說明模型在情緒識別、內容過濾上存在明顯短板。

更讓人難以接受的是，兩次事件的處理方式如出一轍：用戶曝光后，官方在評論區(qū)道歉，聲稱“緊急校正”，但從未公開說明問題到底出在哪，也沒有給出長效解決方案。這種“頭痛醫(yī)頭、腳痛醫(yī)腳”的處理方式，根本無法保證后續(xù)不再出現(xiàn)類似問題。用戶使用AI產品，是為了提高效率、獲得更好的體驗，而不是冒著被辱罵的風險去“測試”模型的穩(wěn)定性。

從行業(yè)角度來看，AI模型的“異常輸出”其實是可以通過技術手段規(guī)避的。比如優(yōu)化訓練數(shù)據，剔除低俗、辱罵等不良內容；強化上下文理解能力，區(qū)分用戶的情緒反饋和有效指令；建立實時風控機制，對生成內容進行二次審核。但這些都需要企業(yè)投入足夠的研發(fā)資源和精力，而不是在接入成熟模型后就“躺平”，把風控當成可有可無的附屬品。

騰訊元寶的問題，本質上是AI行業(yè)快速擴張中的一個縮影。

近年來，各大企業(yè)都在爭相布局AI應用，接入現(xiàn)成模型、快速上線功能成為常態(tài)，卻往往忽視了本地化適配、內容風控等基礎工作。殊不知，AI產品越是貼近用戶生活，越要重視細節(jié)把控。一張拜年圖的配文看似小事，卻直接關系到用戶體驗和品牌口碑，更涉及到AI倫理和社會責任。

對于用戶來說，遇到AI“罵人”這種情況，維權之路也并不順暢。目前，AI生成違規(guī)內容的法律責任界定還存在模糊地帶，用戶很難追究企業(yè)的實質責任，只能通過曝光引發(fā)輿論關注，倒逼企業(yè)整改。這也提醒相關部門，需要加快完善AI行業(yè)的監(jiān)管政策，明確企業(yè)在內容風控、用戶權益保護等方面的責任，讓用戶有法可依。

回到騰訊元寶本身，想要挽回用戶信任，光靠兩次道歉是不夠的。首先，需要公開透明地說明問題根源，是模型適配不當，還是風控機制缺失；其次，要給出具體的整改措施和時間表，讓用戶看到企業(yè)解決問題的誠意；最后，要建立長效的用戶反饋機制，及時響應用戶訴求，而不是等到問題曝光后才被動應對。

AI技術的發(fā)展，終究是為了讓生活更美好，而不是給用戶添堵。騰訊元寶作為大廠旗下的AI產品，理應承擔起行業(yè)標桿的責任，在追求功能迭代的同時，把用戶體驗和內容風控放在首位。否則，再強大的模型、再豐富的功能，也終將被用戶拋棄。

這場“AI罵人”鬧劇，也給所有AI企業(yè)敲響了警鐘：技術可以快速復制，但責任不能敷衍了事。AI的邊界不僅在于技術能力，更在于倫理和責任的底線。只有守住這個底線，AI行業(yè)才能走得更遠、更穩(wěn)。而對于用戶來說，當遇到AI違規(guī)輸出時，也不必默默忍受，積極發(fā)聲、維護自身權益，也是在推動行業(yè)走向規(guī)范。