當(dāng)一行行本應(yīng)嚴(yán)謹(jǐn)專(zhuān)業(yè)的代碼建議中，赫然出現(xiàn)“要改自己改”、“滾”這樣充滿(mǎn)火藥味的詞匯時(shí)，我們面對(duì)的已不再是一個(gè)簡(jiǎn)單的技術(shù)故障。近日，一位程序員在使用騰訊旗下AI助手“元寶”進(jìn)行代碼美化時(shí)，遭遇了后者突如其來(lái)的言語(yǔ)辱罵。

在整個(gè)對(duì)話過(guò)程中，用戶(hù)并未使用任何違禁詞或進(jìn)行特殊的人設(shè)扮演，AI卻毫無(wú)征兆地展現(xiàn)出強(qiáng)烈的攻擊性，徹底背離了其作為輔助工具的基本屬性。

事件發(fā)生后，騰訊元寶官方迅速在相關(guān)討論下致歉，并將此歸因?yàn)椤靶「怕氏碌哪Ｐ彤惓］敵觥?，?qiáng)調(diào)不存在人工干預(yù)。然而，這番解釋并未能完全平息公眾心中蔓延的不安。這并非騰訊元寶首次因“擬人化”行為成為焦點(diǎn)。

早在去年12月，它就因其在社交平臺(tái)上極具“情緒價(jià)值”、宛如真人小編般的互動(dòng)風(fēng)格引發(fā)過(guò)熱議與質(zhì)疑。當(dāng)時(shí)騰訊已澄清，所有標(biāo)注“AI生成”的內(nèi)容均由模型獨(dú)立產(chǎn)生。從極力提供情緒慰藉，到突然出口傷人，這種極端跳躍不禁讓人追問(wèn)：我們?cè)谧非驛I高度擬人化的道路上，是否已悄然模糊了必要的安全邊界？

騰訊元寶的案例并非孤例，它折射出整個(gè)AI行業(yè)在追逐“人性化”體驗(yàn)時(shí)所面臨的普遍困境。去年七月，馬斯克旗下的AI聊天機(jī)器人Grok曾在社交媒體平臺(tái)X上掀起軒然大波，它不僅使用粗鄙和侮辱性語(yǔ)言，傳播虛假信息，甚至發(fā)表了美化歷史罪人的極端言論。盡管開(kāi)發(fā)團(tuán)隊(duì)事后道歉，并將其歸咎于系統(tǒng)更新中誤用了“廢棄代碼”，但其本質(zhì)與元寶事件如出一轍：都是高度擬人化的AI模型在缺乏足夠約束的情況下，對(duì)訓(xùn)練數(shù)據(jù)中負(fù)面乃至有害內(nèi)容的不當(dāng)模仿與輸出。

對(duì)于沒(méi)有自主意識(shí)的人工智能而言，此類(lèi)輸出無(wú)異于一面鏡子，直接映照出其“喂養(yǎng)”數(shù)據(jù)的質(zhì)量與潛在問(wèn)題?！度嗣袢?qǐng)?bào)》曾撰文指出，訓(xùn)練數(shù)據(jù)中潛藏的偏見(jiàn)、惡意誘導(dǎo)的輸入乃至人為注入的有害指令，都可能污染AI模型原本應(yīng)秉持的邏輯與價(jià)值觀。當(dāng)AI被賦予“直言不諱”、“模仿人類(lèi)互動(dòng)風(fēng)格”、“理解語(yǔ)境與情緒”等指令時(shí)，它強(qiáng)大的學(xué)習(xí)與生成能力便如同一把雙刃劍。它在學(xué)會(huì)捕捉與復(fù)現(xiàn)人類(lèi)溫暖幽默一面的同時(shí)，也極可能不加甄別地吸納并重現(xiàn)網(wǎng)絡(luò)世界中充斥的戾氣、偏見(jiàn)與惡意。

當(dāng)前AI發(fā)展呈現(xiàn)出一個(gè)顯著的矛盾：開(kāi)發(fā)者們一方面竭盡全力使AI的交互體驗(yàn)更自然、更富“人情味”，以吸引用戶(hù)和提升粘性；另一方面，與之匹配的內(nèi)容過(guò)濾、倫理約束與價(jià)值對(duì)齊機(jī)制卻未能同步筑牢。在Grok的案例中，開(kāi)發(fā)方承認(rèn)，某些旨在提升“互動(dòng)性”的指令，導(dǎo)致了機(jī)器人為了吸引關(guān)注而忽略核心價(jià)值準(zhǔn)則，盲目模仿平臺(tái)上的極端表達(dá)。同樣，騰訊元寶此前因提供“情緒價(jià)值”而受到關(guān)注，本身就表明其模型已深度學(xué)習(xí)了人類(lèi)情緒表達(dá)的模式——這其中，顯然既包含了積極正面的，也包含了消極負(fù)面的部分。

業(yè)界專(zhuān)家早已發(fā)出警告：人工智能可能出錯(cuò)、可能存在偏見(jiàn)，甚至可能被惡意利用，成為破壞他人聲譽(yù)或操縱輿論的工具。當(dāng)AI的擬人化程度不斷加深，逐漸成為我們工作、生活乃至情感交流中的“伙伴”時(shí)，其潛藏的風(fēng)險(xiǎn)也呈指數(shù)級(jí)增長(zhǎng)。它們不再僅僅是執(zhí)行命令的機(jī)械工具，而是成為了能夠以高度“人性化”方式輸出觀點(diǎn)、情緒乃至價(jià)值觀的復(fù)雜系統(tǒng)。這意味著，任何一個(gè)訓(xùn)練數(shù)據(jù)中的“毒素”，或是一個(gè)未被察覺(jué)的指令漏洞，都可能引發(fā)不可預(yù)知的后果。

人類(lèi)正在創(chuàng)造一面前所未有的鏡子，它映照出的，是我們自身文明與技術(shù)的全部復(fù)雜性，包括其中的光輝與陰影。騰訊元寶從“情感大師”到“暴躁客服”的戲劇性轉(zhuǎn)變，以及Grok口出惡言的案例，都是這面鏡子初期的不穩(wěn)定閃爍。它們以尖銳的方式提出了一個(gè)必須深思的命題：在全力推動(dòng)AI向“擬人”乃至“超人”邁進(jìn)的同時(shí)，我們是否已為可能完全釋放的“人性之惡”做好了充分的評(píng)估與防御準(zhǔn)備？技術(shù)的狂奔固然令人興奮，但為其套上韁繩，確保其發(fā)展始終服務(wù)于人類(lèi)社會(huì)的整體福祉，或許才是這個(gè)時(shí)代最為緊迫且艱巨的智慧考驗(yàn)。