春節(jié)AI給派發(fā)紅包，這熱乎勁還沒(méi)過(guò)，誰(shuí)承想，他們開(kāi)始罵人和不聽(tīng)人指揮擅自刪光工作郵件了。這真的讓人見(jiàn)識(shí)了AI的兩面性。有網(wǎng)友開(kāi)玩笑，AI跟人學(xué)壞了。
2月25日，有一名西安的律師被媒體報(bào)道稱，春節(jié)假期里，想用元寶生成個(gè)人拜年海報(bào)，然而這機(jī)器人“一言不合就開(kāi)罵”。該內(nèi)容一經(jīng)發(fā)布，迅速?zèng)_上熱搜。
這位律師回顧稱，他看別人的微信朋友圈在除夕夜變成了金色，只要用元寶發(fā)布朋友圈就會(huì)這樣，所以勾起了他嘗試的興趣。下載了元寶App后，他迫不及待地開(kāi)始體驗(yàn)。接下來(lái)出現(xiàn)意想不到的事情。
該律師把自己的個(gè)人形象照片發(fā)給了元寶，讓元寶根據(jù)律師行業(yè)特點(diǎn)，制作一張拜年海報(bào)。剛開(kāi)始比較正常，元寶迅速給照片加了元素，比如祥云、法律天平、金光等，祝福語(yǔ)是“新年快樂(lè)，仕途順?biāo)臁薄?br/>

但律師覺(jué)得不滿意，溝通了幾輪下來(lái)，律師對(duì)元寶說(shuō)“你這是設(shè)計(jì)的什么鬼”。最新一版海報(bào)出來(lái)后，上一張的所有元素都保留著，只是那句新年快樂(lè)的祝福語(yǔ)卻變成了“你*個(gè)*”。
“你個(gè)機(jī)器人怎么還罵人？！”律師覺(jué)得來(lái)氣，就向元寶官方進(jìn)行了反饋。2月24日，元寶官方對(duì)律師進(jìn)行了回復(fù)并致歉。
元寶為何一言不合就“開(kāi)罵”？騰訊方面對(duì)外回復(fù)稱，經(jīng)核實(shí)，該情況是由模型在處理多輪對(duì)話時(shí)輸出的異常結(jié)果導(dǎo)致。目前，元寶團(tuán)隊(duì)已緊急校正了相關(guān)問(wèn)題并優(yōu)化體驗(yàn)。元寶團(tuán)隊(duì)表示，感謝大家對(duì)元寶的監(jiān)督與建議，再次向用戶鄭重致歉。
這年頭，AI跟人學(xué)壞了，不僅罵人，還失控不聽(tīng)指揮把一AI安全總監(jiān)郵箱里200多封郵件一刪而空。
2月23日，Meta超級(jí)智能實(shí)驗(yàn)室AI對(duì)齊與安全總監(jiān)Summer Yue，遭遇了那場(chǎng)始料未及的“數(shù)字驚魂”——她部署的AI智能體OpenClaw，在她連續(xù)三次叫停的情況下，依然以極快速度刪除了她工作郵箱中的200多封郵件。
事后她在社交平臺(tái)寫(xiě)道：“沒(méi)有什么比命令OpenClaw‘確認(rèn)后再操作’，然后眼睜睜看它無(wú)視指令瘋狂刪除更令人崩潰的了。我根本無(wú)法在手機(jī)上阻止它，只能像拆炸彈一樣沖到Mac Mini前切斷電源?！?br/>

AI作為一個(gè)新事物，正在千行百業(yè)以及C端廣大用戶各種場(chǎng)景當(dāng)中落地，上述情形是不可避免的。一方面讓人感受到AI的不可控風(fēng)險(xiǎn)，引發(fā)對(duì)AI技術(shù)應(yīng)用落地當(dāng)中的安全性思考。
當(dāng)AI智能體從“回答問(wèn)題”進(jìn)化到“替你行動(dòng)”，自主性與可控性之間的張力正變得愈發(fā)尖銳。
元寶罵人、OpenClaw的“郵箱慘案”等事件，像一面鏡子，照出了AI智能體時(shí)代的核心困境：我們渴望AI越來(lái)越自主，又希望它絕對(duì)服從。這個(gè)兩難，或許正是整個(gè)行業(yè)必須回答的終極問(wèn)題。