圖片來(lái)源：網(wǎng)絡(luò)

本文為《方圓》雜志原創(chuàng)稿件

未經(jīng)授權(quán)，禁止轉(zhuǎn)載

近日，安徽一女子

用AI工具生成高度逼真的

“流浪漢在餐桌吃飯”等圖片發(fā)給老公

并說(shuō)“他說(shuō)要去你的床上躺著”

以測(cè)試其反應(yīng)

沒(méi)想到丈夫信以為真，當(dāng)即報(bào)警求助

類(lèi)似“AI整蠱測(cè)試真心”

引起的鬧劇已在多地出現(xiàn)

那么，在此類(lèi)事件中

整蠱者可能觸碰哪些法律紅線(xiàn)？

選擇用如此方式去“測(cè)試”伴侶

其背后隱藏著怎樣的心理動(dòng)機(jī)？

在“AI時(shí)代”即將全面到來(lái)的今天

我們應(yīng)該如何提升公眾的

“數(shù)字素養(yǎng)”和“科技倫理”意識(shí)？

整蠱行為會(huì)帶來(lái)多重法律風(fēng)險(xiǎn)

“如果利用AI技術(shù)惡意制作并傳播虛假恐怖圖片，進(jìn)而嚴(yán)重?cái)_亂社會(huì)秩序的，可能涉嫌?編造、故意傳播虛假恐怖信息罪??！北本┦写蟮勒蓭熓聞?wù)所合伙人韓鵬律師介紹說(shuō)。《中華人民共和國(guó)刑法》第二百九十一條規(guī)定，投放虛假的爆炸性、毒害性、放射性、傳染病病原體等物質(zhì)，或者編造爆炸威脅、生化威脅、放射威脅等恐怖信息，或者明知是編造的恐怖信息而故意傳播，嚴(yán)重?cái)_亂社會(huì)秩序的，處五年以下有期徒刑、拘役或者管制；造成嚴(yán)重后果的，處五年以上有期徒刑。編造虛假的險(xiǎn)情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴(yán)重?cái)_亂社會(huì)秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴(yán)重后果的，處三年以上七年以下有期徒刑。若有關(guān)行為未達(dá)到刑事立案標(biāo)準(zhǔn)，依據(jù)《中華人民共和國(guó)治安管理處罰法》第二十九條規(guī)定，可能面臨被行政拘留?并處罰款?。

在此事件中，女子老公因?yàn)榭只诺谝粫r(shí)間報(bào)警，民警出警后發(fā)現(xiàn)是虛驚一場(chǎng)，這種情況下，其老公行為是否涉嫌“報(bào)假警”？如何認(rèn)定？

韓鵬認(rèn)為，“報(bào)假警”的核心認(rèn)定標(biāo)準(zhǔn)是“主觀故意+捏造虛假警情”，二者缺一不可。從動(dòng)機(jī)上看，女子家人主觀上沒(méi)有“報(bào)假警”的故意，其報(bào)警行為不符合上述認(rèn)定的核心要件。但發(fā)送圖片者主觀上存在“間接故意”，明知可能引發(fā)報(bào)警仍實(shí)施該行為，且客觀上實(shí)施了“制造虛假警情源頭”的行為，與報(bào)警結(jié)果之間存在因果關(guān)系，其行為在一定程度上擾亂了公共秩序，可能面臨治安處罰，嚴(yán)重的甚至?xí)蛔肪啃淌仑?zé)任，具體后果會(huì)根據(jù)情節(jié)輕重進(jìn)行劃分，需要綜合考量行為人的主觀惡意、公共資源浪費(fèi)、傳播范圍、社會(huì)影響等因素，最終實(shí)現(xiàn)處罰與行為危害性相匹配。

“低門(mén)檻”為“濫用”埋下了隱患

一個(gè)基于玩笑的整蠱行為，一旦失控，就可能升級(jí)為對(duì)社會(huì)治理、法律法規(guī)、公共信任等多層面的挑戰(zhàn)。而讓人擔(dān)憂(yōu)的是，當(dāng)前生成此類(lèi)以假亂真圖片的AI技術(shù)門(mén)檻較低。記者在某AI軟件里傳輸一張照片，再輸入“請(qǐng)?jiān)诤⒆訉?duì)面生成一個(gè)流浪漢”的指令，不到2秒鐘，一張讓父母看完后感到恐慌的AI照片便生成了。

圖片來(lái)源：記者利用某AI軟件生成的“流浪漢闖入家中”圖。

而與“低門(mén)檻”相矛盾的是，在司法實(shí)踐中，要順利實(shí)現(xiàn)對(duì)一些惡意生成內(nèi)容的取證存在較大難度。“主要是因?yàn)榧夹g(shù)黑箱導(dǎo)致的溯源難?！表n鵬說(shuō)，“由于生成式人工智能的算法邏輯不透明，模型迭代頻繁，實(shí)踐中有時(shí)難以直接還原數(shù)據(jù)生成路徑。AI生成內(nèi)容還可以通過(guò)技術(shù)手段規(guī)避傳統(tǒng)檢測(cè)，且缺乏統(tǒng)一的生成標(biāo)記標(biāo)準(zhǔn)，部分惡意生成者還會(huì)刻意抹除Exif信息、篡改哈希值等，進(jìn)而導(dǎo)致溯源鏈條斷裂，而傳統(tǒng)取證手段很難保證數(shù)據(jù)完整性、連續(xù)性，這些都可能給取證工作帶來(lái)挑戰(zhàn)。”

韓鵬介紹，今年全國(guó)兩會(huì)期間，全國(guó)人大代表、上海社會(huì)科學(xué)院黨委書(shū)記權(quán)衡等代表提出關(guān)于制定人工智能法的議案，建議發(fā)揮立法的引領(lǐng)、推動(dòng)作用，制定全面系統(tǒng)的人工智能法，推進(jìn)新時(shí)代強(qiáng)國(guó)建設(shè)和中國(guó)式現(xiàn)代化。議案建議，人工智能立法應(yīng)將重點(diǎn)放在多個(gè)方面。其中一條提出，在社會(huì)影響與倫理考量方面，應(yīng)要求對(duì)人工智能技術(shù)的社會(huì)影響進(jìn)行評(píng)估，制定人工智能技術(shù)的倫理規(guī)范，明確技術(shù)使用的道德邊界和行為準(zhǔn)則。韓鵬建議，對(duì)于目前面臨的“規(guī)則分散、責(zé)任模糊、處罰失衡、技術(shù)適配不足”等問(wèn)題，仍需要進(jìn)一步制定細(xì)則、完善責(zé)任劃分與處罰梯度、建立相應(yīng)的溯源制度，同時(shí)需持續(xù)強(qiáng)化多部門(mén)協(xié)同監(jiān)管等措施，構(gòu)建“事前預(yù)防-事中阻斷-事后追責(zé)”的全鏈條治理體系。

“當(dāng)前，AI‘微恐慌’事件的危害情節(jié)普遍比較輕，但這在某種程度上已反映出AI技術(shù)濫用帶來(lái)的諸多問(wèn)題，這也對(duì)立法技術(shù)和立法質(zhì)量提出更高要求。相關(guān)立法需要為技術(shù)創(chuàng)新預(yù)留合理空間，進(jìn)而實(shí)現(xiàn)安全與發(fā)展的良性互動(dòng)。技術(shù)本身并無(wú)善惡，其對(duì)社會(huì)的影響取決于技術(shù)發(fā)展的方向與邊界。AI‘微恐慌’事件并非技術(shù)進(jìn)步的必然結(jié)果，而是技術(shù)濫用與治理滯后共同作用下的產(chǎn)物。技術(shù)界必須跳出唯技術(shù)論的誤區(qū)，將倫理責(zé)任置于創(chuàng)新之上，通過(guò)可溯源的標(biāo)識(shí)體系、高精準(zhǔn)的鑒偽技術(shù)、透明化的算法邏輯和剛性的倫理約束，構(gòu)建負(fù)責(zé)任創(chuàng)新的生態(tài)。”韓鵬建議。

類(lèi)似事件頻發(fā)會(huì)加劇社會(huì)“信任危機(jī)”

法律紅線(xiàn)清晰可見(jiàn)，情感創(chuàng)傷難以彌合。這類(lèi)事件的跟風(fēng)與泛濫，還會(huì)加劇社會(huì)的“信任危機(jī)”，導(dǎo)致真正發(fā)生的緊急事件被忽視，從而削弱社會(huì)互助的基礎(chǔ)。

中國(guó)政法大學(xué)犯罪心理學(xué)博士、廣州商學(xué)院法律心理研究院副教授張蔚認(rèn)為，當(dāng)網(wǎng)絡(luò)上充斥著各種真假難辨的緊急事件時(shí)，公眾會(huì)逐漸變得麻木，對(duì)刺激的反應(yīng)閾值會(huì)提高，同情心和警惕心會(huì)被消耗。待到未來(lái)某個(gè)真實(shí)的安全威脅圖片或視頻被發(fā)布時(shí)，人們的第一反應(yīng)可能是“AI生成的吧”或者“肯定又是哪個(gè)博主弄出來(lái)引流的”。這種懷疑和延遲，可能會(huì)讓真正需要幫助的人錯(cuò)過(guò)最佳獲得幫助的時(shí)機(jī)。

同時(shí)值得關(guān)注的是，比起社會(huì)“信任危機(jī)”的產(chǎn)生，“信任崩塌”很可能最先發(fā)生在親密關(guān)系里。

“做這種測(cè)試的人，潛意識(shí)的動(dòng)機(jī)可能是想測(cè)試伴侶的反應(yīng)，比如說(shuō)‘會(huì)不會(huì)擔(dān)心我’‘是不是愛(ài)我’之類(lèi)，但這是一種極其不健康且具有破壞性的情感確認(rèn)方式。實(shí)施者無(wú)法真正站在伴侶的角度去思考感受，體現(xiàn)了對(duì)伴侶情感邊界的不尊重和共情能力的不足。如果這個(gè)人的動(dòng)機(jī)是想用消費(fèi)另一半來(lái)獲取流量或者關(guān)注，那就存在將伴侶工具化的可能?！睆埼堤嵝?，“這種行為可能會(huì)導(dǎo)致受騙者對(duì)家庭環(huán)境安全感以及對(duì)伴侶信任感產(chǎn)生根本性的動(dòng)搖。尤其是當(dāng)受騙者發(fā)現(xiàn)自己最真實(shí)的恐懼反應(yīng)被對(duì)方當(dāng)成笑話(huà)觀看、錄制甚至公之于眾時(shí)，會(huì)感到巨大的羞辱和背叛，覺(jué)得自己的感受不被尊重，從而產(chǎn)生情感上的孤立和羞辱感。”

一次引發(fā)熱議的整蠱事件，背后反映的是AI浪潮下公眾數(shù)字素養(yǎng)和科技倫理意識(shí)的不足。這不能僅靠“單向灌輸”，而是需要推動(dòng)公眾從“技術(shù)的被動(dòng)使用者”向“技術(shù)的主動(dòng)掌控者”的轉(zhuǎn)變?！巴ㄟ^(guò)分層教育讓AI知識(shí)可及，通過(guò)場(chǎng)景實(shí)踐讓科技倫理意識(shí)落地，通過(guò)技術(shù)生態(tài)圈的約束讓責(zé)任有保障，讓更多人在享受AI便利的同時(shí)，守住倫理底線(xiàn)，負(fù)責(zé)任地使用這一強(qiáng)大工具，使科技更好增進(jìn)人類(lèi)福祉、更好促進(jìn)社會(huì)進(jìn)步?！表n鵬建議。

這段AI整蠱引發(fā)的鬧劇，像一面多棱鏡，折射出技術(shù)狂歡背后亟待正視的倫理困境。當(dāng)玩笑越過(guò)邊界，它便不再是幽默，而是可能撕裂信任、浪費(fèi)公共資源的利刃。在擁抱科技的同時(shí)，我們必須守住倫理底線(xiàn)，讓工具服務(wù)于人性的溫暖，而非測(cè)試人性的籌碼。

編輯丨黃莎設(shè)計(jì)丨劉巖

記者丨肖玲燕

往期精彩

點(diǎn)擊圖片

購(gòu)買(mǎi)《方圓》雜志

好看的人都點(diǎn)了在看