AI技術(shù)為人們的工作、學(xué)習(xí)、生活帶來很多便利，但最近，一些人竟然用AI制作虛假圖片和視頻向網(wǎng)店商家索賠。來看看蘇州一位大閘蟹經(jīng)銷商的遭遇。

買家發(fā)來“死螃蟹”圖片視頻

疑點(diǎn)重重

11月17日，在江蘇蘇州相城區(qū)經(jīng)營大閘蟹生意的高女士，根據(jù)客戶訂單，發(fā)出了一箱8只裝大閘蟹。第二天，廣州的買家就收到了貨，完成簽收。就在簽收后10多分鐘，高女士收到平臺(tái)發(fā)來的客戶反饋。

江蘇蘇州相城區(qū)大閘蟹經(jīng)銷商 高晶：11月18日早上11點(diǎn)40分左右就簽收了，11點(diǎn)53分就來反饋說8只螃蟹死了6只。

高女士對此也非常疑惑，立即聯(lián)系消費(fèi)者，請他們提供相應(yīng)的證據(jù)。

很快，買家就發(fā)來了一張照片，畫面顯示，6只螃蟹腹部朝上躺在臺(tái)盆邊，但這張照片引起了高女士的懷疑。帶著疑惑，高女士讓客戶再拍一段視頻。

江蘇蘇州相城區(qū)大閘蟹經(jīng)銷商 高晶：第一眼看上去就感覺像AI制作的，運(yùn)鏡很奇怪。如果再細(xì)看，螃蟹腳出現(xiàn)了5只小腿，和正常的大閘蟹不一樣。視頻比例也裁切了，很明顯就是為了去掉水印裁切的。所以我們讓他再拍一段視頻，用手指逐個(gè)去指一下，撥動(dòng)一下，這個(gè)我覺得不可能再造假了。后來他真的發(fā)來了這樣一段視頻。

AI視頻圖片明顯矛盾 警方介入查清事實(shí)

看了買家發(fā)來的第二段視頻，高女士按照平臺(tái)賠付要求，向買家賠付了195元。但她心里還是有些疑惑，第二天，她跟家人復(fù)盤整個(gè)事情過程，重新檢查買家發(fā)來的視頻后，有了新的發(fā)現(xiàn)。

高女士發(fā)現(xiàn)，買家發(fā)來的圖片和視頻中，前后死蟹公母數(shù)明顯不對。

發(fā)現(xiàn)了這個(gè)更大的疑點(diǎn)之后，高女士將其疑惑和買家再次提出，此時(shí)，買家就只顯示信息已讀，不再回應(yīng)。隨后，高女士將此事發(fā)在了網(wǎng)絡(luò)上，在廣州網(wǎng)友的聯(lián)動(dòng)下，廣州當(dāng)?shù)毓膊块T立即介入調(diào)查。

12月2日，高女士收到了警方的處理結(jié)果：此前線上購買螃蟹的買家利用手機(jī)合成制作收到6只“死螃蟹”的虛假視頻，要求商家退款195元，實(shí)施詐騙。該當(dāng)事人11月28日被公安機(jī)關(guān)查獲。根據(jù)相關(guān)法規(guī)，決定給予該當(dāng)事人行政拘留8日的處罰，追繳違法所得人民幣195元。

商家：期待線上平臺(tái)嚴(yán)審核幫甄別

高女士的遭遇并非個(gè)例。對于更多依托線上銷售的商家來說，買家AI造假索賠成本低、識別難，遇到類似情況，又該如何維護(hù)商家利益呢？

江蘇蘇州相城區(qū)大閘蟹經(jīng)銷商 高晶：最直接的手段還是需要平臺(tái)來監(jiān)管，如果說這段視頻上傳到平臺(tái)，平臺(tái)能夠自動(dòng)識別出這是由某個(gè)軟件制作出來的AI視頻，就會(huì)給我們商家省去很多麻煩。

利用AI編造高速車禍謠言 造謠者被行拘

有人用AI制作虛假視頻騙退款實(shí)施詐騙，而在湖南懷化市會(huì)同縣，一位自媒體博主通過AI工具移花接木，制造謠言。等待她的同樣是法律的懲處。

視頻中這段車禍視頻，并不是真實(shí)車禍現(xiàn)場，而是借助AI技術(shù)偽造的。今年11月21日，湖南懷化市會(huì)同縣的自媒體博主梁某某通過AI工具移花接木，編造“滬昆高速因大霧導(dǎo)致20多輛車追尾”的虛假場景，并寫有“交警提醒”等不實(shí)文字注解。由于梁某某的短視頻賬號擁有1.2萬粉絲，虛假視頻在短時(shí)間內(nèi)迅速傳播，嚴(yán)重干擾了駕駛員的出行判斷。

據(jù)了解，梁某某因近期賬號流量不佳，聽聞AI創(chuàng)作視頻可快速漲粉，便通過AI軟件生成虛假高速車禍視頻，并發(fā)布。視頻發(fā)布后不久，梁某某收到平臺(tái)警告，內(nèi)心惶恐之下迅速刪除視頻。

警方介紹，由于梁某某的虛假視頻傳播廣泛，影響惡劣，已構(gòu)成虛構(gòu)事實(shí)、擾亂公共秩序的行為，隨后被公安機(jī)關(guān)依法處以行政拘留3日的處罰。

會(huì)同縣公安局網(wǎng)絡(luò)安全管理大隊(duì)大隊(duì)長 龍志洋：AI技術(shù)本應(yīng)是提升信息傳播效率、優(yōu)化出行服務(wù)的工具，而非造謠傳謠的“遮羞布”。高速公路的通行安全容不得虛假信息的干擾，每一次AI造謠都可能給公眾出行帶來潛在風(fēng)險(xiǎn)。唯有讓技術(shù)在法治軌道上運(yùn)行，讓造謠者付出應(yīng)有代價(jià)，才能遏制“指尖上的謊言”，讓AI真正服務(wù)于公眾出行的便捷與安全。

來源 央視新聞、都市快報(bào)