當(dāng)年在陳佩斯和朱時茂的小品《主角與配角》里有句經(jīng)典臺詞：
沒想到你朱時茂這濃眉大眼的假貨也叛變革命啊！
陳佩斯更沒想到的是，幾十年后這句話也可以平移到AI身上。
你以為無所不知、知無不言的AI，很可能也會在關(guān)鍵時候坑你一把。

據(jù)央廣網(wǎng)報道，前段時間廣州某工程公司負(fù)責(zé)人植先生，因工程急需，要為3名員工購買團(tuán)隊人身意外傷害險。
但當(dāng)時是深夜，聯(lián)系不上保險公司人工客服，他選擇了求助AI大模型。
AI給植先生推薦了幾種保險，并附帶了保險公司官網(wǎng)。
官網(wǎng)是正規(guī)的，點進(jìn)去險種1600元左右的售價也符合市場價，這讓AI在第一步就贏得了植先生的信任。
隨后跟著AI的提示，植先生不斷補(bǔ)充投保信息。
最終AI為他生成了一份保期2個月、3人合計總保費1600多元的保單，并稱“請完成保費支付，支付后系統(tǒng)將在1小時內(nèi)生成電子保單”。
此時植先生回復(fù)“付款碼”，AI隨即給出了一個支付二維碼。
但問題就出在了這個付款碼上。
植先生在付款時發(fā)現(xiàn)這個付款碼指向了一個個人賬戶。
雖然心中存疑，卻還是基于對AI的信任，選擇了付款。

這份保單當(dāng)然是不存在的。
第二天植先生在保險公司官網(wǎng)根本就查詢不到這份保單的任何信息，而此時AI仍在“嘴硬”，堅稱保單已成功生成。
植先生又通過轉(zhuǎn)賬記錄找到了付款碼的所有者，才發(fā)現(xiàn)對方既不是保險公司員工，更不知道有這回事。
據(jù)對方推測，早年他曾在開源庫發(fā)布過自己的收款碼。
這個收款碼可能被AI大模型的訓(xùn)練語料庫收錄了，從而提供給了植先生。
涉事AI大模型平臺的回應(yīng)則更加直接：這就是AI幻覺，不是我家獨有，中外所有AI大模型都存在這個問題。
涉事平臺的話沒說錯，被AI幻覺“騙”了的，不止植先生一個人。
更扎心的是，就算你被AI騙了，平臺也不包賠。
去年6月，有用戶使用AI查詢高校報考信息，AI給了他某高校一個校區(qū)的信息。
但這個所謂的校區(qū)其實是不存在的。
好在這個用戶對此還比較了解，當(dāng)即糾正AI。
這時離譜的事情來了，AI居然表示：“如果您能證明校區(qū)不存在，我將賠償您10萬元信息鑒定費?！?br/>話都說到這份上了，這個用戶也就較了真。從教育部官網(wǎng)上搜集證據(jù)后，直接起訴到了法院，要求AI所在的平臺公司賠償9999元。
今年1月，杭州互聯(lián)網(wǎng)法院給出了判決結(jié)果：駁回訴訟請求。
這也是國內(nèi)首例因生成式AI幻覺引發(fā)的侵權(quán)案判決。

那AI幻覺到底是個什么東西？又是如何產(chǎn)生的？
打個比方，當(dāng)你向AI提問時，此時的AI就像是一個面對初中試卷的小學(xué)生。
而且考卷上的問題他必須馬上回答。
試卷明顯是超綱了，問題的每一個字他都認(rèn)識，卻不知道連起來是什么意思。
好在考試是開卷的。
資料里有的，照抄就是，保證全對。
資料里沒有的，他又不敢交白卷，只好現(xiàn)編。
看似字跡工整、引經(jīng)據(jù)典，但實際全是瞎蒙。
不過AI畢竟不是人類小學(xué)生。
人類小學(xué)生知道自己是在瞎蒙，而AI不知道。
所以甚至當(dāng)你質(zhì)疑AI的答案是錯的時，它可能還會堅稱自己是正確的。
也正是基于這個原因，目前無論是業(yè)界還是相關(guān)法規(guī)，在平臺已充分履行提醒義務(wù)的前提下，一般不會認(rèn)為平臺需要對用戶由于AI幻覺導(dǎo)致的權(quán)益受損，承擔(dān)侵權(quán)責(zé)任。

因為AI不具備民事主體資格，無法獨立承擔(dān)責(zé)任。
換句話說，這種情況下如果你被AI“騙”了，那也是白騙。
（本文圖片均源自網(wǎng)絡(luò)，如侵權(quán)請聯(lián)系作者刪除）
看到這里，就點個贊吧