一

近日，湖北孝感大悟法院在審理一起房屋租賃合同糾紛案時，發(fā)生了一件令人啼笑皆非的事情。

原告委托自己的女兒董某擔(dān)任訴訟代理人，向法院起訴租客熊某，要求其支付后半年租金及水電費。開庭時，董某稱熊某是房屋首位租客，所有水電費均由其產(chǎn)生，并承諾庭后補交租期前后水電表照片作為佐證。

然而，當(dāng)法官看到董某發(fā)來的照片時，著實有些無語。只見董某提交的照片右下角，赫然帶有“豆包AI生成”的水印。法官回復(fù)：“你這豆包生產(chǎn)的照片不能如此吧。”

今年以來，越來越多人開始習(xí)慣把生成式人工智能作為輔助工具。一方面，技術(shù)門檻降低導(dǎo)致董某這樣的“造假”行為越來越容易；另一方面，生成式人工智能的副作用“深度偽造”“AI幻覺”也越發(fā)明顯，對司法審判也造成了不小的影響。

相比于董某這樣故意生成假圖片，很多時候，當(dāng)事人本人其實不知道，AI回答時言之鑿鑿的法條、案例，其實是瞎編的。

不久前，上海市第二中級人民法院民事審判庭一位法官曾收到一份上訴狀，其中引用了2025年3月頒布的《關(guān)于審理社會保險糾紛案件適用法律若干問題的解釋（二）》。然而，該法官查遍法條也未找到，咨詢行政庭資深法官后確認(rèn)，該司法解釋純屬AI編造。

不止是缺乏專業(yè)法律知識的當(dāng)事人，就連律師也有中招的時候。今年，北京市通州區(qū)人民法院披露，原告代理人為了進(jìn)一步佐證其觀點，在向法庭提交的書面意見中，援引了最高人民法院某案例及上海市第一中級人民法院的（2022）滬01民終12345號案件。但經(jīng)法庭核查，這兩起所謂的司法案例實為AI杜撰生成。

二

不過，對于AI可能會影響司法裁判最終結(jié)果一事，目前尚不必過分擔(dān)心。法院審理案件時，有一套嚴(yán)格的規(guī)范，對于出示的證據(jù)需要進(jìn)行質(zhì)證，引用的法律條文也會進(jìn)行核實。

在董某這起案件中，即使她心細(xì)一點，裁掉了水印，法官也需要結(jié)合其他證據(jù)來做出判斷。事實上，即使看到了如此明顯的水印，法官仍然沒有輕率地判定，而是做了進(jìn)一步核查。

比如，詢問董某水電表使用情況。在法官的反復(fù)追問下，董某的陳述很快出現(xiàn)了前后矛盾：起初她聲稱水電表為單獨使用，后在追問下改口承認(rèn)房屋為“一梯兩戶”，兩戶共用同一水電表。

雖然用AI偽造證據(jù)看起來新鮮，但用“PS”之類的修圖軟件來造假，早已有之。近日，長春凈月高新技術(shù)產(chǎn)業(yè)開發(fā)區(qū)人民法院審結(jié)一起民間借貸糾紛案，原告起訴稱，其通過債權(quán)轉(zhuǎn)讓獲得了被告欠第三人孫某的102萬元借款債權(quán)。

后來，第三人在庭審中承認(rèn)，其與被告之間并無真實借貸關(guān)系，提交的《欠條》《借款合同》均系單方制作，均無債務(wù)人簽字；關(guān)鍵的多筆銀行轉(zhuǎn)賬流水，系其使用軟件對真實流水進(jìn)行“PS”偽造、變造而成。

為了圓一個謊，需要編織更多謊言。只要法院嚴(yán)格依照司法程序進(jìn)行審理，想依靠人工智能來欺騙法院，進(jìn)而影響司法判決結(jié)果，并沒有那么容易。公眾對于司法裁判還是要有信心。

當(dāng)然，這不意味著我們不需要警惕AI“入侵”司法一事。一方面，識別高精度的偽造，需要消耗法官更多精力，會顯著增加司法成本。另一方面，上海多位法官表示，當(dāng)司法判決結(jié)果與AI給出的答案不同時，很多敗訴的當(dāng)事人會選擇相信AI，對司法公信力產(chǎn)生不信任。

三

需要指出的是，作為新質(zhì)生產(chǎn)力的代表，人工智能的好處顯而易見，使用AI工具本身不是問題。

全國律協(xié)今年組織的一場業(yè)務(wù)交流會透露，越來越多的律所引入相關(guān)應(yīng)用產(chǎn)品，搭建智能法律服務(wù)平臺，實現(xiàn)案件管理、文檔檢索自動化等，使律師在處理案件時避免了以往的重復(fù)性勞動，能夠?qū)⒏嗟木Ψ旁诎讣治龊头烧撟C上。

我們真正應(yīng)該警惕的，是對人工智能的迷信心理。不論是在司法案件中，還是在其他領(lǐng)域。

仔細(xì)觀察就會發(fā)現(xiàn)，使用傳統(tǒng)的搜索引擎時，得到的信息雖然也有真有假，但大部分是完整的單一信源，上下文都在，辨別真假較為容易。而生成式人工智能提供的往往是整合后的答案，在這個過程中，很可能斷章取義、張冠李戴，改變了原文的意思。

在上海二中院法官遇到的這起案子中，AI引用了民法典中的一條作為依據(jù)，該條款從字面上看來，可以支持上訴請求。但實際上，每一則法條都有其嚴(yán)格的適用范圍，該條款并不能用在這起案件涉及的糾紛類型上。

更有甚者，有些時候人工智能在被反復(fù)提問后，會揣摩提問者的意圖，從而給出其心中想要的答案。即使是專業(yè)人士，面對完全符合心意的回答，有時也難免放松警惕。且由于AI提供的法律知識往往格式工整，這種形式上的專業(yè)也具有很強的誤導(dǎo)性。

破除對人工智能的迷信，除了相關(guān)企業(yè)要加強對內(nèi)容的審核、持續(xù)優(yōu)化算法之外，對社會公眾的人工智能知識普及教育也需盡快提升日程。今年的全國兩會上，就有代表建議把人工智能教育當(dāng)作一項基礎(chǔ)教育來抓，從現(xiàn)在起重視培養(yǎng)學(xué)生使用人工智能的能力，大規(guī)模普及人工智能教育。好在，部分AI已經(jīng)會按用戶要求給出信息來源依據(jù)，對于新技術(shù)的應(yīng)用，我們要大膽包容，但涉及法律底線，更要審慎嚴(yán)謹(jǐn)。

來源 | 解放日報

作者 | 王閑樂