記者|潘巧

責(zé)編|張晶

正文共3450個字，預(yù)計(jì)閱讀需10分鐘▼

2025年12月，北京市通州區(qū)人民法院民事審判一庭（家事審判庭）副庭長鄭吉喆審理的一起商事糾紛案例入選人民法院案例庫。這起商事糾紛的案情并不復(fù)雜，但其中的兩個關(guān)鍵詞“人工智能”和“虛假案例”，在上述案例庫中并不多見——原告訴訟代理人律師楊某向法院提交的“參考案例”，事后被發(fā)現(xiàn)是由人工智能生成，未經(jīng)核實(shí)便作為代理意見的一部分提交給法院。

根據(jù)鄭吉喆的介紹，涉事AI生成案例的形成時間是2024年年底，提交時間是2025年年初。這一時間節(jié)點(diǎn)意味著，在AI技術(shù)快速滲透各領(lǐng)域的早期階段，AI生成的虛假案例已經(jīng)在司法審判中出現(xiàn)，為司法實(shí)踐帶來新的挑戰(zhàn)。

AI生成的“完美”案例

2024年12月30日，一起因股權(quán)代持引發(fā)的商事糾紛案件在北京市通州區(qū)法院開庭審理，原告方作為顯名股東訴求相關(guān)方承擔(dān)侵權(quán)責(zé)任。庭審中，原告委托寧夏某律師事務(wù)所律師楊某作為訴訟代理人參加訴訟。

庭審結(jié)束后，楊某向法院提交書面代理意見，其中援引了兩個分別來自最高人民法院和上海市第一中級人民法院的案例，以佐證其在本案中提出的類似訴訟請求曾得到相關(guān)法院的判例支持。

根據(jù)最高人民法院發(fā)布的《關(guān)于案例指導(dǎo)工作的規(guī)定》及其實(shí)施細(xì)則的規(guī)定，各級人民法院正在審理的案件，在基本案情和法律適用方面與最高人民法院發(fā)布的指導(dǎo)性案例相類似的，應(yīng)當(dāng)參照相關(guān)指導(dǎo)性案例的裁判要點(diǎn)作出裁判。參照時，應(yīng)當(dāng)將指導(dǎo)性案例作為裁判理由引述，但不作為裁判依據(jù)引用。2024年5月，最高人民法院發(fā)布的《人民法院案例庫建設(shè)運(yùn)行工作規(guī)程》中，也明確要求各級人民法院審理案件時，應(yīng)當(dāng)檢索人民法院案例庫，嚴(yán)格依照法律和司法解釋、規(guī)范性文件，并參考入庫類似案例作出裁判。

法官鄭吉喆接受本社記者專訪。記者 莊德通/攝

鄭吉喆介紹，在審判實(shí)踐中，法院非常重視參考案例的“參照”作用。“我們對案例的作用特別重視，在審判實(shí)踐中會參照指導(dǎo)性案例以及人民法院案例庫的參考案例等權(quán)威案例進(jìn)行裁判。此外，最高人民法院和上級法院的判決，也對法官有較強(qiáng)的指引作用。”鄭吉喆說。

正因如此，法院對楊某提交的參考案例非常重視。鄭吉喆告訴記者，按照審判流程，法院收到訴訟當(dāng)事人提交的參考案例后，首先會進(jìn)行形式上的審查，若參考案例與正在審理的案件的事實(shí)、爭議法律問題相似，會進(jìn)一步核實(shí)案例的真實(shí)性。

“若參考案例真實(shí)，與正在審理的案件具有相似性、一致性，且是指導(dǎo)性案例或者人民法院案例庫的參考案例，可直接引述作為明示的裁判理由，對于其他參考案例，如果跟正在審理的案件足夠相似，也會在案件的審理中予以考慮。”鄭吉喆說。

法官助理在核實(shí)參考案例時發(fā)現(xiàn)，楊某提供的案例與正在審理的案件的事實(shí)細(xì)節(jié)、法律爭議以及裁判邏輯高度契合，看似具有較強(qiáng)的參考價(jià)值，但該案例所述事實(shí)情況與相應(yīng)案號對應(yīng)的真實(shí)案件的事實(shí)情況完全不符。

“會不會是代理律師比較粗心，把案號寫錯了，導(dǎo)致跟案件本身對不上？”鄭吉喆回憶，最初法官助理還與楊某電話聯(lián)系，催促、提醒楊某核實(shí)提交的參考案例案號是否有誤，楊某在電話中回復(fù)稱會再進(jìn)行核實(shí)，但始終沒有更正或重新提交。

法官助理將此事向鄭吉喆匯報(bào)，鄭吉喆仔細(xì)查看楊某提交的參考案例后察覺異常，“案例的裁判要點(diǎn)與楊某想要達(dá)到的訴求太像了，加上案例的文本格式與AI生成文本的特點(diǎn)有一定相似性，我基本篤定這就是AI生成的?！编嵓獑凑f。

記者在中國裁判文書網(wǎng)搜索印證時也發(fā)現(xiàn)，標(biāo)注為最高人民法院的案例無法搜索到；上海市第一中級人民法院的相關(guān)案號，對應(yīng)的是一起民間借貸糾紛，與本案不僅案由不同，案情也完全不同。

在鄭吉喆的詢問下，楊某承認(rèn)兩個案例是他根據(jù)本案的事實(shí)提煉關(guān)鍵詞和爭議焦點(diǎn)后，反復(fù)向某人工智能語言模型軟件提問后獲得，并且沒有經(jīng)過核實(shí)就將兩個案例寫入代理意見提交給法院。

最終，法院沒有采納楊某基于虛假案例提出的代理意見。

“應(yīng)該有一個態(tài)度”

隨著人工智能技術(shù)快速發(fā)展，一個新詞也隨著AI的應(yīng)用而產(chǎn)生——“AI幻覺”。

據(jù)了解，“AI幻覺”是指人工智能大模型“自說自話”、一本正經(jīng)“胡說八道”、生成偏離事實(shí)的內(nèi)容。

2025年初，某人工智能語言模型軟件掀起使用熱潮時，記者曾使用該模型軟件搜索相關(guān)案例，雖然該模型的回答中給出明確的案號及案例內(nèi)容，但記者在中國裁判文書網(wǎng)輸入案號查詢時發(fā)現(xiàn)，要么搜索不到相關(guān)案例，要么案號與實(shí)際裁判案例內(nèi)容完全不相同。

那么，楊某提交的由AI生成的虛假案例，是否屬于“AI幻覺”導(dǎo)致的過失？

鄭吉喆介紹，楊某提交的代理意見署名日期是2024年12月31日，正值A(chǔ)I大模型興起初期，公眾對于AI大模型尤其是“AI幻覺”問題的認(rèn)識仍然處于早期階段。從案例的生成時間、生成文本的原始狀態(tài)上判斷，楊某的行為“過失大于故意”。

“現(xiàn)在大家知道‘AI幻覺’，AI會說‘瞎話’，但在當(dāng)時不了解‘AI搜索’‘AI幻覺’的情況下，是一個情有可原的狀態(tài)。”鄭吉喆介紹，楊某更像是過于相信AI工具帶來的便利和效率，更多是一種過失心態(tài)。

本案承辦法官鄭吉喆翻閱案件材料。記者 莊德通/攝

不過，鄭吉喆也強(qiáng)調(diào)，楊某提交AI生成案例的行為對審判工作造成影響，不僅降低了審判效率，也嚴(yán)重干擾了審判秩序?！霸V訟過程中需要遵循誠信的原則，不管是當(dāng)事人還是訴訟代理人，向法院提交的任何材料要保證真實(shí)性。案例雖然不是正式的法律淵源，但對案件審理具有重要參考作用。一旦構(gòu)成誤導(dǎo)，是一個很嚴(yán)重的問題。司法公信力也會受到影響?！编嵓獑凑f。

據(jù)了解，律師提交AI生成的虛假案例在國內(nèi)屬于新情況，對于利用AI生成虛假參考案例這一行為如何處理，缺乏明確的法律依據(jù)或可參考的實(shí)踐經(jīng)驗(yàn)。《民事訴訟法》第一百一十四條雖然對偽造、毀滅重要證據(jù)等行為有處罰規(guī)定，但鄭吉喆認(rèn)為，楊某提交AI生成的虛假案例不能歸入這一范疇。

鄭吉喆解釋，案例屬于訴辯證據(jù)范疇，不屬于證據(jù)。楊某向法院提交未經(jīng)核實(shí)的虛假案例的行為不構(gòu)成上述條款規(guī)定的“偽造、毀滅重要證據(jù)”。

“現(xiàn)有民事訴訟法中，沒有對這種情形作出明確規(guī)定。但是，我們認(rèn)為此事確實(shí)對我們產(chǎn)生切身影響，擾亂了司法秩序，所以我們覺得在這個案件中，（法院）應(yīng)該有一個態(tài)度。”鄭吉喆介紹。

考慮到楊某提交AI生成且未經(jīng)核實(shí)的虛假案例是過失態(tài)度，沒有造成嚴(yán)重后果，也沒有對裁判結(jié)果造成影響，楊某也坦承問題，通州區(qū)法院認(rèn)為，楊某的行為屬于情節(jié)相對輕微的情形，不宜作出罰款拘留的處罰，最終決定在判決書中對其提出批評教育，希望能夠引起律師對此事的足夠警醒。

2025年4月，通州區(qū)法院對本案作出判決，并在判決書中對楊某提交虛假案例的行為進(jìn)行批評教育，“原告代理人在庭后向本院提交參考案例時包含了部分人工智能語言模型生成的內(nèi)容，其提交的部分參考案例與該案號下案件事實(shí)情況完全不同，本院對此提出批評，希望原告代理人引以為戒，在向法院提交參考案例、法條時，應(yīng)當(dāng)進(jìn)行檢查和核驗(yàn)，確保內(nèi)容的真實(shí)性和準(zhǔn)確性，不得放任人工智能模型生成或者編造虛假信息擾亂司法秩序?！?/p>

本案宣判后，雙方當(dāng)事人均未提起上訴，判決已發(fā)生法律效力。

并非孤例的警示

實(shí)際上，由人工智能生成虛假訴訟材料的情況，已經(jīng)不是孤立事件。本案發(fā)生后，多地法院也陸續(xù)公布了類似的情況——

2025年11月，湖北省孝感市大悟縣人民法院審理的一起房屋租賃合同糾紛案中，原告提交的水電表照片證據(jù)上帶有“豆包AI生成”的水印，法院對其進(jìn)行法治教育和訓(xùn)誡，對其提交的偽造證據(jù)不予采信。

2025年12月，浙江省臺州市中級人民法院公布的一起案例中，臺州市路橋區(qū)人民法院在審理一起房屋租賃合同糾紛案件時，發(fā)現(xiàn)原告利用AI技術(shù)修改聊天記錄，偽造證據(jù)，法院對原告進(jìn)行批評教育，并依據(jù)民事訴訟法的相關(guān)規(guī)定，對其作出罰款的處罰。

類似情況的集中出現(xiàn)，暴露了AI技術(shù)應(yīng)用給司法審判帶來的全新挑戰(zhàn)，也對司法審判工作提出更高要求。鄭吉喆介紹，此事之后，該院對訴訟當(dāng)事人提交的案例和證據(jù)的審查更加審慎。

“即使當(dāng)事人不是故意的，提交的案例也可能是有問題的或者不真實(shí)的?！编嵓獑刺寡裕珹I降低了普通人參與訴訟的門檻，降低了普通人或者其代理律師在法律工作中的難度，但對于法院來說，應(yīng)該進(jìn)一步提高認(rèn)識和警惕性。

根據(jù)AI使用的實(shí)踐經(jīng)驗(yàn)以及本案的審理經(jīng)驗(yàn)，鄭吉喆提醒，可通過三個方面識別AI生成的虛假案例特征：AI生成案例的案號往往呈現(xiàn)刻意規(guī)律化的特點(diǎn)，多采用“12345”等連續(xù)整數(shù)或“111”等具有明顯特征的數(shù)字；案情描述過度貼合需求場景，呈現(xiàn)人為定制化特征；AI有時會刻意模糊案件可識別要素，比如當(dāng)事人姓名等，因此最穩(wěn)妥的識別方法是通過登錄中國裁判文書網(wǎng)對生成案例的真實(shí)性進(jìn)行核實(shí)和驗(yàn)證。

“目前還沒有專門的AI虛假內(nèi)容檢測工具，識別難度較大，很多識別工作仍依賴法官的責(zé)任心，我們必須擦亮雙眼，避免被虛假證據(jù)、案例所蒙蔽?！编嵓獑凑f。