觀點 作為美國經(jīng)濟(jì)增長核心領(lǐng)域之一，AI的相關(guān)論斷與反駁至今仍難以調(diào)和。AI公司聲稱模型正以驚人速度持續(xù)迭代，然而來自一線開發(fā)者的反饋卻表明，AI帶來的收益依然被種種弊端所抵消。

AI或許能讓你成為效率十倍的程序員，但前提是你愿意花十倍的時間去準(zhǔn)備、調(diào)試和錯誤排查。你可以部署AI智能體，但同時還需要另一批AI智能體來監(jiān)控前者。AI生成的代碼需要AI生成的測試用例來應(yīng)對激增的工作量，而這一切對基礎(chǔ)設(shè)施又帶來了新的壓力。

面對如此高的賭注，兩極化的觀點與商業(yè)利益驅(qū)動下的宣傳共同在AI編程戰(zhàn)場上制造了濃厚的迷霧，這并不令人意外。在其他行業(yè)，情況更為嚴(yán)峻——缺乏明確的質(zhì)量指標(biāo)和可見的批判性分析。如果有一個領(lǐng)域擁有悠久的規(guī)則化數(shù)據(jù)質(zhì)量依賴傳統(tǒng)、透明度要求以及執(zhí)行真實性和職業(yè)標(biāo)準(zhǔn)的框架，當(dāng)AI在這一領(lǐng)域突然大規(guī)模應(yīng)用時，我們或許能清晰地看到這項技術(shù)究竟在做什么。

好消息是：這樣的領(lǐng)域確實存在，它就是法律體系。壞消息是：情況并不樂觀。

問題的根源在于兩個相互疊加、極為危險的因素，而這一組合并不陌生。AI極其擅長生成結(jié)構(gòu)完整的文件，看起來——也確實大多數(shù)情況下——像是由人類專家撰寫的。但與此同時，AI也會生成并嵌入幻覺性內(nèi)容，這些內(nèi)容在外觀和語感上與真實信息毫無二致，只是有一個小小的缺陷：它們是假的。

這些問題早已廣為人知，其后果也得到了普遍承認(rèn)。幻覺現(xiàn)象嚴(yán)重削弱了AI的實用價值，因此其輸出內(nèi)容需要經(jīng)過大量核查。然而，AI生成的內(nèi)容看起來如此出色、如此令人信服，以至于人們很容易接受AI所許諾的生產(chǎn)力大幅提升，并選擇抱著樂觀的態(tài)度僥幸行事。

這一現(xiàn)象在全球法律系統(tǒng)中的具體表現(xiàn)就是：虛假案例的出現(xiàn)。律師在法庭上的論證依賴于有既有判例支撐的邏輯推理。這體現(xiàn)在書面陳述中，律師會在陳述中引用或摘要與其論點相符的案例，并注明這些案例的檔案引用來源。

律師使用AI起草陳述書，并以期望證明的結(jié)論為提示詞進(jìn)行生成，這幾乎是必然的結(jié)果。AI幻覺出那些看似能夠支持論點的案例，同樣是必然的。部分幻覺內(nèi)容逃過事實核查，最終出現(xiàn)在法庭上，也是必然的。這種情況最早發(fā)生——或至少是首次引發(fā)廣泛關(guān)注——于2023年紐約南區(qū)的一起案件。然而，接下來發(fā)生的事情，不僅出乎意料，甚至令人咋舌。

律師與法律體系，尤其是與法庭之間，有著一種特殊的關(guān)系。一旦律師陳述事實，他們就承擔(dān)著嚴(yán)格的如實陳述義務(wù)，并有責(zé)任對所陳述內(nèi)容進(jìn)行適當(dāng)核實。他們是法庭的官員，受職業(yè)道德規(guī)范的約束。律師也被普遍認(rèn)為是人，難免犯錯，但同樣被期望能從錯誤中汲取教訓(xùn)，不再重蹈覆轍。第一位在含有AI幻覺內(nèi)容的陳述書上簽字的律師，或許還能以"這是一項全新技術(shù)，使用誘惑難以抗拒"為由進(jìn)行辯解，法庭也可能僅發(fā)出嚴(yán)重警告，就此了事。

然而，一旦這一消息在法律圈內(nèi)廣泛傳播——而法律圈向來以善于傳播內(nèi)部消息著稱——"不知情"的借口便再難成立。人們本以為虛假案例的出現(xiàn)不過是低水平的背景噪音，偶有心存僥幸者試圖蒙混過關(guān)，但所有人都清楚被一個嚴(yán)守司法尊嚴(yán)、擁有近乎無限制裁權(quán)力的機(jī)構(gòu)抓住作弊行為的后果。

然而，實際發(fā)生的情況更像是一場瘟疫的早期蔓延。就在美國那起備受關(guān)注的案件發(fā)生六個月后，另一起類似案件出現(xiàn)在倫敦的一個法庭，再次引發(fā)了法律界的關(guān)注。上周，美國國家公共廣播電臺（NPR）報道稱，法國高等商學(xué)院（HEC Paris）已記錄到全球約1200起涉及AI幻覺的案例，其中僅美國就有800起。最近某一天，來自十個不同司法管轄區(qū)的十起案件同時涌入。據(jù)悉，這一數(shù)字仍在持續(xù)攀升。

這一切的發(fā)生，是在部分案件已經(jīng)引發(fā)廣泛關(guān)注、各地法院不斷加大懲處力度、對違規(guī)律師開出六位數(shù)罰款的背景之下。與此同時，也有提案要求對AI生成的文件進(jìn)行強(qiáng)制標(biāo)注，但其實際效果恐怕不容樂觀。

法律行業(yè)長期以來有一種傳統(tǒng)：讓初級員工在資源匱乏、幾乎得不到上級支持的情況下超負(fù)荷工作。在至少一起案例中，下屬被要求使用AI生成法律簡報，卻沒有獲得用于核查案例的法律數(shù)據(jù)庫訪問權(quán)限。省錢，對吧？法律行業(yè)與其他行業(yè)一樣存在剝削現(xiàn)象，這并不令人意外。然而，它對AI表現(xiàn)出的那種難以自控的執(zhí)迷——猶如沉溺于毒品無法自拔——似乎揭示了AI潛藏的危險性。問題持續(xù)惡化也充分說明：無論新模型在哪些方面有所改進(jìn)，幻覺問題都不會就此消失。

據(jù)《The Register》了解，負(fù)責(zé)任的律師表示，使用AI所需的核查時間與其節(jié)省的時間大致相當(dāng)，但如果審慎使用，依然值得。這與AI的宣傳口號不符，卻與現(xiàn)實相符。針對案例引用進(jìn)行自動化核查的機(jī)制并非無法想象，只是這又回到了AI需要更多支撐才能完成工作的老問題。

請密切關(guān)注法律領(lǐng)域的AI幻覺現(xiàn)象。目前，我們?nèi)蕴幱谶@場"流行病"的早期階段。聰明的賭注會押在法律體系在AI問題得到修復(fù)之前率先關(guān)上這扇門，而它最終也將被關(guān)上。屆時，我們將不得不直面一個更深層的問題：在其他行業(yè)、其他組織中，AI正在造成多大的危害？在那些以自我保護(hù)代替職業(yè)道德、以沉默的默契掩蓋透明與真相的地方，答案或許令人憂慮。希望我們能在麻痹大意演變?yōu)橐粓鑫C(jī)之前，找到解決之道。

Q&A

Q1：法律行業(yè)中AI幻覺問題有多嚴(yán)重？

A：根據(jù)法國高等商學(xué)院（HEC Paris）的記錄，全球已有約1200起涉及AI幻覺的法律案例，其中僅美國就占800起，且發(fā)生頻率仍在持續(xù)上升。最近曾出現(xiàn)單日同時涌入十個不同司法管轄區(qū)案件的情況，問題的嚴(yán)峻程度遠(yuǎn)超預(yù)期。

Q2：律師在法庭上使用AI生成內(nèi)容為什么會造成問題？

A：AI在生成結(jié)構(gòu)完整、外觀專業(yè)的法律文件方面表現(xiàn)出色，但它同時會產(chǎn)生"幻覺"內(nèi)容，即捏造看似真實卻根本不存在的案例引用。律師對法庭負(fù)有如實陳述的職業(yè)義務(wù)，一旦提交含有虛假案例的陳述書，將面臨嚴(yán)重的職業(yè)處分和高額罰款，甚至損害整個訴訟程序的公正性。

Q3：使用AI輔助法律工作有沒有正確的方式？

A：據(jù)了解，負(fù)責(zé)任的律師表示，使用AI所需的核查時間與其節(jié)省的時間大致相當(dāng)，但如果審慎使用仍然值得。關(guān)鍵在于必須對AI生成的所有內(nèi)容進(jìn)行嚴(yán)格的人工核查，尤其是案例引用部分，不能因為AI輸出內(nèi)容看起來專業(yè)就直接采用，盲目信任是導(dǎo)致問題的根本原因。