美國堪薩斯州聯(lián)邦地區(qū)法院近日開出了首張AI 幻覺罰單：由于律師在專利案件的法院文件中引用了 ChatGPT 生成的不存在判例和引文且未加核實，法官裁定相關(guān)律師團隊需支付共計 1.2 萬美元的罰款。這起事件并非意在禁止 AI 技術(shù)，而是鮮明地提醒法律從業(yè)者：無論技術(shù)多先進，律師都有義務(wù)對提交給法院的內(nèi)容進行充分核查，確保程序誠信。

Lexos Media IP LLC在起訴 美國知名電商Overstock.com涉嫌專利侵權(quán)的過程中，其代理律師提交的文件包含了由 ChatGPT 生成的引文和案例。然而這些引用完全是虛構(gòu)的，包括并不存在的判例名稱和斷章取義的法律論述。負責該案的堪薩斯聯(lián)邦地區(qū)法官在審查文件后，當即發(fā)出訂單要求解釋，并最終在2026年2月2日簽署意見，對相關(guān)律師和律所予以制裁。

2025年6月，Lexos 公司在堪薩斯聯(lián)邦法院提交了針對 Overstock 的專利侵權(quán)訴訟文件；2025年12月17日，法院發(fā)現(xiàn)其中存在AI幻覺內(nèi)容，發(fā)出命令要求解釋；2026年2月2日，法官正式作出制裁決定。

Lexos 指控 Overstock 網(wǎng)站侵犯其三項與自定義鼠標光標顯示/動畫相關(guān)的專利。具體而言，這些專利涉及在網(wǎng)頁中修改光標圖像顯示效果的技術(shù)，例如用戶將鼠標懸停在產(chǎn)品圖片上時，光標替換為放大鏡效果等。這類技術(shù)細節(jié)成為訴訟焦點之一。

2025年7月初，Lexos 團隊提交了反對被告排除專家證人證詞的意見書，以及針對被告 summary judgment 動議的回應(yīng)書。這些文件由 Sandeep Seth 起草，據(jù)其后來承認，他為節(jié)省時間使用了 ChatGPT 輔助法律研究但未對其輸出結(jié)果進行獨立核查。結(jié)果，ChatGPT給出了若干看似權(quán)威卻實際上并不存在的案例引用和法律段落。法官審閱時發(fā)現(xiàn)多處可疑之處，包括引用了根本不存在的判決引用和完全錯誤的法律摘錄，甚至對真實案例的描述也前后矛盾。更嚴重的是，有些內(nèi)容疑似直接從無關(guān)案件的材料中復(fù)制粘貼而來，Lexos律師后來承認，有兩段引述中的相同錯誤是從別的文件中“照搬”過來的，涉及Cordis、Baldwin、AstraZeneca等無關(guān)案例，引發(fā)法官對流程管理的質(zhì)疑。

Overstock 的律師在回復(fù)中指出了這些虛假引用，提請法庭注意并暗示此舉已違反聯(lián)邦民事訴訟規(guī)則第11條以及堪薩斯州職業(yè)道德規(guī)范第3.3條（即向法庭據(jù)實陳述的義務(wù)）。雖然被告方當時并未正式提出制裁動議，法院仍依職權(quán)于2025年12月15日發(fā)出了《命令要求律師說明原因》，要求Lexos代理律師逐一說明自己在起草、審核和提交上述文件過程中的角色，使用了哪些AI工具，以及在提交前做過何種核查。法官特別要求解釋：為何這些AI生成的謬誤得以混入正式文件？律所是否有不同于以往的審查流程？以及Lexos公司是否知情并批準使用生成式AI。

經(jīng)過對各律師書面回復(fù)的審核，羅賓遜法官在2026年2月2日發(fā)布了長達36頁的意見書，認定Lexos代理團隊集體違反了聯(lián)邦民訴規(guī)則11(b)。該規(guī)則要求律師在向法院提交文件時經(jīng)過“在當時情形下合理的詢問”，確保法律主張有理有據(jù)。然而，本案中有五名代理律師在明知或應(yīng)知文件包含虛假內(nèi)容的情況下簽署了文件，未盡到基本核實義務(wù)。法院據(jù)此對相關(guān)律師和律所施加了總計12,000美元的罰款，并按過錯程度作出區(qū)別處理。

主責律師罰款 5,000 美元。由于他直接使用了ChatGPT并插入錯誤引用，法官還撤銷了他在本案中的臨時出庭許可（pro hac vice），并責令其在2026年2月底前向所在州律師紀律當局提交本裁決書副本，報告此違規(guī)行為。同時他必須向法院提交一份說明，詳述其律所將采取哪些內(nèi)部整改措施來防止今后再發(fā)生類似情況。Seth 隨后郵件回應(yīng)媒體稱：“這是一次令人尷尬的教訓(xùn)。各律所若不建立嚴格的AI使用政策，就不該在任何情況下把AI當作工具，以免釀成錯誤?！?/p>

主辦律所合伙人各罰款 3,000 美元。這兩位律師雖然并未親自撰寫有誤內(nèi)容，但作為簽字律師，沒有盡到審核把關(guān)責任。法官明確指出，不了解AI并不能豁免責任，在他人起草的文件上簽名卻不審閱，依然構(gòu)成對Rule 11義務(wù)的違反。

羅賓遜法官在裁決書中措辭嚴厲，強調(diào)這是一次對律師群體的警示。她指出：“一名理稱職的律師在向法院提交文件時，應(yīng)當意識到使用未經(jīng)驗證的生成式AI進行法律研究存在明顯且眾所周知的風險，同時也應(yīng)清楚在簽署法院文件而不核實其準確性時所承擔的倫理義務(wù)”。換言之，AI并不能成為逃避盡職調(diào)查的借口。法官還感慨，近年因為律師不核實AI輸出而引用“虛構(gòu)”判例所引發(fā)的司法意見“數(shù)量之多令人震驚”。從紐約到懷俄明，各地法院紛紛遇到類似問題，不得不發(fā)出警告、罰款等制裁措施。就在2023年，紐約南區(qū)法官卡斯特曾因一起航空事故案中律師引用了ChatGPT捏造的六個虛假判例而對涉事律師及其律所罰款5000美元。如今兩年不到，多起案件中均出現(xiàn)了AI“幻覺”造成的失當行為：有的法院罰款，有的直接舉行聽證對律師進行訓(xùn)誡。羅賓遜法官引用這些案例，表明司法系統(tǒng)對這類問題已經(jīng)形成共識：無論AI多聰明，律師都必須親自確保提交給法院的一字一句是真實可靠的。

法律界對此事反應(yīng)強烈。許多律師在社交媒體上表示，這一案件為所有法律從業(yè)者敲響警鐘：AI 可以提高工作效率，但不能代替律師的專業(yè)判斷和誠信義務(wù)。一位參與報道此事的律師評論道：“法院并不是在反對AI本身，而是在維護法律程序的誠信。我們可以使用AI工具輔助工作，但絕不能不加審查地照單全收AI給出的結(jié)果?！币灿衅髽I(yè)法務(wù)人員指出，如果律師在工作中過度依賴AI而不驗證，其風險不僅自己擔責，還可能給客戶帶來無法挽回的損失——從敗訴到商譽受損，代價沉重。

律師事務(wù)所應(yīng)當建立明確的AI使用標準作業(yè)程序（SOP），包括檢索原始資料、復(fù)核AI輸出內(nèi)容、留存核查記錄等步驟，確保任何引文和事實都有據(jù)可查。生成式AI提供的內(nèi)容應(yīng)僅作為初稿或思路參考。律師應(yīng)當像對待助理的草稿那樣對待AI輸出，既可以參考其建議，但必須自行查證每一個引用和事實，尤其不能直接把AI的話當成既成事實寫進法律文件。

AI可以加速資料查找和文書撰寫，但不能也永遠不應(yīng)替代律師對真實性和準確性的把關(guān)。對于法律從業(yè)者乃至所有借助AI工作的專業(yè)人士而言，最穩(wěn)妥的做法是將AI視作助手而非權(quán)威，時刻保持質(zhì)疑精神和審慎態(tài)度。對于律師提交的文件更應(yīng)該注意，因為對手會帶著放大鏡審查，任何錯誤都難以蒙混過關(guān)。

Maxipat致力于作為成為科技創(chuàng)新和知識產(chǎn)權(quán)工作的AI加速器，主要包括輔助創(chuàng)新：提高研發(fā)的科技創(chuàng)新效率；智能搜索與分析：將專利搜索和報告制作借助AI實現(xiàn)智能化，包括智能查新、無效、FTO、Landscaping報告；投資助手：快速生成投資賽道報告、專利購買篩選、專利轉(zhuǎn)化評估。目前開放注冊中。輔助科技創(chuàng)新和知識產(chǎn)權(quán)工作的AI智能體

感興趣的朋友可以通過以下三種方式填寫申請信息：

1. 請發(fā)郵件到郵箱：info@maxipat.com

2. 點擊文末閱讀全文；

3. 掃描以下二維碼

感興趣的朋友可以加筆者微信patentlight