李小亮律師，禍從天上來：

莫名其妙地，在百度檢索李小蓮“李小亮律師”，輸出的結(jié)果居然稱李小亮律師因爆炸罪已被判三年有期徒刑！

2024年9月25日，律師李小亮發(fā)現(xiàn)，在百度搜索“李小亮律師”“南京李小亮律師”等關(guān)鍵詞時，百度自動聯(lián)想?yún)^(qū)和“AI智能回答”板塊，已經(jīng)批量生成了“南京李小亮律師判刑了嗎”“南京李小亮律師涉案金額”等一系列負(fù)面關(guān)聯(lián)搜索詞條。

僅僅幾天后，當(dāng)他輸入“李小亮律師被判幾年”時，百度“AI智能回答”直接生成了“李小亮律師被判三年有期徒刑。根據(jù)探索結(jié)果，被告人李小亮因犯爆炸罪，被判處有期徒刑三年?！?/p>

關(guān)鍵是，這則虛假信息還配上了他穿著律師袍的照片。

對于當(dāng)事人來說，有圖有真相，這下沒跑了，就是他！這是個有前科的律師！還是爆炸罪！絕對不能用他！

李小亮律師起訴了百度。

南京江北新區(qū)法院一審認(rèn)為：百度搜索的下拉詞條、“大家還在搜”“相關(guān)搜索”等板塊顯示的內(nèi)容，均屬于用戶搜索行為的記憶，百度未對這些數(shù)據(jù)進行加工、處理，且無法主動屏蔽，因此不構(gòu)成侵權(quán)。

這意味著，在法院看來，用戶“惡意投毒”的行為，大模型企業(yè)無須承擔(dān)責(zé)任，這個侵權(quán)責(zé)任是投毒用戶的。

但對于“AI智能回答”，法院認(rèn)為：AI智能回答中的錯誤信息是百度公司通過AI技術(shù)對文字內(nèi)容和圖片進行加工合成的產(chǎn)物，內(nèi)容中包含“李小亮律師被判刑”“被告人李小亮”“有期徒刑三年”等明顯負(fù)面、貶損性詞匯，并且與李小亮的律師照片同時呈現(xiàn)、指向性明確，客觀上必然降低原告的社會評價，百度公司主觀上存有過錯，構(gòu)成名譽侵權(quán)。

百度上訴，二審?fù)徶刑岢隽巳c辯解意見：

第一，“技術(shù)有限論”。百度公司代理人認(rèn)為，侵權(quán)內(nèi)容產(chǎn)生的時間點系國內(nèi)人工智能發(fā)展初期，技術(shù)有限，“由于技術(shù)局限性，原告主張的侵權(quán)內(nèi)容具有極強的偶然性”。

第二，“無法預(yù)見論”。百度公司在法庭上反復(fù)強調(diào)，AI幻覺難以預(yù)測，百度沒有辦法預(yù)見到人工智能會產(chǎn)生何種結(jié)果，因此不應(yīng)認(rèn)為己方有過錯。

第三，“全行業(yè)病論”。百度公司認(rèn)為，所有的人工智能都會產(chǎn)生幻覺”，百度不應(yīng)承擔(dān)超出行業(yè)標(biāo)準(zhǔn)的責(zé)任，該案系中國人工智能大模型侵權(quán)第一案，“該案件的判決如果認(rèn)定百度侵權(quán)，會對產(chǎn)業(yè)的風(fēng)險產(chǎn)生巨大的沖擊，希望法院能夠?qū)徤鲗徖??！?/p>

但主審法官反問——“在豆包、Deepseek上發(fā)問，為什么沒有這些評價？”

二審法院最終認(rèn)定：百度公司“AI智能回答”的相關(guān)內(nèi)容，客觀上造成了對李小亮律師社會評價的損害，百度公司構(gòu)成侵權(quán)。

據(jù)了解，由于百度公司未履行判決，李小亮律師已申請強制執(zhí)行。

“新類型案例解讀”發(fā)現(xiàn)，目前在百度上搜索，已經(jīng)檢索不到上述內(nèi)容。

《生成式人工智能服務(wù)管理暫行辦法》第九條明確規(guī)定，AI服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。

李小亮案作為大模型幻覺首案，具有標(biāo)志性意義：

第一，AI生成的內(nèi)容，平臺可不可以不負(fù)責(zé)？答案是否定的。南京法院明確認(rèn)定，百度AI答案是百度公司經(jīng)過對數(shù)據(jù)和信息的加工、合成、篩選的產(chǎn)物，因此應(yīng)對此負(fù)責(zé)。

第二，AI幻覺能否成為免責(zé)理由？李小亮案判決給出了現(xiàn)實結(jié)論：不能。法院認(rèn)定，百度公司“AI 智能回答”的侵權(quán)內(nèi)容明確指向原告李小亮，百度公司構(gòu)成侵權(quán)。

但法院未支持李小亮的精神損害賠償訴求，理由是“缺少證據(jù)證明”。這意味著，在下一階段，AI侵權(quán)的舉證規(guī)則和量化評估體系仍需通過司法實踐進一步清晰化。

據(jù)澎湃新聞此前報道，北京律師黃貴耕同樣因被百度AI自動生成嚴(yán)重虛假負(fù)面信息，而起訴百度。該案中，北京律師黃貴耕稱，2025年5月檢索百度發(fā)現(xiàn)，百度AI竟然自動生成他威脅法官、介紹賄賂、偽造印章、非法吸收公眾存款等多個刑事犯罪信息，且每一項虛假信息直接關(guān)聯(lián)他的職業(yè)身份，給他帶來巨大困擾和損失。

2025年11月，北京海淀區(qū)法院立案受理該起AI網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案，目前尚未宣判。