李小亮律師，禍從天上來(lái)：

莫名其妙地，在百度檢索李小蓮“李小亮律師”，輸出的結(jié)果居然稱李小亮律師因爆炸罪已被判三年有期徒刑！

2024年9月25日，律師李小亮發(fā)現(xiàn)，在百度搜索“李小亮律師”“南京李小亮律師”等關(guān)鍵詞時(shí)，百度自動(dòng)聯(lián)想?yún)^(qū)和“AI智能回答”板塊，已經(jīng)批量生成了“南京李小亮律師判刑了嗎”“南京李小亮律師涉案金額”等一系列負(fù)面關(guān)聯(lián)搜索詞條。

僅僅幾天后，當(dāng)他輸入“李小亮律師被判幾年”時(shí)，百度“AI智能回答”直接生成了“李小亮律師被判三年有期徒刑。根據(jù)探索結(jié)果，被告人李小亮因犯爆炸罪，被判處有期徒刑三年?！?/p>

關(guān)鍵是，這則虛假信息還配上了他穿著律師袍的照片。

對(duì)于當(dāng)事人來(lái)說(shuō)，有圖有真相，這下沒(méi)跑了，就是他！這是個(gè)有前科的律師！還是爆炸罪！絕對(duì)不能用他！

李小亮律師起訴了百度。

南京江北新區(qū)法院一審認(rèn)為：百度搜索的下拉詞條、“大家還在搜”“相關(guān)搜索”等板塊顯示的內(nèi)容，均屬于用戶搜索行為的記憶，百度未對(duì)這些數(shù)據(jù)進(jìn)行加工、處理，且無(wú)法主動(dòng)屏蔽，因此不構(gòu)成侵權(quán)。

這意味著，在法院看來(lái)，用戶“惡意投毒”的行為，大模型企業(yè)無(wú)須承擔(dān)責(zé)任，這個(gè)侵權(quán)責(zé)任是投毒用戶的。

但對(duì)于“AI智能回答”，法院認(rèn)為：AI智能回答中的錯(cuò)誤信息是百度公司通過(guò)AI技術(shù)對(duì)文字內(nèi)容和圖片進(jìn)行加工合成的產(chǎn)物，內(nèi)容中包含“李小亮律師被判刑”“被告人李小亮”“有期徒刑三年”等明顯負(fù)面、貶損性詞匯，并且與李小亮的律師照片同時(shí)呈現(xiàn)、指向性明確，客觀上必然降低原告的社會(huì)評(píng)價(jià)，百度公司主觀上存有過(guò)錯(cuò)，構(gòu)成名譽(yù)侵權(quán)。

百度上訴，二審?fù)徶刑岢隽巳c(diǎn)辯解意見(jiàn)：

第一，“技術(shù)有限論”。百度公司代理人認(rèn)為，侵權(quán)內(nèi)容產(chǎn)生的時(shí)間點(diǎn)系國(guó)內(nèi)人工智能發(fā)展初期，技術(shù)有限，“由于技術(shù)局限性，原告主張的侵權(quán)內(nèi)容具有極強(qiáng)的偶然性”。

第二，“無(wú)法預(yù)見(jiàn)論”。百度公司在法庭上反復(fù)強(qiáng)調(diào)，AI幻覺(jué)難以預(yù)測(cè)，百度沒(méi)有辦法預(yù)見(jiàn)到人工智能會(huì)產(chǎn)生何種結(jié)果，因此不應(yīng)認(rèn)為己方有過(guò)錯(cuò)。

第三，“全行業(yè)病論”。百度公司認(rèn)為，所有的人工智能都會(huì)產(chǎn)生幻覺(jué)”，百度不應(yīng)承擔(dān)超出行業(yè)標(biāo)準(zhǔn)的責(zé)任，該案系中國(guó)人工智能大模型侵權(quán)第一案，“該案件的判決如果認(rèn)定百度侵權(quán)，會(huì)對(duì)產(chǎn)業(yè)的風(fēng)險(xiǎn)產(chǎn)生巨大的沖擊，希望法院能夠?qū)徤鲗徖怼！?/p>

但主審法官反問(wèn)——“在豆包、Deepseek上發(fā)問(wèn)，為什么沒(méi)有這些評(píng)價(jià)？”

二審法院最終認(rèn)定：百度公司“AI智能回答”的相關(guān)內(nèi)容，客觀上造成了對(duì)李小亮律師社會(huì)評(píng)價(jià)的損害，百度公司構(gòu)成侵權(quán)。

據(jù)了解，由于百度公司未履行判決，李小亮律師已申請(qǐng)強(qiáng)制執(zhí)行。

“新類型案例解讀”發(fā)現(xiàn)，目前在百度上搜索，已經(jīng)檢索不到上述內(nèi)容。

《生成式人工智能服務(wù)管理暫行辦法》第九條明確規(guī)定，AI服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。

李小亮案作為大模型幻覺(jué)首案，具有標(biāo)志性意義：

第一，AI生成的內(nèi)容，平臺(tái)可不可以不負(fù)責(zé)？答案是否定的。南京法院明確認(rèn)定，百度AI答案是百度公司經(jīng)過(guò)對(duì)數(shù)據(jù)和信息的加工、合成、篩選的產(chǎn)物，因此應(yīng)對(duì)此負(fù)責(zé)。

第二，AI幻覺(jué)能否成為免責(zé)理由？李小亮案判決給出了現(xiàn)實(shí)結(jié)論：不能。法院認(rèn)定，百度公司“AI 智能回答”的侵權(quán)內(nèi)容明確指向原告李小亮，百度公司構(gòu)成侵權(quán)。

但法院未支持李小亮的精神損害賠償訴求，理由是“缺少證據(jù)證明”。這意味著，在下一階段，AI侵權(quán)的舉證規(guī)則和量化評(píng)估體系仍需通過(guò)司法實(shí)踐進(jìn)一步清晰化。

據(jù)澎湃新聞此前報(bào)道，北京律師黃貴耕同樣因被百度AI自動(dòng)生成嚴(yán)重虛假負(fù)面信息，而起訴百度。該案中，北京律師黃貴耕稱，2025年5月檢索百度發(fā)現(xiàn)，百度AI竟然自動(dòng)生成他威脅法官、介紹賄賂、偽造印章、非法吸收公眾存款等多個(gè)刑事犯罪信息，且每一項(xiàng)虛假信息直接關(guān)聯(lián)他的職業(yè)身份，給他帶來(lái)巨大困擾和損失。

2025年11月，北京海淀區(qū)法院立案受理該起AI網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案，目前尚未宣判。