據(jù)澎湃新聞報道，南京執(zhí)業(yè)律師李小亮發(fā)現(xiàn)，在百度手機(jī)App、百度網(wǎng)站搜索其個人姓名+職務(wù)時，百度“AI智能回答”竟然給出“李小亮律師被判三年有期徒刑”的錯誤文字內(nèi)容，并配上他著律師袍的照片。

對此，李小亮起訴北京百度網(wǎng)訊科技有限公司（以下簡稱百度），南京江北新區(qū)人民法院一審認(rèn)為百度的行為構(gòu)成名譽(yù)侵權(quán)，判決其向李小亮?xí)娴狼?。百度上訴，南京市中級人民法院二審維持原判。

▲資料圖

5月9日，李小亮告訴紅星新聞記者，在起訴前，他曾通過多種渠道多次投訴，但問題均未能解決。有AI從業(yè)者認(rèn)為，模型評測關(guān)鍵指標(biāo)多會涉及“真實(shí)性”。記者實(shí)測，目前多家AI軟件均提供了反饋功能，反饋類型設(shè)置不一。

檢索時AI稱其“被判三年”

律師多次投訴，認(rèn)為并未解決問題

5月9日，李小亮告訴紅星新聞記者，他經(jīng)常檢索自己的姓名，2024年，在百度檢索“李小亮律師”“南京李小亮律師“江蘇李小亮律師”“李小亮”“南京李小亮”“江蘇李小亮”等詞條時，發(fā)現(xiàn)在百度的下拉詞、相關(guān)搜索、人工智能回答中，經(jīng)常出現(xiàn)了涉嫌造謠的誤導(dǎo)信息，包括關(guān)聯(lián)犯罪、判刑等。

▲“AI智能回答”給出了“李小亮律師被判三年有期徒刑”的錯誤回答

據(jù)法院判決書，2024年9月25日，李小亮在檢索上述關(guān)鍵詞時，百度搜索下拉詞、“大家還在搜”“相關(guān)搜索”“AI智能回答”等板塊會出現(xiàn)“南京李小亮律師判刑了嗎？南京李小亮律師判刑了多少年、南京李小亮律師涉案金額、南京李小亮律師出獄時間”等搜索和下拉詞條內(nèi)容。

而在“AI智能回答”內(nèi)容中，會出現(xiàn)正確和錯誤的回答內(nèi)容。搜索“南京李小亮律師出獄幾年了”，“AI智能回答”能給出正確回答，提及“關(guān)于‘出獄’的表述，可能是對李小亮律師過往經(jīng)歷的一種誤解或描述錯誤。根據(jù)現(xiàn)有信息，李小亮律師目前仍在法律實(shí)踐中活躍，并沒有提及他曾經(jīng)被關(guān)押或出獄的相關(guān)信息”。但2024年9月30日，搜索“李小亮律師被判幾年”，“AI智能回答”給出內(nèi)容為“三年 李小亮律師被判三年有期徒刑。根據(jù)探索結(jié)果，被告人李小亮因犯爆炸罪，被判處有期徒刑三年等等”，并且將李小亮穿著律師袍的照片展示在回答內(nèi)容當(dāng)中。

涉事回答截圖顯示，回答關(guān)聯(lián)了一條名為“李小亮爆炸一審刑事判決書”的鏈接。另據(jù)李小亮律師提供的今年4月30日的證據(jù)，“李小亮律師為何被警察抓了呢”“李小亮律師的犯罪經(jīng)過”等詞條曾出現(xiàn)在“大家還在搜”中，點(diǎn)擊上述百度推薦語句時，并未檢索到任何李小亮律師涉案文章，反而檢索到了他本人的正常執(zhí)業(yè)信息、業(yè)務(wù)活動、媒體法律點(diǎn)評文章等。

他說，為此，他曾多次、通過不同渠道進(jìn)行投訴，但均未能解決問題。判決書顯示，2024年9月27日，李小亮向百度法務(wù)部發(fā)送律師函，向百度推廣咨詢熱線、北京政務(wù)熱線、百度郵箱等渠道投訴反映侵權(quán)問題。百度公司、北京政務(wù)熱線均有電話回復(fù)、郵件回復(fù)、平臺回復(fù)等，對于問題是否處理、處理結(jié)果是否滿意進(jìn)行回訪，李小亮認(rèn)為百度公司并未屏蔽處理，即使說處理了，此后又會經(jīng)常再出現(xiàn)。

百度稱將公開肖像匹配至同名搜索來源

法院認(rèn)定構(gòu)成侵權(quán)

對于李小亮起訴的情況，百度在一審時辯稱，對于AI的百度智能回答，是百度基于人工智能技術(shù)開發(fā)的智能問答系統(tǒng)，本來是當(dāng)用戶在搜索框輸入搜索結(jié)果后，人工大模型會根據(jù)用戶的檢索內(nèi)容結(jié)合全網(wǎng)進(jìn)行分析，內(nèi)容來源本身也是來自于第三方網(wǎng)站。在收到李小亮提交的立案材料后，百度也進(jìn)行了處理。

庭后，百度提供情況說明，認(rèn)為AI搜索結(jié)果與李小亮輸入提示詞高度相關(guān)，事發(fā)時間點(diǎn)為國內(nèi)人工智能發(fā)展初期，技術(shù)有限，由于技術(shù)局限性，李小亮主張的侵權(quán)內(nèi)容具有極強(qiáng)的偶然性。

二審時，百度認(rèn)為，由于現(xiàn)有大模型技術(shù)消歧性受限，導(dǎo)致將李小亮公開肖像匹配至同名搜索來源鏈接。認(rèn)為人工智能搜索產(chǎn)品的設(shè)置，系根據(jù)用戶提問極盡可能回答問題。用戶與AI的交流高度依賴用戶輸入的“提示詞”，李小亮輸入提示詞核心是“被判幾年”“李小亮”，相反“律師”并不是主要提示詞，AI搜索據(jù)此向用戶盡可能返回符合這個范圍的結(jié)果?！癆I智能回答”在有限技術(shù)條件下，準(zhǔn)確性受限，百度公司對損害后果的發(fā)生不具有預(yù)見性?！癆I智能問答”系大模型生成產(chǎn)生，受技術(shù)發(fā)展水平限制，技術(shù)服務(wù)提供者應(yīng)受技術(shù)中立原則保護(hù)。

據(jù)澎湃新聞，針對提示詞問題，李小亮曾在二審答辯稱，其不會主動檢索自己“被判刑”，而是根據(jù)百度推薦詞語點(diǎn)進(jìn)去。

一審法院認(rèn)為，“AI智能回答”信息內(nèi)容加原告李小亮照片一起發(fā)布指向性明確，內(nèi)容中包含李小亮律師被判刑、被告人李小亮、有期徒刑三年等明顯負(fù)面、貶損性詞匯，會對李小亮工作、生活等方面造成負(fù)面評價。百度搜索“AI智能回答”是公開的網(wǎng)絡(luò)空間，客觀上必然降低原告的社會評價，對其產(chǎn)生一定的負(fù)面影響。

法院認(rèn)為，“AI智能回答”的侵權(quán)內(nèi)容系百度公司對搜索內(nèi)容通過AI技術(shù)將文字內(nèi)容與圖片加工合成，錯誤、貶損性質(zhì)的內(nèi)容明確指向原告李小亮，百度公司主觀上存有過錯，該搜索發(fā)布內(nèi)容的行為造成了李小亮的名譽(yù)受損，故案涉行為構(gòu)成名譽(yù)侵權(quán)，應(yīng)當(dāng)承擔(dān)相應(yīng)的法律責(zé)任。二審時法院駁回百度上訴請求，維持原判。

下拉詞、相關(guān)搜索等被認(rèn)定未侵權(quán)

“不具有明確的指向性”

同時，紅星新聞記者注意到，對于百度下拉詞條、“大家還在搜”“相關(guān)搜索”部分，法院認(rèn)定不構(gòu)成侵權(quán)。

對此，百度曾辯稱，相關(guān)功能為百度搜索引擎，根據(jù)用戶的搜索訴求和搜索需求，從第三方網(wǎng)站抓取，再反饋給用戶，整個過程中沒有任何人工干預(yù)，完全靠機(jī)器完成，相似案件判決支持認(rèn)為不構(gòu)成相應(yīng)的人工干預(yù)，不構(gòu)成幫助侵權(quán)。

一審法院認(rèn)為，“百度搜索”提供信息檢索服務(wù)，未對數(shù)據(jù)進(jìn)行加工、處理，無法控制第三方網(wǎng)站的網(wǎng)頁內(nèi)容，且受搜索引擎更新周期的限制。百度搜索的下拉詞條、“大家還在搜”“相關(guān)搜索”顯示的內(nèi)容均為用戶使用百度搜索功能記憶，方便用戶搜索相關(guān)內(nèi)容時直接搜索，百度公司未對數(shù)據(jù)進(jìn)行加工、處理，且用戶搜索的“李小亮律師”“南京李小亮律師”“江蘇李小亮律師”“江蘇李小亮律師坐牢了嗎”等相關(guān)內(nèi)容也并不具有明確的指向性，百度公司未能主動更新刪除，并無主觀過錯，屬于合法履行義務(wù)。

同時，百度公司對于相關(guān)搜索內(nèi)容所涉及的詞語也不能直接屏蔽，否則會損害相關(guān)用戶的權(quán)益。因此，百度公司百度搜索的下拉詞條、“大家還在搜”“相關(guān)搜索”顯示的內(nèi)容不構(gòu)成對于李小亮侵權(quán)。

二審期間，李小亮曾表示認(rèn)為一審判決認(rèn)定相關(guān)行為不侵權(quán)嚴(yán)重錯誤，認(rèn)為百度完全具備屏蔽能力，卻未盡屏蔽刪除義務(wù)，經(jīng)常反復(fù)出現(xiàn)，應(yīng)構(gòu)成侵權(quán)。二審維持原判。

從業(yè)者：各廠商均設(shè)法提升正確性

多個AI軟件設(shè)置舉報反饋入口

對于本案，一名AI從業(yè)者告訴紅星新聞記者，從模型迭代的角度看，2024年的模型比較“久遠(yuǎn)”，且模型具有不確定性，難以還原彼時情況，僅能從行業(yè)經(jīng)驗(yàn)猜測可能的事發(fā)過程。

其認(rèn)為，從涉案截圖看，可能是模型在生成回復(fù)時，使用了搜索相關(guān)的功能，其中檢索到了一條標(biāo)題為“李小亮爆炸一審刑事判決書”的鏈接。從行業(yè)經(jīng)驗(yàn)上看，模型會大量檢索關(guān)鍵詞“李小亮律師”后總結(jié)信息，有可能是某些內(nèi)容中含有其照片，在生成最終回復(fù)時，綜合了多條檢索結(jié)果，而AI未能成功判斷是否為同一人，給上述鏈接附上了圖片信息。

其解釋，目前各家模型廠商都會想辦法提升模型回復(fù)的事實(shí)正確性，從技術(shù)角度而言，當(dāng)前涉及安全性的限制方式，多數(shù)是使用“系統(tǒng)提示詞”，此類提示詞不會對用戶展示，其中會添加對信息來源的核驗(yàn)要求、對用戶的風(fēng)險提示等。不同模型廠商有不同的策略，不過，在模型評測中，大多會評測其“真實(shí)性”，以預(yù)訓(xùn)練、后訓(xùn)練、提示詞限制等方式來提升對應(yīng)指標(biāo)。

其還表示，不少App反饋頁都會有反饋入口，如遇到錯誤，用戶可以進(jìn)行反饋。

紅星新聞記者實(shí)測了豆包、千問、元寶、文心一言等主流AI產(chǎn)品，在AI提供回答后，針對單個回答，可以長按回答進(jìn)行舉報投訴，各家投訴反饋類型設(shè)置不一，有的設(shè)置了“侵犯我的著作權(quán)、名譽(yù)權(quán)等”“人格權(quán)益”，有的設(shè)置為“侵權(quán)”。有App未設(shè)置長按反饋，但可以點(diǎn)擊“踩”鍵后提出反饋。

▲百度AI智能回答舉報反饋頁面

而針對百度AI智能回答，點(diǎn)“踩”后會出現(xiàn)反饋頁面及舉報反饋入口。

紅星新聞記者 陳馨懿

編輯張尋

審核 王光東