易筆直言/文

全國(guó)首例 AI 幻覺(jué)侵權(quán)案的判決，讓 AI “說(shuō)謊” 的責(zé)任歸屬成了熱議焦點(diǎn)。

2025 年 6 月，梁某使用某 AI 應(yīng)用查詢(xún)高校報(bào)考信息時(shí)，被生成的不實(shí)內(nèi)容誤導(dǎo)，而 AI 此前還曾承諾信息有誤便賠償 10 萬(wàn)元。在梁某拿出高校官方信息佐證后，AI 雖承認(rèn)錯(cuò)誤，但其運(yùn)營(yíng)方卻拒絕賠償。梁某隨后起訴索賠 9999 元，杭州互聯(lián)網(wǎng)法院最終以運(yùn)營(yíng)方無(wú)過(guò)錯(cuò)、梁某無(wú)實(shí)際損失為由，駁回了其訴訟請(qǐng)求。

這起案件的核心爭(zhēng)議，在于 AI 生成的錯(cuò)誤信息該由誰(shuí)擔(dān)責(zé)。運(yùn)營(yíng)方的抗辯理由看似站得住腳：AI 內(nèi)容系模型自動(dòng)生成，并非其意思表示，且已盡到提醒和技術(shù)優(yōu)化義務(wù)。而從技術(shù)層面來(lái)說(shuō)，AI 幻覺(jué)是大語(yǔ)言模型的固有特性，新加坡國(guó)立大學(xué)、謝菲爾德大學(xué)的研究均證實(shí)，這種 “撒謊” 在數(shù)學(xué)上具有必然性，就像圓周率是無(wú)理數(shù)一樣無(wú)法根除。AI 本就只是處理語(yǔ)詞符號(hào)的 “詞體”，沒(méi)有真實(shí)的感官經(jīng)驗(yàn)，其回答不過(guò)是脫離現(xiàn)實(shí)的 “夢(mèng)話(huà)”，這也讓運(yùn)營(yíng)方的脫責(zé)有了技術(shù)層面的支撐。

但技術(shù)上的不可避免，絕不等于運(yùn)營(yíng)方可以完全甩鍋。這一點(diǎn)，加拿大航空的 AI 客服案早已給出答案。乘客為奔喪咨詢(xún)加航智能客服，被承諾可申請(qǐng)喪親折扣，實(shí)際該航司并無(wú)此政策，系 AI 產(chǎn)生幻覺(jué)。即便加航以無(wú)法預(yù)判機(jī)器人表述為由主張免責(zé)，仍被法院駁回，最終不僅賠償折扣金額，還支付了額外賠償金，原因就是法院認(rèn)定其未采取必要措施保障 AI 回復(fù)的準(zhǔn)確性。

對(duì)比兩起案件的判決不難發(fā)現(xiàn)，我國(guó)首例 AI 幻覺(jué)案的駁回，并非否定運(yùn)營(yíng)方的所有責(zé)任，而是當(dāng)前法律對(duì) AI 這一新生事物的審慎考量，畢竟過(guò)苛的責(zé)任可能限制產(chǎn)業(yè)發(fā)展。但這絕不意味著 AI 運(yùn)營(yíng)方可以高枕無(wú)憂(yōu)，法院明確的三層注意義務(wù)，已是劃給行業(yè)的責(zé)任紅線(xiàn)：嚴(yán)審違法信息、顯著提示風(fēng)險(xiǎn)、采取技術(shù)提升準(zhǔn)確性，這些都是運(yùn)營(yíng)方必須扛起的責(zé)任。

同時(shí)，這起案件也給所有用戶(hù)提了個(gè)醒：AI 終究只是輔助工具，而非權(quán)威的決策依據(jù)。其輸出的內(nèi)容只是概率生成的文本，而非經(jīng)現(xiàn)實(shí)驗(yàn)證的知識(shí)，面對(duì) AI 給出的答案，保持甄別和核實(shí)的意識(shí)，是當(dāng)下使用 AI 的基本準(zhǔn)則。

AI 技術(shù)的發(fā)展勢(shì)不可擋，AI 幻覺(jué)也會(huì)長(zhǎng)期存在。首例案件的判決，不是這場(chǎng)討論的終點(diǎn)，而是厘清人機(jī)權(quán)責(zé)的起點(diǎn)。既不能因技術(shù)局限苛責(zé)運(yùn)營(yíng)方，扼殺創(chuàng)新；更不能讓運(yùn)營(yíng)方以技術(shù)為借口逃避責(zé)任，將風(fēng)險(xiǎn)全部轉(zhuǎn)嫁給用戶(hù)。唯有劃定清晰的權(quán)責(zé)邊界，讓運(yùn)營(yíng)方守好技術(shù)和提醒的底線(xiàn)，讓用戶(hù)保持理性判斷，才能讓 AI 在創(chuàng)新與規(guī)范中真正服務(wù)于人。