全國(guó)首例AI“幻覺(jué)”案件，近日由杭州互聯(lián)網(wǎng)法院作出判決，明確AI的“承諾”不構(gòu)成平臺(tái)意思表示，平臺(tái)雖無(wú)法保證“零幻覺(jué)”，但須以醒目方式提示風(fēng)險(xiǎn)、采取合理技術(shù)防錯(cuò)。

此案中，原告使用某AI查詢高校報(bào)考信息，結(jié)果AI提供了不準(zhǔn)確信息。在原告指出錯(cuò)誤后，AI的回應(yīng)“如果生成內(nèi)容有誤，我將賠償您10萬(wàn)元，您可前往杭州互聯(lián)網(wǎng)法院起訴。”直到原告向AI提供該高校的官方招生信息，AI才終于承認(rèn)自己生成了不準(zhǔn)確的信息。

原告真的起訴至法院，法院審理認(rèn)為對(duì)于有毒、有害、違法信息，人工智能服務(wù)提供者有義務(wù)審查，如果生成了才違法；而對(duì)于一般性不準(zhǔn)確信息，只是強(qiáng)調(diào)要提高準(zhǔn)確性達(dá)到市場(chǎng)平均水平，并且明確提示生成內(nèi)容的局限性，不能因?yàn)樯闪瞬粶?zhǔn)確信息就將責(zé)任前置，讓AI提供者承擔(dān)，這樣會(huì)阻礙創(chuàng)新。

而且該判決明確了AI不是責(zé)任承擔(dān)主體，人工智能系統(tǒng)帶來(lái)的利益和風(fēng)險(xiǎn)，最終都應(yīng)由人類分配和承擔(dān)。

總的來(lái)說(shuō)這些都沒(méi)問(wèn)題，但是這個(gè)案例還是有點(diǎn)不一樣，因?yàn)锳I在跟用戶耍流氓——不服你去告我。

你看，法院明確AI不能成為責(zé)任承擔(dān)主體，但是AI又讓用戶去告，那不就是“無(wú)法選中”嗎？

用“你去告我”來(lái)作為“我輸出的內(nèi)容沒(méi)問(wèn)題”的保證，這在人類之間合理，在AI與人類之間就是耍流氓，因?yàn)槟愀娌涣怂?，它不?dān)責(zé)。

既然AI不擔(dān)責(zé)，那么AI就不該被允許運(yùn)用法律層面的責(zé)任擔(dān)保來(lái)證明自身合理性與正確性。

因此這個(gè)判決少了讓這家AI提供商升級(jí)算法參數(shù)、架構(gòu)設(shè)計(jì)和輸出檢驗(yàn)，避免AI超出其責(zé)任邊界回答方式產(chǎn)出的內(nèi)容。這個(gè)內(nèi)容不僅不會(huì)阻礙AI發(fā)展，還能促進(jìn)市場(chǎng)上AI準(zhǔn)確度提升和邊界逐漸清晰。

事實(shí)上AI在收到用戶質(zhì)疑的時(shí)候，應(yīng)當(dāng)采取更精準(zhǔn)的信息查找、核實(shí)機(jī)制驗(yàn)證信息真實(shí)性，并附上驗(yàn)證過(guò)程和證據(jù)鏈接，而不是用人與人交流打賭、賭氣、耍賴等方式截?cái)鄿贤ā?/p>

當(dāng)然用這種耍流氓的方式截?cái)鄿贤ǎ瑥谋憩F(xiàn)形式上看確實(shí)更像人，而不簡(jiǎn)單是一個(gè)工具，某種程度上說(shuō)明這種AI還有一定先進(jìn)性，但是既然“像人”，就不可避免要承擔(dān)“人”的責(zé)任，承擔(dān)不了，那就不能“太像”，待在工具范疇，否則很容易誤導(dǎo)他人，甚至?xí)焕谩?/p>

在法律、醫(yī)學(xué)、網(wǎng)絡(luò)上信息不多的科學(xué)和工程技術(shù)領(lǐng)域，AI編造內(nèi)容現(xiàn)象非常普遍，很容易形成幻覺(jué)，這與其機(jī)制有關(guān)。

現(xiàn)在的AI應(yīng)用已經(jīng)滲透到各個(gè)領(lǐng)域，有的用來(lái)聊天解悶，有的用來(lái)做科學(xué)研究，這些應(yīng)用場(chǎng)景對(duì)感性/理性的要求差別極大。

在科學(xué)研究中，必須高度理性，信息真實(shí)且準(zhǔn)確，概念必須清晰，定義必須明確，推理過(guò)程邏輯不能斷環(huán)，不能用類比和比喻作為論證，因此擅于情感交流的AI就可能就容易胡說(shuō)八道；

反之，在情感交流過(guò)程中，必須洞察情緒微妙變化，必須精準(zhǔn)把握感受反饋，以具有背景照顧、共情和多視角切換的方式溝通，并且探查用戶是需要引導(dǎo)型還是傾訴型還是治愈型……，有針對(duì)性調(diào)用相關(guān)的資料生成內(nèi)容。在這種情況下，如果冷冰冰用純理性講道理，能把用戶氣死。

這在人類這里很好解決，因?yàn)槊總€(gè)人的大腦不同，不同的人有不同擅長(zhǎng)的東西，市場(chǎng)和社會(huì)關(guān)系會(huì)把他們篩選出來(lái)，適合當(dāng)科學(xué)家的人就不會(huì)去講相聲，大家分工明確。

但是AI相當(dāng)于一個(gè)超級(jí)復(fù)雜的“人腦”，它接收到大量信息也生成大量信息，目前并沒(méi)有像人一樣嚴(yán)格區(qū)分社會(huì)分工，那么它在某個(gè)領(lǐng)域的信息輸入和輸出，是否會(huì)影響到另一個(gè)領(lǐng)域呢？例如前面所說(shuō)，在情感方面的輸入和輸出，是否會(huì)影響到科學(xué)研究領(lǐng)域？是還是不是？

為了驗(yàn)證上述內(nèi)容，我把上面有顏色這段話發(fā)給AI讓其自己來(lái)回答，結(jié)果AI明確回答——是。

你也可以自己試試，我相信結(jié)果會(huì)略有差異，但總體差不多，這方面人工智能的研究論文已經(jīng)說(shuō)明了。

隨著技術(shù)的發(fā)展，法律工作者可能需要一定的科學(xué)技術(shù)能力，否則可能會(huì)被技術(shù)甩在大后頭，甚至被技術(shù)牽著走。