當(dāng)今世界，新一輪人工智能熱潮正席卷全球，機(jī)器學(xué)習(xí)、大數(shù)據(jù)等技術(shù)的突破和迭代更新迅速延伸至各學(xué)科領(lǐng)域，逐步成為這些學(xué)科領(lǐng)域未來(lái)發(fā)展的基礎(chǔ)性支撐。在萬(wàn)物互聯(lián)的大背景下，人工智能已成為21世紀(jì)橫跨計(jì)算機(jī)、心理學(xué)、哲學(xué)等領(lǐng)域的尖端技術(shù)之一，對(duì)現(xiàn)代戰(zhàn)爭(zhēng)的形態(tài)與模式產(chǎn)生了深刻且深遠(yuǎn)的影響。與其他新技術(shù)一樣，人工智能技術(shù)也是一把“雙刃劍”。尤其是將該技術(shù)應(yīng)用于武器裝備領(lǐng)域時(shí)，即便機(jī)器具備了人類的思維認(rèn)知能力，但也無(wú)法擁有人類所特有的社會(huì)屬性，即難以受到道德和經(jīng)濟(jì)利益的束縛。由此可見(jiàn)，如何應(yīng)對(duì)并破解戰(zhàn)爭(zhēng)中人工智能機(jī)器人的倫理問(wèn)題，便成為當(dāng)今戰(zhàn)爭(zhēng)倫理研究領(lǐng)域的緊迫課題。本文將結(jié)合機(jī)器人三大定律，從戰(zhàn)爭(zhēng)倫理與道德哲學(xué)的思辨性視角，深入剖析人工智能機(jī)器人（特指類人智能的機(jī)器人）應(yīng)用于軍事領(lǐng)域所引發(fā)的根本性倫理問(wèn)題。

基于機(jī)器人三大定律的

倫理爭(zhēng)議探討

機(jī)器有權(quán)殺人嗎？針對(duì)這個(gè)問(wèn)題，我們不妨先回顧一下知名科幻作家阿西莫夫曾提出的機(jī)器人三大定律：第一，機(jī)器人不得傷害人類，或因不作為而使人類遭受傷害；第二，除非違背第一定律，機(jī)器人必須服從人類的命令；第三，除非違背第一及第二定律，機(jī)器人必須保護(hù)自己。這一著名的機(jī)器人三大定律，其核心意義在于提醒人們，人工智能技術(shù)的發(fā)展必須要恪守相應(yīng)的倫理準(zhǔn)則。

科幻作家阿西莫夫

機(jī)器人三大定律中的第一條就是“機(jī)器人不得傷害人類”，但“傷害”本身就是一個(gè)難以準(zhǔn)確定義的概念。尤其當(dāng)機(jī)器人被應(yīng)用于軍事領(lǐng)域時(shí)，這一概念會(huì)因情境的特殊性而變得更加模糊和復(fù)雜。將人工智能技術(shù)融入機(jī)器人，并投入未來(lái)戰(zhàn)場(chǎng)中，這本身就是一個(gè)亟待深入探討的戰(zhàn)爭(zhēng)倫理問(wèn)題。

人工智能機(jī)器人作為人類制造的產(chǎn)物，若在戰(zhàn)場(chǎng)上實(shí)施殺傷行為，是否可將其視為人類的創(chuàng)造物出現(xiàn)了“異化”？要回答這一問(wèn)題，需深入剖析人工智能的本質(zhì)，并結(jié)合戰(zhàn)爭(zhēng)的本質(zhì)展開辨析。戰(zhàn)爭(zhēng)本質(zhì)上是一種暴力沖突，從這一屬性來(lái)看，“機(jī)器殺傷”似乎具備了形式上的某種合理性。然而戰(zhàn)爭(zhēng)的本質(zhì)更是政治的延續(xù)，機(jī)器無(wú)法獨(dú)立承擔(dān)其實(shí)施殺傷行為所引發(fā)的法律與倫理責(zé)任，相應(yīng)責(zé)任須由操控機(jī)器的人類主體或相關(guān)組織承擔(dān)，因此機(jī)器本身不具備實(shí)施殺傷行為的“權(quán)力”。

美軍專家計(jì)劃旨在賦予人工智能

自動(dòng)識(shí)別并生成攻擊建議的能力，

圖為該計(jì)劃中的Maven 智能系統(tǒng)

美國(guó)防部自2017年啟動(dòng)的專家計(jì)劃，便是人工智能應(yīng)用的典型案例之一。該項(xiàng)目于2022年移交美國(guó)國(guó)家地理空間情報(bào)局，旨在賦予人工智能自動(dòng)識(shí)別目標(biāo)并生成攻擊建議的能力。這一技術(shù)的發(fā)展趨勢(shì)雖未直接指向人工智能機(jī)器人自主決定實(shí)施殺人行為，卻已引發(fā)相關(guān)倫理爭(zhēng)議，且與機(jī)器人三大定律中的第一定律形成潛在的核心沖突。例如，戰(zhàn)場(chǎng)上人工智能系統(tǒng)被編程為“敵方戰(zhàn)斗人員=合法目標(biāo)”，但現(xiàn)實(shí)戰(zhàn)場(chǎng)的復(fù)雜性遠(yuǎn)非算法模型所能涵蓋：一方面是平民誤判；另一方面是戰(zhàn)斗人員與非戰(zhàn)斗人員的識(shí)別認(rèn)定界限變得愈發(fā)模糊。這一切都指向一個(gè)亟待厘清的核心問(wèn)題：如果人工智能系統(tǒng)自主發(fā)起攻擊，是否違背了“不得傷害人類”的基本原則？

用于戰(zhàn)爭(zhēng)的人工智能機(jī)器人

與其背后的倫理問(wèn)題

過(guò)去的機(jī)器旨在節(jié)省人的體力，現(xiàn)在的人工智能機(jī)器人逐步承擔(dān)起替代人類智力的功能。人工智能機(jī)器人的軍事化運(yùn)用，或?qū)⒁颥F(xiàn)有國(guó)際軍備管控條約存在的漏洞與空白，助推此類機(jī)器人武器的全球擴(kuò)散。

機(jī)器人要與道德和正義有機(jī)結(jié)合，

才能具備成為行為體的可能

人工智能機(jī)器人的人性缺陷問(wèn)題。人性，或者說(shuō)是人文主義，理應(yīng)成為人工智能發(fā)展的一盞明燈。人工智能作為現(xiàn)代科技的核心成果，其發(fā)展具有科技的“雙刃劍”特性——解放人類和發(fā)展人類，但同時(shí)也潛藏著諸多弊端。若我們不能謹(jǐn)慎看待機(jī)器人戰(zhàn)爭(zhēng)背后的倫理問(wèn)題，就有可能面臨被脫離倫理規(guī)范約束的機(jī)器人戰(zhàn)爭(zhēng)所吞噬的危險(xiǎn)。網(wǎng)絡(luò)上存在著“人類將要被人工智能打敗”的擔(dān)憂；更有觀點(diǎn)認(rèn)為，“必須慎重發(fā)展人工智能，不久的將來(lái)，人類將會(huì)被人工智能所代替，最終將變得一無(wú)是處”。這類論調(diào)無(wú)疑只看到了事物的一面，恰恰凸顯出未來(lái)人工智能戰(zhàn)爭(zhēng)所蘊(yùn)含的倫理隱患。如果我們不重視倫理層面的問(wèn)題，不及時(shí)對(duì)人工智能機(jī)器人進(jìn)行倫理規(guī)范與約束，其后果將不堪設(shè)想。

人工智能機(jī)器人的理性缺失問(wèn)題。戰(zhàn)爭(zhēng)是推動(dòng)一門技術(shù)從誕生到成熟的加速劑?？蓱?yīng)用于戰(zhàn)爭(zhēng)的人工智能機(jī)器人，一旦被投入到戰(zhàn)場(chǎng)并適應(yīng)了戰(zhàn)爭(zhēng)需求的變化，就有可能進(jìn)化為高效精準(zhǔn)、脫離人類操控的殺傷性武器，而這一進(jìn)化過(guò)程，恰恰會(huì)讓其理性先天缺失的核心問(wèn)題被無(wú)限放大。這會(huì)對(duì)戰(zhàn)爭(zhēng)的政治屬性形成反噬，最終必然會(huì)讓己方在戰(zhàn)爭(zhēng)中陷入政治被動(dòng)。

人工智能機(jī)器人的本性缺位問(wèn)題。本性主要是指人類的向善本性。從人性的角度來(lái)看，大多數(shù)士兵對(duì)殺戮行為會(huì)本能地產(chǎn)生反感，但人工智能機(jī)器人并不具備這一本性。正因?yàn)樗狈θ祟惖那楦信c價(jià)值判斷，一旦在軍事領(lǐng)域廣泛應(yīng)用，便難以避免會(huì)產(chǎn)生違背指揮官意志、引發(fā)不可預(yù)期的戰(zhàn)場(chǎng)狀況。而這種先天的本性缺失，也讓人工智能機(jī)器人在投入戰(zhàn)爭(zhēng)后，極易引發(fā)兩方面的關(guān)鍵問(wèn)題：一是會(huì)導(dǎo)致戰(zhàn)爭(zhēng)破壞性的擴(kuò)大，這是因?yàn)槠淙鄙倭巳祟悓?duì)戰(zhàn)爭(zhēng)的恐懼感與厭惡感；二是其機(jī)動(dòng)性不受電池電量之外的其他因素制約，這一特性拓展了戰(zhàn)役戰(zhàn)術(shù)的機(jī)動(dòng)邊界——機(jī)器人不知疲倦，可執(zhí)行長(zhǎng)途奔襲任務(wù)，這顯然會(huì)大大增加戰(zhàn)爭(zhēng)的不對(duì)稱性。

破解戰(zhàn)爭(zhēng)中使用人工智能

機(jī)器人倫理問(wèn)題的建議

哲學(xué)上，人們把道德與經(jīng)濟(jì)利益看作是倫理的基本問(wèn)題。而人工智能機(jī)器人對(duì)人類沒(méi)有同情心，自然不會(huì)對(duì)目標(biāo)手下留情，一旦被啟動(dòng)，其強(qiáng)大的破壞力便會(huì)使其成為冷血的“殺人機(jī)器”。在戰(zhàn)爭(zhēng)中，敵對(duì)雙方均受基于人類社會(huì)理性形成的戰(zhàn)爭(zhēng)倫理制約，也就是說(shuō)，戰(zhàn)爭(zhēng)倫理的存在對(duì)戰(zhàn)爭(zhēng)的破壞性能起到制衡的作用，讓戰(zhàn)爭(zhēng)的破壞力始終處于人類可承受的范圍內(nèi)。我們研究戰(zhàn)爭(zhēng)中使用人工智能機(jī)器人的倫理問(wèn)題，目的就在于超前研究機(jī)器人戰(zhàn)爭(zhēng)伴生的戰(zhàn)爭(zhēng)倫理問(wèn)題，并力求在未來(lái)戰(zhàn)爭(zhēng)爆發(fā)之前，尋求解決這一問(wèn)題的具體對(duì)策。

給機(jī)器人這把雙刃劍加上“人工道德”的劍鞘。對(duì)待人工智能機(jī)器人這類新事物，我們既要秉持批判態(tài)度，更要保持謹(jǐn)慎與客觀的理性思考。人工智能機(jī)器人的倫理問(wèn)題，本質(zhì)上就是“人工道德”問(wèn)題，這一問(wèn)題從源頭上來(lái)看，由人工智能技術(shù)衍生而來(lái)。這就要求科學(xué)家清醒認(rèn)識(shí)到，科學(xué)技術(shù)并非無(wú)禁區(qū)，需秉持理性原則發(fā)展人工智能技術(shù)。部分觀點(diǎn)認(rèn)為，如果包括機(jī)器人在內(nèi)的智能產(chǎn)品能夠具備“人工道德”，那么從某種意義上講，智能產(chǎn)品行為的倫理責(zé)任將從設(shè)計(jì)者與使用者轉(zhuǎn)移至智能產(chǎn)品本身。因此，對(duì)自主性要求日益提升的人工智能機(jī)器人而言，科學(xué)家應(yīng)注重其人工道德的設(shè)計(jì)與塑造，更應(yīng)推動(dòng)其自身成為人工道德行為體。相較于材料構(gòu)造、性能參數(shù)等硬指標(biāo)，讓人工智能機(jī)器人具備道德判斷與思考能力的軟指標(biāo)，其重要性同樣不容忽視。

給機(jī)器人這種類人體嵌入“正義倫理”的標(biāo)準(zhǔn)。機(jī)器人通過(guò)模仿人類思維具備類人特征，這正如計(jì)算機(jī)網(wǎng)絡(luò)之間文本傳輸依托統(tǒng)一協(xié)議，當(dāng)將其應(yīng)用于戰(zhàn)場(chǎng)時(shí)，必須先明確一個(gè)問(wèn)題——不同機(jī)器人之間，需建立起具備“協(xié)議”作用的統(tǒng)一道德約束規(guī)范，且這一協(xié)議本身要根植正義倫理的內(nèi)核。戰(zhàn)爭(zhēng)中，敵對(duì)雙方的機(jī)器人均服務(wù)于己方作戰(zhàn)目標(biāo)與政治目的，為爭(zhēng)奪戰(zhàn)爭(zhēng)利益而存在，這也為我們建立類人智能之間的統(tǒng)一道德聯(lián)系造成了巨大阻礙。其根源在于人類自身，換言之，科學(xué)家需清醒認(rèn)識(shí)到，科學(xué)與倫理有著截然不同的選擇與評(píng)價(jià)標(biāo)準(zhǔn)。因此，在開展機(jī)器人設(shè)計(jì)時(shí)，要將科學(xué)與倫理有機(jī)結(jié)合，而非僅局限于科學(xué)范疇。

給機(jī)器人這一新事物接上“社會(huì)屬性”的芯片。政治可以使文化免于沉淪，也能為人類文明發(fā)展錨定方向。愛(ài)因斯坦曾說(shuō)過(guò)：“科學(xué)家對(duì)社會(huì)政治問(wèn)題一般顯得很少有興趣。其原因在于腦力勞動(dòng)的專門化，造成了對(duì)政治和人類問(wèn)題的盲目無(wú)知。”機(jī)器人在戰(zhàn)爭(zhēng)中的倫理問(wèn)題，本質(zhì)上反映的是機(jī)器人的出現(xiàn)及其軍事應(yīng)用，會(huì)引發(fā)怎樣的道德與經(jīng)濟(jì)利益變化，以及這種變化是否契合人類在道德準(zhǔn)則與經(jīng)濟(jì)利益層面的普遍預(yù)期。也正因如此，有人擔(dān)憂這類道德與經(jīng)濟(jì)利益層面的變化，可能會(huì)引致人類文明的毀滅。從文章開篇提及的機(jī)器人三大定律可知，機(jī)器人的本質(zhì)是人類的附屬品，其社會(huì)屬性體現(xiàn)在作為人類的工具而存在，而非脫離人類獨(dú)立發(fā)展。人工智能本身，是人類依托自身區(qū)別于動(dòng)物的特有能力，賦能自身社會(huì)屬性提升、進(jìn)而實(shí)現(xiàn)自我解放的一種新嘗試，而這一嘗試，必然存在讓人類陷入新災(zāi)難的潛在可能。

免責(zé)聲明：本文轉(zhuǎn)自軍事文摘，原作者王流選、李龍林。文章內(nèi)容系原作者個(gè)人觀點(diǎn)，本公眾號(hào)編譯/轉(zhuǎn)載僅為分享、傳達(dá)不同觀點(diǎn)，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨軍事文摘

作者丨王流選、李龍林

研究所簡(jiǎn)介

國(guó)際技術(shù)經(jīng)濟(jì)研究所（IITE）成立于1985年11月，是隸屬于國(guó)務(wù)院發(fā)展研究中心的非營(yíng)利性研究機(jī)構(gòu)，主要職能是研究我國(guó)經(jīng)濟(jì)、科技社會(huì)發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問(wèn)題，跟蹤和分析世界科技、經(jīng)濟(jì)發(fā)展態(tài)勢(shì)，為中央和有關(guān)部委提供決策咨詢服務(wù)?！叭蚣夹g(shù)地圖”為國(guó)際技術(shù)經(jīng)濟(jì)研究所官方微信賬號(hào)，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見(jiàn)。

地址：北京市海淀區(qū)小南莊20號(hào)樓A座

電話：010-82635522

微信：iite_er