洛克希德·馬丁公司首席技術(shù)官克雷格·馬特爾在人工智能峰會上預(yù)測，未來戰(zhàn)爭的核心形態(tài)將是“人機(jī)協(xié)作”。他主張人類應(yīng)深入訓(xùn)練將部署的AI系統(tǒng)，充分了解其誤差和局限性，并在決定使用后“為錯誤負(fù)責(zé)”。美國陸軍剛剛接收了首架自主“黑鷹”直升機(jī)，可在無人操作或遠(yuǎn)程監(jiān)督下執(zhí)行任務(wù)。隨著無人機(jī)戰(zhàn)爭成為現(xiàn)代沖突的核心，美軍正加速向自主系統(tǒng)轉(zhuǎn)型，但關(guān)于“何時(shí)信任AI”和“誰為失誤負(fù)責(zé)”的倫理與法律辯論也在同步升溫。

洛克希德·馬丁公司首席技術(shù)官克雷格·馬特爾周三在美國媒體Axios舉辦的人工智能+DC峰會上預(yù)測，未來戰(zhàn)爭將是人與機(jī)器的協(xié)同作戰(zhàn)。

隨著美國軍方擴(kuò)大自主武器的使用，關(guān)于何時(shí)（或是否）信任這些系統(tǒng)、以及誰應(yīng)為錯誤或誤擊負(fù)責(zé)的辯論日益激烈。

馬特爾說，“我希望我們真正聚焦于人機(jī)協(xié)作，因?yàn)槲也幌嘈糯笠?guī)模統(tǒng)計(jì)數(shù)據(jù)能讓我們實(shí)現(xiàn)認(rèn)知型機(jī)器?！?/strong>

他表示，人類的責(zé)任是與計(jì)劃部署的AI系統(tǒng)一起訓(xùn)練，并弄清它存在的錯誤和局限性?！叭缓竽悴拍茏龀隼硇缘臎Q定：是否愿意承擔(dān)責(zé)任，部署那臺設(shè)備，部署那個平臺?！?/strong>

“我選擇使用它，”他說，“如果它出錯了，那是我的錯。”

馬特爾設(shè)想的“夢之隊(duì)”是一位飛行員與一群自主飛機(jī)協(xié)同飛行，這些自主飛機(jī)可以保護(hù)飛行員。

馬特爾曾擔(dān)任美國國防部首任首席數(shù)字與人工智能官，了解軍隊(duì)如何將AI整合進(jìn)保密系統(tǒng)。

美國陸軍剛剛接收了首架自主“黑鷹”直升機(jī)，它可以獨(dú)立完成任務(wù)，或在安全遠(yuǎn)程位置的遠(yuǎn)程監(jiān)督下完成任務(wù)。

這架直升機(jī)正在進(jìn)行“嚴(yán)格”測試，由洛克希德·馬丁公司的一家子公司開發(fā)。

此次交付反映了隨著無人機(jī)戰(zhàn)爭和無人車輛日益成為現(xiàn)代作戰(zhàn)的核心，美軍正朝著自主系統(tǒng)方向廣泛邁進(jìn)。

今年1月，美國陸軍在阿拉巴馬州拉克堡舉行的儀式上，正式接收了首架UH-60A“自主黑鷹”直升機(jī)。該機(jī)由洛克希德·馬丁旗下西科斯基公司與DARPA合作開發(fā)，已完成超過500小時(shí)無人飛行測試，可在無飛行員介入的情況下執(zhí)行物資投送、傷員后送和偵察任務(wù)。陸軍未來司令部負(fù)責(zé)人表示，自主黑鷹“不是取代飛行員，而是讓飛行員從高風(fēng)險(xiǎn)任務(wù)中解放出來”。

據(jù)美國國防部3月發(fā)布的《自主武器系統(tǒng)倫理指南》更新版，五角大樓重申“人在回路”原則，強(qiáng)調(diào)“任何自主武器的使用決策，必須有可追溯的人類責(zé)任鏈條”。指南同時(shí)承認(rèn)，“當(dāng)前的技術(shù)發(fā)展速度已超過倫理框架的更新速度”，呼吁國會加快立法進(jìn)程。

據(jù)報(bào)道，美國國會2月審議了《自主武器系統(tǒng)問責(zé)法案》，該法案要求國防部在部署任何“致命自主武器”前，必須提交詳細(xì)的人工監(jiān)督方案和誤擊責(zé)任歸屬機(jī)制。法案在兩黨間獲得初步支持，但科技倫理團(tuán)體批評其“仍將人類視為決策后置環(huán)節(jié)”。