近幾年來最刺人的轉(zhuǎn)變就是人慢慢地變成了自己不想成為的樣子。越南傳出要引入星鏈，爭論未息，馬斯克又投下“冰核彈”：多家媒體稱SpaceX與xAI參與美國國防部保密競賽，目標(biāo)是把語音控制與高度自主化的無人機(jī)蜂群捆成一套系統(tǒng)——一句口令，蜂群自起飛、自找目標(biāo)、自定打法。難點(diǎn)并不在將AI粘到無人機(jī)上，而在人要撤退到何種程度。

2015年，馬斯克和霍金等人聯(lián)名發(fā)布公開信，反對自主武器，即不要讓生死由機(jī)器來決定；到了2018年，他又承諾決定生死的事情不能交給算法。他當(dāng)時就是科技圈里的“屠龍者”。但近幾年風(fēng)向突變：SpaceX與軍方的合作越來越深入，既有Starlink，也有為防務(wù)設(shè)計的Starshield，還有發(fā)射合同；xAI也開始招募擁有絕密權(quán)限、可以無縫對接五角大樓的工程師。

無人機(jī)蜂群不是一架飛機(jī)，而是一群幾十架甚至上百架無人機(jī)在空中互相聯(lián)接起來，互相配合，根據(jù)情況變化自行拆分任務(wù)，有的偵察、有的壓制、有的殿后、有的充當(dāng)誘餌；當(dāng)單個無人機(jī)受損時，整個群體會通過算法進(jìn)行自我修復(fù)，隊(duì)形自動調(diào)整，任務(wù)也不會中斷。此技術(shù)可以改變殺傷效率以及作戰(zhàn)節(jié)奏。

在俄烏戰(zhàn)場，無人機(jī)已經(jīng)無處不在，目前大多還是“人+機(jī)器”，監(jiān)控、跟蹤、按下按鈕。馬斯克試圖把人再往外推一步，讓人退到語音調(diào)度的位置上，一句“清除火力點(diǎn)”，其他的就交給系統(tǒng)了。

贊成的人會說，AI使得誤傷減少、成本降低、延遲縮短、士兵更加安全。聽上去都行，但是重要的是：閾值是誰設(shè)定的？誰來承擔(dān)責(zé)任？戰(zhàn)場信息不全、偽裝和誘騙成為常態(tài)，算法總會有出錯的時候，誰敢伸手喊“?！?？戰(zhàn)火一燃，“特殊時期特殊措施”便會出現(xiàn)。

從“人類共同體”、“科技向善”變成了“國家安全”、“戰(zhàn)略威懾”。詞沒有問題，語境也沒有問題，但是情緒從溫?zé)嶙兂闪死溆?。技術(shù)推動，權(quán)力牽引。星鏈這樣的低軌衛(wèi)星，誰掌握了誰就掌握了數(shù)據(jù)通道的話語權(quán)；自主蜂群誰領(lǐng)先誰就能重寫戰(zhàn)場規(guī)則。聯(lián)合國秘書長古特雷斯表示，賦予機(jī)器殺人權(quán)利是政治上不可接受的、道德上令人反感的。當(dāng)年馬斯克也站在這邊；現(xiàn)在，他站在制造機(jī)器的工作臺前。

中國的路徑比較清晰：一手防被“卡脖子”，不把通信命門交給別人；一手自主研發(fā)推進(jìn)，AI和低軌衛(wèi)星并行，“千帆星座”等項(xiàng)目逐步疊加，目標(biāo)是2030年鋪開。很多人認(rèn)為它慢、笨、燒錢，但是未來的戰(zhàn)爭就是算法對算法、衛(wèi)星對衛(wèi)星、無人系統(tǒng)對無人系統(tǒng)的戰(zhàn)爭。掌握核心技術(shù)不是為了和誰過不去，而是為了讓別人不敢來打你；沉得住氣、守得住線，才有資格談和平。

最難的是由誰來畫出“機(jī)器不可逾越”的那條線？軍方曾經(jīng)的人在回路使得人們感到安心，但是層層遞減之后的人在回路就只剩下最后確認(rèn)了。蜂群戰(zhàn)術(shù)中所言的“確認(rèn)”，大概就是打開或者關(guān)閉總開關(guān)。

對于馬斯克是變還是務(wù)實(shí)，仁者見仁，智者見智。最應(yīng)該警惕的是“變”會被多少人復(fù)制：當(dāng)最有影響力的企業(yè)家?guī)е鴥杉易罴獾墓巨D(zhuǎn)身的時候，輿論天平就會傾斜，資本就會跟上，神經(jīng)也會“適應(yīng)”，很多曾經(jīng)說過“不”的話就會被悄悄改成“先試試”。

技術(shù)的船雖然開得很快，但方向盤仍然掌握在人類手中；核能、化工、互聯(lián)網(wǎng)曾經(jīng)把人類帶到了邊緣，但是依靠一些丑陋卻有效的規(guī)章制度、協(xié)議以及自律把人類拉了回來。AI以及無人化武器也無法避開這條路。底線不是嘴上說出來的，而是一次又一次的“我不做”。