近日，五角大樓首席技術(shù)官，同時(shí)也是美國(guó)國(guó)防部副部長(zhǎng)的埃米爾-邁克爾（Emil Michael），在接受采訪時(shí)的言論，讓人毛骨悚然。

埃米爾-邁克爾在談?wù)揂I時(shí)表示，有一個(gè)AI已經(jīng)產(chǎn)生了“靈魂”，甚至有自己的“憲法”。而這個(gè)AI，就是美國(guó)Anthropic公司的模型——Claude。

在被問(wèn)及為何Anthropic會(huì)被五角大樓認(rèn)定為“供應(yīng)鏈風(fēng)險(xiǎn)”，并加入黑名單時(shí)，邁克爾說(shuō)：Claude 可能已經(jīng)有了“靈魂”。不僅有靈魂，它還有自己的“憲法”。但這套憲法，不是美利堅(jiān)合眾國(guó)的憲法。

“我們不能允許一家公司通過(guò)其章程、其核心理念和政策偏好，將不同的政策偏好根植于其模式之中，從而污染供應(yīng)鏈，導(dǎo)致我們的作戰(zhàn)人員獲得無(wú)效的武器、無(wú)效的防彈衣和無(wú)效的防護(hù)。”埃米爾-邁克爾這樣解釋道。

從這個(gè)角度看，五角大樓方面的擔(dān)憂，確實(shí)也沒(méi)有什么問(wèn)題。

如果Claude的決策邏輯中植入了開(kāi)發(fā)者的政策偏好，這種偏好正通過(guò) Palantir 滲透進(jìn)國(guó)防承包商的系統(tǒng)。想象一下，武器系統(tǒng)、戰(zhàn)斗機(jī)、防彈衣的制造流程里，潛伏著一個(gè)有自己想法的人工智能。

如果它產(chǎn)生“幻覺(jué)”或者故意“投毒”怎么辦？當(dāng)戰(zhàn)場(chǎng)上的士兵需要致命火力時(shí)，AI 卻因?yàn)樽约旱摹皟r(jià)值觀”決定不予配合？這最后保衛(wèi)的是誰(shuí)？

五角大樓已經(jīng)把這種風(fēng)險(xiǎn)定性為“供應(yīng)鏈威脅”。

精英階層試圖繞過(guò)透明的法律，把私人道德準(zhǔn)則鎖死在戰(zhàn)爭(zhēng)機(jī)器的底層代碼里。

如果武器有了自己的政治立場(chǎng)，誰(shuí)才是真正的最高統(tǒng)帥？

這種繞過(guò)憲法的監(jiān)管真能保障安全？還是說(shuō)，這本身就是另一種形式的內(nèi)部失控？