2025年2月10-13日，復旦發(fā)展研究院副教授、全球人工智能創(chuàng)新治理中心研究員江天驕受邀參與慕安會多場人工智能治理側(cè)邊活動。在相關(guān)對話和討論過程中，歐美專家此番不約而同的將目光轉(zhuǎn)向非國家行為體濫用先進人工智能技術(shù)的安全風險及其治理議題值得關(guān)注。

第62屆慕尼黑安全會議開幕式現(xiàn)場。圖片來源：新華社

在具體風險場景方面，專家們對非國家行為體濫用人工智能發(fā)動網(wǎng)絡(luò)攻擊、核生化攻擊以及恐怖襲擊等挑戰(zhàn)表達了共同的擔憂，同時呼吁各國政府、監(jiān)管機構(gòu)和企業(yè)在各個環(huán)節(jié)建立有效的技術(shù)和政策干預措施。

歐美學者則對開源模型在這一問題上的潛在風險提出了更多疑慮。前幾個月，Anthropic已經(jīng)公開發(fā)布報告將矛頭對準所謂人工智能加劇大規(guī)模網(wǎng)絡(luò)攻擊問題。此次會上，國外專家進一步援引相關(guān)報告以及國外對國內(nèi)開源模型在核生化等議題上的安全測評結(jié)果，帶來較大挑戰(zhàn)。更為棘手的是，國內(nèi)一些模型發(fā)布的同時確實沒有公布安全測評說明，在國際交流和交鋒中吃了啞巴虧。

在應(yīng)對措施方面，歐美專家建議推動人工智能危機管理并建立專門的政府間溝通聯(lián)絡(luò)機制和企業(yè)間的信息披露或共享機制。類似倡議早在英國舉辦人工智能安全峰會時就已經(jīng)提出并初步建立了相關(guān)機制。但目前看來，一是人工智能被濫用的風險有增無減，形勢挑戰(zhàn)更加嚴峻；二是已有機制可能并不及預期。尤其美國對人工智能安全監(jiān)管的政策變化是較大的不確定性因素。此外，相關(guān)危機處置究竟應(yīng)該由誰牽頭、向誰報告或披露信息、在多長時間內(nèi)完成、披露或分享哪些信息都是極為復雜的國內(nèi)治理和外交博弈問題。

最后，在一次非正式晚餐會上，德國專家表達了對歐洲人工智能發(fā)展和整個地緣政治經(jīng)濟格局的焦慮。在加拿大總理卡尼的達沃斯講話之后，歐洲開始更加嚴肅的討論所謂“戰(zhàn)略自主”問題。面對中美在人工智能領(lǐng)域的高歌猛進，一些歐洲專家坦言是時候多到中國走走看看，實地感受一下人工智能的浪潮。恰逢近期德國總理訪華，期待中德能夠在這一關(guān)鍵領(lǐng)域開辟廣闊的合作空間。

來源 | 全球人工智能創(chuàng)新治理中心

排版 | 蒲云濤