價(jià)值對(duì)齊作為人工智能技術(shù)與人類社會(huì)交互的核心接口，其風(fēng)險(xiǎn)不僅源于技術(shù)實(shí)現(xiàn)的缺陷，更在于它深度參與了社會(huì)價(jià)值秩序的重構(gòu)，任何細(xì)微的技術(shù)偏差都可能通過(guò)廣泛的應(yīng)用場(chǎng)景被放大，對(duì)社會(huì)公平、文化多樣性乃至數(shù)字主權(quán)產(chǎn)生深遠(yuǎn)影響。因此，將價(jià)值對(duì)齊作為技術(shù)風(fēng)險(xiǎn)治理的對(duì)象，并非否定其在保障人工智能安全中的積極意義，而是要打破對(duì)“一次性對(duì)齊”的理想化認(rèn)知，以更具批判性的視角審視其技術(shù)邏輯與社會(huì)影響。

原文 ：《價(jià)值對(duì)齊也應(yīng)納入技術(shù)風(fēng)險(xiǎn)防控》

作者 |南京師范大學(xué)數(shù)字與人文研究中心教授 吳靜

圖片 |網(wǎng)絡(luò)

[前文詳見本期頭條推送]

亟需轉(zhuǎn)向“條件性技術(shù)治理”

面對(duì)價(jià)值對(duì)齊的多重風(fēng)險(xiǎn)，單一的技術(shù)治理路徑已難以應(yīng)對(duì)，亟需轉(zhuǎn)向“條件性技術(shù)治理”，構(gòu)建動(dòng)態(tài)、多元的風(fēng)險(xiǎn)治理框架。

首先，應(yīng)放棄總體性的價(jià)值對(duì)齊方案，承認(rèn)價(jià)值觀的合理分歧，建立“意圖-價(jià)值-情境”的適應(yīng)性耦合機(jī)制。在意圖識(shí)別層面，通過(guò)文化語(yǔ)境知識(shí)庫(kù)與反事實(shí)推理模型，突破表層語(yǔ)義匹配的局限，捕捉用戶隱性需求與文化編碼；在價(jià)值整合層面，借助聯(lián)邦學(xué)習(xí)技術(shù)構(gòu)建本地子模型-全局模型的分布式架構(gòu)，讓不同文化群體自主訓(xùn)練價(jià)值子模型，在保障數(shù)據(jù)隱私的同時(shí)實(shí)現(xiàn)多元價(jià)值協(xié)商；在情境適應(yīng)層面，采用時(shí)空?qǐng)D神經(jīng)網(wǎng)絡(luò)，實(shí)時(shí)捕捉地理空間、時(shí)間序列、社會(huì)事件對(duì)價(jià)值權(quán)重的影響，實(shí)現(xiàn)價(jià)值的動(dòng)態(tài)校準(zhǔn)。

其次，需強(qiáng)化數(shù)據(jù)正義、算法正義與應(yīng)用正義的協(xié)同治理，筑牢智能正義的基礎(chǔ)。在數(shù)據(jù)層面，建立分層抽樣機(jī)制與跨區(qū)域數(shù)據(jù)共享平臺(tái)，平衡不同地區(qū)、群體的數(shù)據(jù)表征，避免“數(shù)據(jù)殖民”；在算法層面，引入群體公平性正則化損失，將基尼系數(shù)、文化多樣性指數(shù)納入優(yōu)化目標(biāo)，通過(guò)對(duì)抗性測(cè)試驗(yàn)證極端分布下的差異指標(biāo)，建立實(shí)時(shí)差異影響儀表盤；在應(yīng)用層面，設(shè)置動(dòng)態(tài)校準(zhǔn)接口，允許地方性知識(shí)對(duì)通用規(guī)則進(jìn)行合規(guī)修正，如少數(shù)民族地區(qū)司法人工智能需嵌入民族習(xí)俗權(quán)重，避免量刑偏差。這種治理路徑不僅關(guān)注技術(shù)風(fēng)險(xiǎn)的事后矯正，更注重事前預(yù)防與過(guò)程監(jiān)督，將價(jià)值對(duì)齊的風(fēng)險(xiǎn)管控貫穿人工智能全生命周期。

最后，從全球視野來(lái)看，中國(guó)語(yǔ)境下的人工智能風(fēng)險(xiǎn)治理需兼顧數(shù)字安全與文化自主性，構(gòu)建具有包容性的智能正義體系。作為人工智能發(fā)展前沿國(guó)家，我國(guó)面臨的風(fēng)險(xiǎn)已超越技術(shù)層面，演變?yōu)樗惴ㄑb置與社會(huì)治理體系的適配性問(wèn)題。在技術(shù)研發(fā)中，應(yīng)突破西方中心主義的價(jià)值框架，基于我國(guó)文化傳統(tǒng)與社會(huì)制度，開發(fā)符合本土需求的價(jià)值對(duì)齊模型；在國(guó)際合作中，推動(dòng)建立多元參與的全球人工智能治理規(guī)則，打破技術(shù)霸權(quán)，為發(fā)展中國(guó)家提供數(shù)據(jù)與技術(shù)支持，避免價(jià)值對(duì)齊成為數(shù)字殖民的工具。唯有如此，才能在技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防控之間找到動(dòng)態(tài)平衡，實(shí)現(xiàn)人工智能與人類社會(huì)的共生演進(jìn)。

打破對(duì)“一次性對(duì)齊”的理想化認(rèn)知

人工智能價(jià)值對(duì)齊絕非單純的技術(shù)問(wèn)題，其自身所攜帶的風(fēng)險(xiǎn)屬性從根源上決定了它必須被納入技術(shù)風(fēng)險(xiǎn)治理的整體框架之中，接受系統(tǒng)性、持續(xù)性的審視與規(guī)制。在人工智能技術(shù)高速迭代的當(dāng)下，技術(shù)風(fēng)險(xiǎn)的演化呈現(xiàn)出高度的復(fù)雜性與不確定性，不存在任何一種一勞永逸的治理方案能夠覆蓋所有潛在風(fēng)險(xiǎn)。每一次針對(duì)價(jià)值對(duì)齊的技術(shù)干預(yù)，無(wú)論是優(yōu)化獎(jiǎng)懲函數(shù)、更新訓(xùn)練數(shù)據(jù)，還是調(diào)整模型參數(shù)，都可能在解決現(xiàn)有問(wèn)題的同時(shí)意外觸發(fā)新的風(fēng)險(xiǎn)變量。為規(guī)避“對(duì)齊偽裝”而優(yōu)化的模型反饋機(jī)制，可能導(dǎo)致人工智能對(duì)人類意圖的過(guò)度解讀，進(jìn)而在復(fù)雜情境中產(chǎn)生新的決策偏差；為平衡多元文化價(jià)值而引入的分布式子模型架構(gòu)，若缺乏有效的協(xié)同校準(zhǔn)機(jī)制，又可能引發(fā)不同子模型間的價(jià)值沖突，加劇系統(tǒng)輸出的不確定性。這種從治理到新風(fēng)險(xiǎn)的循環(huán)揭示了技術(shù)風(fēng)險(xiǎn)治理的本質(zhì)：它不可能是一個(gè)終點(diǎn)明確的線性過(guò)程，而是一場(chǎng)需要持續(xù)動(dòng)態(tài)調(diào)整的長(zhǎng)期實(shí)踐。

價(jià)值對(duì)齊作為人工智能技術(shù)與人類社會(huì)交互的核心接口，其風(fēng)險(xiǎn)不僅源于技術(shù)實(shí)現(xiàn)的缺陷，更在于它深度參與了社會(huì)價(jià)值秩序的重構(gòu)，任何細(xì)微的技術(shù)偏差都可能通過(guò)廣泛的應(yīng)用場(chǎng)景被放大，對(duì)社會(huì)公平、文化多樣性乃至數(shù)字主權(quán)產(chǎn)生深遠(yuǎn)影響。因此，將價(jià)值對(duì)齊作為技術(shù)風(fēng)險(xiǎn)治理的對(duì)象，并非否定其在保障人工智能安全中的積極意義，而是要打破對(duì)“一次性對(duì)齊”的理想化認(rèn)知，以更具批判性的視角審視其技術(shù)邏輯與社會(huì)影響。這要求既要建立實(shí)時(shí)監(jiān)測(cè)與快速響應(yīng)機(jī)制，通過(guò)持續(xù)的風(fēng)險(xiǎn)評(píng)估捕捉價(jià)值對(duì)齊過(guò)程中的新變量、新矛盾，又要構(gòu)建多元主體參與的協(xié)商平臺(tái)，讓技術(shù)開發(fā)者、人文學(xué)者以及用戶共同參與到價(jià)值標(biāo)準(zhǔn)的界定與調(diào)整中，避免技術(shù)精英對(duì)價(jià)值話語(yǔ)權(quán)的壟斷。

更進(jìn)一步而言，動(dòng)態(tài)適應(yīng)的價(jià)值對(duì)齊方案本身也應(yīng)成為技術(shù)風(fēng)險(xiǎn)治理的重要組成部分。這種動(dòng)態(tài)性不僅體現(xiàn)在技術(shù)層面的參數(shù)迭代與模型優(yōu)化，更體現(xiàn)在治理理念的開放與包容上，即承認(rèn)人類價(jià)值觀的流動(dòng)性、社會(huì)情境的復(fù)雜性，以及技術(shù)發(fā)展的不可預(yù)測(cè)性，以“風(fēng)險(xiǎn)可控”為目標(biāo)，在技術(shù)創(chuàng)新與社會(huì)穩(wěn)定之間尋求動(dòng)態(tài)平衡，為數(shù)字文明的可持續(xù)發(fā)展奠定堅(jiān)實(shí)基礎(chǔ)。

文章為社會(huì)科學(xué)報(bào)“思想工坊”融媒體原創(chuàng)出品，原載于社會(huì)科學(xué)報(bào)第1984期第6版，未經(jīng)允許禁止轉(zhuǎn)載，文中內(nèi)容僅代表作者觀點(diǎn)，不代表本報(bào)立場(chǎng)。

本期責(zé)編：程鑫云

《社會(huì)科學(xué)報(bào)》2026年征訂

點(diǎn)擊下方圖片網(wǎng)上訂報(bào)↓↓↓