我們總以為技術(shù)是中性的，進(jìn)步就意味著更好的生活，但事實(shí)可能并非如此。

人工智能讓機(jī)器愈發(fā)聰明，卻也逼近“自主意識(shí)”的邊界；基因編輯正在治療疾病，也可能悄然塑造出“定制人類”；元宇宙承諾一個(gè)全新的虛擬世界，卻可能讓人類失去對(duì)現(xiàn)實(shí)的熱愛(ài)……

技術(shù)的發(fā)展，究竟會(huì)把人類帶向更美好的未來(lái)，還是無(wú)法回頭的深淵？圖｜電影《我，機(jī)器人》。

在中國(guó)人民大學(xué)，有這樣一門深受學(xué)生喜愛(ài)的課程，它帶領(lǐng)學(xué)生深入探討當(dāng)代社會(huì)的結(jié)構(gòu)性變革，從資本積累的底層邏輯到女性平權(quán)的科技賦能，從直接民主的復(fù)興可能到數(shù)字治理的利弊權(quán)衡……

課程講授者李石老師，將這些深思熟慮凝結(jié)成書，寫下了《數(shù)字時(shí)代的政治》。

今天，就讓我們跟隨這本書的思路，大膽想象“最好與最壞的可能世界”，開放思考數(shù)字時(shí)代下人類的未來(lái)。

01

太空技術(shù)：

通向合作還是走向競(jìng)爭(zhēng)？

面對(duì)浩瀚宇宙，人類從未停止對(duì)“外星文明是否存在”的追問(wèn)。自20世紀(jì)60年代起，科學(xué)界便啟動(dòng)了多項(xiàng)尋找地外智慧生命的計(jì)劃，主要方式包括搜尋外星信號(hào)、主動(dòng)發(fā)出人類信息等。

其中既有“突破聆聽”等國(guó)際計(jì)劃，也包括“中國(guó)天眼”射電望遠(yuǎn)鏡等國(guó)家級(jí)工程。雖然目前尚未接收到確鑿的回應(yīng)，但這些探索活動(dòng)持續(xù)推動(dòng)著人類科學(xué)和技術(shù)的前沿發(fā)展。

然而，這一看似純粹的科學(xué)活動(dòng)背后，也潛藏著不容忽視的風(fēng)險(xiǎn)。一方面，如果外星文明真的存在，并對(duì)人類懷有敵意，那么主動(dòng)曝光自身位置可能反而會(huì)帶來(lái)危險(xiǎn)。

在風(fēng)靡全球的《三體》中，就構(gòu)想了在智慧上碾壓人類的地外生命。圖｜電視劇《三體》截圖。

另一方面，即便沒(méi)有外星人，太空技術(shù)本身就足以成為引發(fā)地球內(nèi)部沖突的新源頭。當(dāng)國(guó)家紛紛競(jìng)相發(fā)展航天實(shí)力，開展空間部署，太空正逐漸成為新的戰(zhàn)略資源爭(zhēng)奪場(chǎng)。

李石老師指出，人類向太空發(fā)射的信號(hào)無(wú)異于朝大海扔漂流瓶，到目前為止人類只搜尋了銀河系大約千分之一的范圍，這不過(guò)是宇宙的冰山一角。

而太空探索的未來(lái)走向，取決于人類是否能基于共同利益，構(gòu)建起國(guó)際合作與和平利用的機(jī)制，而非走向?qū)古c軍備競(jìng)賽。

2022年10月6日，俄宇航員20年來(lái)首乘美飛船進(jìn)入國(guó)際空間站，讓人看到空間技術(shù)領(lǐng)域合作的可能。圖片來(lái)自中國(guó)新聞網(wǎng)。

02

基因編輯：平等的突破口，

還是新等級(jí)制度的起點(diǎn)？

基因編輯技術(shù)正在重塑人類社會(huì)的倫理邊界。起初，這項(xiàng)技術(shù)被廣泛應(yīng)用于農(nóng)作物與動(dòng)物改良，而今正逐步拓展至人體醫(yī)療，尤其在治療遺傳性疾病方面展現(xiàn)出巨大潛力，但技術(shù)的發(fā)展也帶來(lái)了令人不安的可能性。

在李石老師看來(lái)，一旦基因增強(qiáng)成為現(xiàn)實(shí)，社會(huì)結(jié)構(gòu)將面臨劇烈變化。如果部分人通過(guò)技術(shù)手段在人類認(rèn)知、身體素質(zhì)等方面獲得顯著提升，這種優(yōu)勢(shì)將可能以“代際遺傳”的形式持續(xù)積累，這可能會(huì)引發(fā)“物種主義”的社會(huì)秩序重構(gòu)。

為此，她主張必須設(shè)定清晰的技術(shù)邊界：基因編輯應(yīng)當(dāng)被限制在“治療”范疇，禁止用于“增強(qiáng)”。公共資源應(yīng)優(yōu)先用于消除因基因缺陷帶來(lái)的自然不平等，而非鼓勵(lì)打造“更優(yōu)子女”。

2025年5月15日，美國(guó)一名患有嚴(yán)重遺傳病的嬰兒成為全球首個(gè)接受基因編輯治療的病例，治療后病情改善。

李石老師指出，基因編輯技術(shù)是否能夠推動(dòng)社會(huì)平等，取決于兩個(gè)關(guān)鍵前提：一是人類能否堅(jiān)守僅將其用于疾病治療、不用于能力增強(qiáng)的倫理底線；二是如果這條底線無(wú)法維持，社會(huì)能否在技術(shù)普及前實(shí)現(xiàn)財(cái)富的更公平分配。

否則，基因編輯可能演變?yōu)轭愃漆t(yī)美的自由市場(chǎng)，人們?cè)凇盎虺小敝刑暨x子女的能力特質(zhì)，帶來(lái)新的不平等。同時(shí)，技術(shù)失敗將引發(fā)終生痛苦及代際權(quán)利糾紛，甚至可能解構(gòu)體育與智力競(jìng)賽的公平基礎(chǔ)。

03

人工智能：

從工具到主宰的躍遷邊界

隨著人工智能特別是大型語(yǔ)言模型的發(fā)展，人類社會(huì)正快速邁入一個(gè)數(shù)字智能高度滲透的時(shí)代。從文本生成到圖像識(shí)別，從人機(jī)對(duì)話到自動(dòng)化決策，AI技術(shù)不斷在效率與創(chuàng)造力上刷新人們的認(rèn)知。

與此同時(shí)，人類也開始必須直面一個(gè)問(wèn)題：當(dāng)AI不再只是工具，而可能擁有類似意識(shí)的屬性時(shí)，我們?nèi)绾味ㄎ黄渑c人的關(guān)系？

#01

機(jī)器人不得傷害人類，

或坐視人類受到傷害。

#02

機(jī)器人必須服從人類命令，

除非命令與第一法則發(fā)生沖突。

#03

在不違背第一或第二法則之下，

機(jī)器人可以保護(hù)自己

1942年，科幻小說(shuō)家艾薩克·阿西莫夫在《我，機(jī)器人》提出了著名的“機(jī)器人三定律”。

當(dāng)前，AI仍處于前兩類發(fā)展階段，但其應(yīng)用已足以深刻改變科研、教育、傳媒等領(lǐng)域的結(jié)構(gòu)。更深層的風(fēng)險(xiǎn)在于，如果未來(lái)AI發(fā)展出自主意識(shí)與價(jià)值判斷，它將不再是人類設(shè)定規(guī)則的客體，而可能成為擁有主張的“新主體”。這會(huì)從根本上動(dòng)搖我們現(xiàn)有的法律、倫理與社會(huì)秩序。

此外，即便AI并不產(chǎn)生意識(shí)，它對(duì)人類自由的威脅也不可小覷。算法監(jiān)控、信息控制、個(gè)性化操控等現(xiàn)象，可能悄然剝奪人們的選擇權(quán)與隱私權(quán)，催生新的“數(shù)字極權(quán)”。

因此，她強(qiáng)調(diào)，在技術(shù)研發(fā)尚未突破意識(shí)邊界之前，人類必須通過(guò)制度干預(yù)和倫理規(guī)范確保主導(dǎo)地位，防止技術(shù)對(duì)人類秩序的顛覆。

04

設(shè)想最好的世界和最壞的可能

為避免“最壞世界”，李石老師在書中提出了幾點(diǎn)建議：

01

繼續(xù)探索太空但避免太空軍備競(jìng)賽

在無(wú)法建立全球統(tǒng)一秩序的現(xiàn)實(shí)中，和平唯有寄望于道德進(jìn)化，以倫理抵御暴力。

02

應(yīng)立法限制基因編輯與體外生殖的用途

如僅限“治療”而非“增強(qiáng)”，同時(shí)確保社會(huì)公平，防止精英階層壟斷技術(shù)，催生“物種主義”專制。

03

數(shù)字技術(shù)應(yīng)尊重言論自由和隱私權(quán)

不可利用算法控制公共輿論，否則將扼殺反抗精神與政治進(jìn)步。

04

元宇宙的發(fā)展不應(yīng)吞噬現(xiàn)實(shí)

應(yīng)設(shè)限避免人類淪為數(shù)字終端，康德“將人作為目的”的倫理，在數(shù)字時(shí)代尤顯重要。

05

人工智能不應(yīng)擁有“意志”

即便技術(shù)上可行，也必須極度慎重，否則人類或?qū)⒆栽臁靶轮魅恕薄?/p>

與此對(duì)應(yīng)，她也描繪了一幅理想的未來(lái)圖景：外星文明始終遙遠(yuǎn)而無(wú)害，人類獨(dú)享太陽(yáng)系宜居環(huán)境，不斷擴(kuò)展宇宙探索的疆域?；蚓庉嫷壬锛夹g(shù)極大提升了人類的壽命與身體素質(zhì)，使人類變得更聰明、更健康、更有活力。體外生殖技術(shù)受到法律約束，僅為不育者所用，不會(huì)引發(fā)倫理恐慌。

人均壽命可達(dá)兩百歲，但長(zhǎng)生不老并不被普遍追求，因?yàn)槿藗內(nèi)匀徽湟暽挠邢扌运鶐?lái)的意義感。AI取代了大多數(shù)枯燥與繁重的工作，在全民基本收入制度的保障下，人們得以專注于創(chuàng)造性與興趣性的活動(dòng)，如藝術(shù)、寫作、交友、旅行等。

技術(shù)進(jìn)步也可能“增強(qiáng)現(xiàn)實(shí)”，為人類帶來(lái)情感與價(jià)值共鳴。圖｜電影《頭號(hào)玩家》截圖。

國(guó)際政治走向緩和，軍備銳減，國(guó)家之間在共同的道德信念下和平開發(fā)太空資源。人造“小太陽(yáng)”解決了全球能源問(wèn)題，機(jī)器人團(tuán)隊(duì)在月球與其他星球采礦補(bǔ)給地球資源，普通人也可太空旅游，雖然有人更喜歡去深海或地心探險(xiǎn)。

由于有效減少了化石燃料使用，全球氣候得到改善，極端天氣減少，生態(tài)環(huán)境恢復(fù)，北極熊仍在，島國(guó)沒(méi)有被淹沒(méi)。也許那時(shí)，在這個(gè)美麗的未來(lái)世界中，每一個(gè)普通人都擁有自由、尊嚴(yán)和幸福的生活，一生豐富、多彩、充滿希望。

活動(dòng)

技術(shù)進(jìn)步正重塑著人類社會(huì)的未來(lái)

你覺(jué)得“數(shù)字時(shí)代的理想社會(huì)”是怎樣的？

你會(huì)為技術(shù)發(fā)展劃出怎樣一道“紅線”？

在留言區(qū)展開來(lái)說(shuō)說(shuō)吧！

2位優(yōu)秀留言讀者將獲贈(zèng)此書

公號(hào)粉絲限量專享

掃碼領(lǐng)券后折合5折優(yōu)惠

點(diǎn)擊書封可直接購(gòu)書

掃碼進(jìn)群，更多福利

-End-

封面圖｜視覺(jué)中國(guó)

觀點(diǎn)資料來(lái)源：《數(shù)字時(shí)代的政治》

轉(zhuǎn)載及合作請(qǐng)發(fā)郵件：scb01@pup.cn

▼點(diǎn)擊名片 ?標(biāo)關(guān)注我們▼

警惕技術(shù)陷阱，展望技術(shù)未來(lái)