圖片由AI工具生成

田松教授：好，非常感謝劉鈍教授，給我們提供了很多可以討論的東西。講了很多歷史的，然后又和現(xiàn)在相關(guān)聯(lián)的，我就不多做評論了。我們還有大概半個(gè)小時(shí)的時(shí)間，大家有什么問題可以提出來，可以舉手。應(yīng)該說這個(gè)演講我是期待很久了，我在南科大開過一門課，叫《科學(xué)倫理與技術(shù)倫理》名家講堂，這個(gè)課就是邀請國內(nèi)做科學(xué)倫理和技術(shù)倫理的學(xué)者到南科大來講。第一輪開這個(gè)課的時(shí)候，還是在疫情時(shí)期，幾乎都是在網(wǎng)上進(jìn)行的。第二輪課開的時(shí)候，劉鈍老師人在美國，沒有來成。這個(gè)課現(xiàn)在已經(jīng)不能開了，因?yàn)槲覀兊恼n程進(jìn)行調(diào)整，外聘老師的課幾乎都停了，所以完全由邀請來的老師講課就停止了。這次有機(jī)會(huì)請劉鈍老師，不能在我課堂上講，但是可以做一個(gè)南科大講堂。南科大講堂是南科大級別最高的一個(gè)講座，所以在這講也是非常合適的。我覺得有很多有意思的地方，當(dāng)初“科玄論戰(zhàn)”的時(shí)候，張君勱是在清華學(xué)堂，面對的都是一些將要出國的理工科學(xué)生，我們在南科大也只有理工科的學(xué)生，劉鈍老師來這，也是面對理工科的學(xué)生。然后講這樣的話題，和那個(gè)事件相隔100年，很多話題過了100年，但并沒有過時(shí)，也并沒有消失，反而顯得更加突出，更加尖銳了。我是墊一些話，期待著大家舉手。

同學(xué)一：我是大一的同學(xué)，我叫李XX。我剛剛聽的是，困擾霍爾丹和羅素的兩個(gè)問題。霍爾丹覺得倫理在阻礙著科學(xué)的進(jìn)步，羅素?fù)?dān)心科學(xué)的進(jìn)步被政府所掌握之后，會(huì)去控制人民的行為，但是看現(xiàn)在這個(gè)環(huán)境，你會(huì)發(fā)現(xiàn)，正好這兩點(diǎn)困擾的東西都被占了，政府又掌握著各種最先進(jìn)的技術(shù)來控制人民，整個(gè)社會(huì)的倫理發(fā)展又極大地限制著科學(xué)的進(jìn)步。這種情況是否會(huì)持續(xù)呢？如果持續(xù)下去，會(huì)造成什么樣的結(jié)果？

劉鈍教授：（這個(gè)問題）很好，也很大，我很難給予準(zhǔn)確的回答?？茖W(xué)探索無止境，這是美國范內(nèi)瓦爾·布什（Vannevar Bush）提出來的。他在1945年二戰(zhàn)結(jié)束時(shí)給美國總統(tǒng)的報(bào)告，被我們譯成《科學(xué)，無盡的前沿》，這里的“前沿”（Frontier）本來有疆域的意思，令人想起美國18世紀(jì)末開始的西進(jìn)運(yùn)動(dòng)，說科學(xué)是一個(gè)無盡的前沿，就是說科學(xué)中存在著無窮盡的未知疆域，所以它總是在發(fā)展的。我們作為智人這么一個(gè)種群，天性就是好奇，科學(xué)家更是好奇者中的佼佼者。從非常久遠(yuǎn)的古代開始，我們的祖先剛剛走出非洲，領(lǐng)頭的一定是非常聰明的人，頭領(lǐng)也好，酋長也好，肯定是最優(yōu)秀的，也最具有好奇心的個(gè)體。于是后來就有了巫術(shù)、神話和宗教，再后來就有了科學(xué)和技術(shù)。

對自然奧秘的探索永無止境，這是人類的天性決定的，但是沒有止境不意味著科學(xué)沒有禁區(qū)。在我看來，有些東西是應(yīng)該設(shè)禁區(qū)的，當(dāng)然不是每個(gè)科學(xué)從業(yè)者都同意。生物工程就非常明顯，像賀建奎那樣的實(shí)驗(yàn)就不應(yīng)該做，絕對不能做。只是不能做不意味著沒有人做，我猜想有些人在偷偷地做。說不定在大洋深處的某個(gè)島上，就有個(gè)米諾斯王般的億萬富翁出錢在做。如果不用倫理或法律來限制，大概率是不可以的，很難防止可怕的負(fù)面結(jié)果出現(xiàn)。所以在這時(shí)候，我們更需要羅素先生提出來的，需要良心，需要道德，需要倫理。

另外一方面，你剛才講的政府，我不準(zhǔn)備多評論了。我們確實(shí)感到科學(xué)的進(jìn)步，有一種超出了我們想象的力量，或者超出人類之本性所能接受的程度，比方說“新冠”之后大家都習(xí)慣了進(jìn)大學(xué)要報(bào)備，前兩天我在深圳另一所大學(xué)，進(jìn)了一道門，到了第二道門又被攔住，還要給東道主打電話。北京也是，本來是用人民的錢辦的高等學(xué)府，外地的老人家想帶著兒孫看看名牌大學(xué)，但是進(jìn)不去。黌宮非皇宮，學(xué)府乃天下公器。就是想看看宏偉壯觀的大城樓，也得通過種種安檢且不能停留，沒有辦法，只有年輕人騎共享單車快速通過。不過大家對這已經(jīng)習(xí)以為常了，其實(shí)是非常不正常的。

此外，大數(shù)據(jù)完全知道你要干什么，哪怕你不喜歡的東西，偶爾看過一眼，它就會(huì)推送給你。每個(gè)人都被watched，有人盯著，對此我的感覺非常不好。我們看哲人羅素，他已經(jīng)談過這些了，這種東西會(huì)影響我們這個(gè)種群的健康生存。這方面不能展開太多了，我們確實(shí)面臨著很多問題。一方面享受著科學(xué)技術(shù)帶來的便利，最happy的是我夫人，一天到晚買買買，不用上街了；最麻煩的是什么東西都在別人的掌控當(dāng)中。大數(shù)據(jù)時(shí)代，或者我們叫信息社會(huì)，赫拉利也寫了這個(gè)問題，信息就是力量（Information is Power），這原來是從弗朗西斯·培根的名言“知識就是力量”（Knowledge is Power）借來的。這個(gè)Power既可以理解成力量，也可以理解成權(quán)力。到了?？履抢?，他就把主語和賓語倒過來了，也就是“權(quán)力就是知識”，這就是他的知識-權(quán)力論。有了權(quán)力就是學(xué)界老大，有錢能招一大堆博士替他干活，能擴(kuò)充實(shí)驗(yàn)室，能批量制造論文，而且老大會(huì)變得越來越大，這是馬太效應(yīng)。套用?？碌闹R-權(quán)力論，赫拉利的口號就變成了“權(quán)力就是信息”，這是對大數(shù)據(jù)后果的一個(gè)最精彩推論。誰掌握了信息，誰就掌握了人類族群的命運(yùn)。過去是巫師、酋長、君王、教皇、元首，未來是能夠玩透大數(shù)據(jù)的家伙，是不是硅基文明呀？我發(fā)揮得多了點(diǎn)，就到這里吧。

同學(xué)二：老師好，我是大二的，也是來自數(shù)學(xué)系的本科生。我的問題是，今天的主題是由希臘神話引申出來的，西方或者歐洲有很多比如說《圣經(jīng)》，包括希臘神話那一系列相關(guān)的一些來自于古代的故事，那么后面會(huì)有很多人，無論是出于宗教信仰原因，或者說想表達(dá)自己的觀點(diǎn)，創(chuàng)作出了一系列衍生的作品，比如說像荷馬，我想他肯定會(huì)在其中加入一些自己的想法，表達(dá)自己的觀點(diǎn)。我想問的就是，當(dāng)我們有了這么多衍生的作品，例如說像《圣經(jīng)》，或者說希臘神話，它其中的核心剩下的是什么？后人在希臘神話或者《圣經(jīng)》中加入了自己的解釋，那么希臘神話或者《圣經(jīng)》或者其他的一些本體作品，它本身到底是有意義的還是無意義的？

劉鈍教授：作為人類文化遺產(chǎn)的繼承者，我覺得先人創(chuàng)造出來的所有事物都有意義，不管是什么信仰，什么樣的理念或意識形態(tài)，文化遺產(chǎn)都應(yīng)該得到尊重，都應(yīng)該學(xué)習(xí)，但你不要全部相信。我還是回到剛才講的《人類簡史》，其作者赫拉利說智人之所以能夠戰(zhàn)勝其他類物種成為地球的主宰，最重要的就是他們有語言，會(huì)講故事，編故事，這里面包括八卦與謊言，上面提到的各種權(quán)威文本也不例外，這是一種組織民眾的強(qiáng)大手段。赫拉利自己是一個(gè)猶太人，但他不信任何宗教。他的意思說白了就是，《圣經(jīng)》、荷馬以及各種權(quán)威文本跟希臘神話沒有多少區(qū)別，都是聰明人編的故事。他根據(jù)動(dòng)物行為學(xué)的研究結(jié)果說道，像大猩猩、黑猩猩這種跟人類最相近的靈長類動(dòng)物，具有很強(qiáng)的社會(huì)性，但是動(dòng)物學(xué)家觀察到?jīng)]有50個(gè)以上的大猩猩或黑猩猩群體，多了就要打架。反過來，智人卻能組織起千百萬數(shù)目的個(gè)體，在聰明人編造的故事的引導(dǎo)下與大自然或者敵人戰(zhàn)斗，所以他們能夠戰(zhàn)勝其他的種群，猶如我們的祖先在歐洲淘汰了尼安德特人一樣。人類社會(huì)發(fā)展到現(xiàn)在，有了大數(shù)據(jù)這種東西，故事就編得更完滿了。所以要看你從什么觀點(diǎn)來看，從文化學(xué)來講，人類創(chuàng)造的所有美好東西都應(yīng)該學(xué)習(xí)和繼承。但你要注意，要辨別里面的東西，我剛才講的那兩位英國紳士，都是利用神話做隱喻，他們并不相信什么代達(dá)羅斯、伊卡洛斯，只是借過來講自己的故事。

田松教授：剛才劉鈍教授推薦的赫拉利的幾本書，大家應(yīng)該找時(shí)間看一看，非常好，像《人類簡史》已經(jīng)很有名了，后來還有兩本。

同學(xué)三：老師您好，我是大三的本科生，專業(yè)是生物醫(yī)學(xué)工程。關(guān)于您剛才講的故事，我有一點(diǎn)要補(bǔ)充一下，赫拉利講的這個(gè)故事，它不一定是虛構(gòu)的，它有可能也是在一定程度上反映現(xiàn)實(shí)的，但是它比現(xiàn)實(shí)要更加容易聽懂，所以他更加容易被別人接受。我想就您剛才講的赫拉利的觀點(diǎn)，進(jìn)行一個(gè)延伸的提問。現(xiàn)在大家都知道人工智能的信息革命時(shí)代已經(jīng)到來了，是人類有史以來，或者說幾次革命以來性質(zhì)最為不一樣的一次革命，因?yàn)槌霈F(xiàn)了硅基生命。在赫拉利的這個(gè)觀點(diǎn)里面，現(xiàn)在AI自己就會(huì)創(chuàng)造故事了，那么這里面一個(gè)典型的例子就是所謂的數(shù)字殖民主義。在古代人類無聊的時(shí)候，他可能會(huì)去打獵，他可能會(huì)去發(fā)明象棋去玩一些游戲，但是現(xiàn)在我們無聊，我們就會(huì)刷手機(jī)，我覺得這個(gè)是最弱的一種殖民方式。那么最深刻的一種殖民方式，是比如說像谷歌這樣的搜索引擎軟件，大家都用谷歌，大家都用bing搜索，數(shù)據(jù)或者說power在現(xiàn)在的時(shí)代，相當(dāng)于這些科技巨頭掌握了全世界通過搜索流入公司的數(shù)據(jù)，然后他們就可以創(chuàng)造出AI。甚至谷歌有一句話竟然說，我們的使命是讓所有人都要使用AI這個(gè)搜索軟件，但為什么免費(fèi)呢？因?yàn)槲覀冃枰氖菙?shù)據(jù)，不是搜索。那么問題就來了，人工智能時(shí)代的革命剛剛開始，但它顯然還沒有到達(dá)非常深刻的地步，可能已經(jīng)開始深刻了，隨著數(shù)據(jù)的規(guī)模越來越大，不可避免的是，如果在現(xiàn)實(shí)世界之外，還有一個(gè)所謂的數(shù)字世界的話，像是科技巨頭這樣的掌握數(shù)據(jù)的公司，他們占領(lǐng)的疆域是最大的。

劉鈍教授：早晚有一天，人工智能要取代我們，它現(xiàn)在的表現(xiàn)在許多方面已經(jīng)超過我們了，會(huì)不會(huì)對我們的種群構(gòu)成威脅，這是我的擔(dān)心。

同學(xué)三：您覺得這樣的發(fā)展趨勢，它的危險(xiǎn)性在哪里？以及造成這樣的危險(xiǎn)的原因是什么？它缺少了什么東西？

劉鈍教授：你剛才已經(jīng)講了，原因就是我們會(huì)被大數(shù)據(jù)控制，現(xiàn)在才剛冒頭，但是發(fā)展的速度非常非?？?，想象不到的快。以前有個(gè)集成電路的摩爾定律，AI的發(fā)展完全打破了摩爾定律。人工智能發(fā)展特別快，早晚有一天我們都會(huì)被數(shù)據(jù)控制，或者說被你剛才說的壟斷公司控制?，F(xiàn)在美國已經(jīng)出現(xiàn)苗頭了，極端個(gè)人主義者和技術(shù)法西斯合流，在世界最強(qiáng)大的國家我行我素，這種苗頭會(huì)不會(huì)波及到全世界？此刻人類有沒有辦法拯救自己？這正是我們要講述代達(dá)羅斯跟伊卡洛斯，來回顧羅素這樣的哲人的一些想法的原因。至于技術(shù)上的深刻原因，這不是我的專業(yè)能夠解答的。謝謝你的問題。

同學(xué)四：劉老師您好，我是2023級的，目前是大二，機(jī)器人工程專業(yè)。羅素和霍爾丹的辯論是在20世紀(jì)20年代的，霍爾丹主要是擔(dān)憂倫理會(huì)制約科技的發(fā)展，羅素是擔(dān)憂有權(quán)力者利用科技去影響倫理，導(dǎo)致倫理的崩塌。但是我覺得他們都有一定的時(shí)代局限性，在隨后的20世紀(jì)四五十年代，我們會(huì)發(fā)現(xiàn)隨著核武器的出現(xiàn)，至少在國家層面上，我們發(fā)現(xiàn)科技反過來成了一種提高人類道德底線的事物。因?yàn)樽源蛴辛撕宋淦鳎笠?guī)模的熱戰(zhàn)已經(jīng)幾乎消失殆盡了，取而代之的是局部戰(zhàn)爭。那么在國際層面上產(chǎn)生的這種影響是否意味著在未來有可能出現(xiàn)某一種技術(shù)，使得我們作為最平凡的個(gè)人，也有能力去挑戰(zhàn)所謂的科技托拉斯以及一眾很龐大的個(gè)體，從而達(dá)成個(gè)人和托拉斯之間的某一種平衡？在這樣的構(gòu)想下，未來又會(huì)產(chǎn)生什么樣的變化，會(huì)造成什么樣的結(jié)果，以及人工智能是否會(huì)成為這樣一個(gè)角色的存在？我想在這個(gè)問題上請教一下劉老師。

劉鈍教授：這么宏大的問題，我也很難回答。其中一個(gè)觀點(diǎn)我可以補(bǔ)充一下，廣島原爆四年后，蘇聯(lián)也放了個(gè)大爆仗，在此之后世界其實(shí)處在一種恐怖平衡當(dāng)中，我們?nèi)祟愐呀?jīng)茍活了70年。你現(xiàn)在想想某些人的威脅，想想在烏克蘭與歐洲發(fā)生的事情，在敘利亞和巴勒斯坦發(fā)生的事情，要是都不妥協(xié)，非要打到底，惹急了狗跳墻，什么事情都會(huì)發(fā)生，所以是難以預(yù)測的。現(xiàn)在我們?nèi)祟惖拿\(yùn)就處在一個(gè)不確定狀態(tài)，uncertainty，完全不確定，不知道明天是什么樣。個(gè)人怎么樣跟托拉斯達(dá)到一種平衡，那更是宏大的問題，我也不知道。我們都被托拉斯控制著，有形的和無形的，你被控制你都不知道。

田松教授：關(guān)于不確定性的問題，我還要推薦一下，清華大學(xué)社會(huì)學(xué)系的孫立平教授，他也退休多年了。大家可以搜一搜他的公眾號，他反復(fù)地講，我們正處在一個(gè)高度不確定的一種社會(huì)狀態(tài)，各方面都難以預(yù)測。

同學(xué)五：謝謝劉老師，我是今年南科大的博士新生，我想問的是關(guān)于科學(xué)倫理上的問題。我們所謂的倫理上認(rèn)為，如果不給科學(xué)發(fā)展設(shè)限的話，它就會(huì)威脅人類存在。比如說硅基生命取代碳基生命，以及基因編輯這些問題，但是這個(gè)論斷它所基于的一個(gè)基點(diǎn)是，我們默認(rèn)維持人類存在應(yīng)該是件好事。所以我想問一個(gè)比較激進(jìn)的問題，如果我們不認(rèn)為它是一件好事，或者它不是唯一的好事的話，這是不是可以改變我們對于科學(xué)發(fā)展限制的一些考慮呢？

劉鈍教授：你這個(gè)問題特別精彩，我也回答不好。我覺得要從兩面看，你要是一廂情愿地認(rèn)為維持我們智人的生存永續(xù)是好事，那可能會(huì)非常失望，因?yàn)槲乙不畈坏侥且惶?，可能你們的兒子孫子輩會(huì)看到那一天，真的出現(xiàn)一種新的人類嗎？有可能，現(xiàn)在我看是招架不住。我跟田松兄是同一個(gè)學(xué)術(shù)圈的，但是我一開始并不贊同田松兄的激進(jìn)言辭，他老兄公開打出反科學(xué)（主義）的旗號，說要警惕科學(xué)家，我不敢說這種話。但科學(xué)發(fā)展到今天，發(fā)展到影響到我們普通人的日常生活，影響到我們生命本體，影響到我所關(guān)注的霍爾丹的專業(yè)群體遺傳學(xué)，影響到我們種群命運(yùn)的時(shí)候，我覺得人類真的要換一種思路了，于是對田松兄的主張有了一些共情。過去我們認(rèn)為有些事是不可能的，現(xiàn)在看來什么匪夷所思的事都可能發(fā)生。硅基生命取代碳基生命，一定是這樣的，所以要提前做好準(zhǔn)備。也許不是壞事，我們應(yīng)對得好，對后代就不是壞事。太好的問題，應(yīng)該寫一篇專文，我現(xiàn)在寫不了，你考慮寫吧。

田松教授：比較遺憾，今天吳巖教授在廣州開會(huì)，其實(shí)今天討論的話題有好多跟吳巖教授的工作相關(guān)，吳巖教授是我們?nèi)宋闹行牡慕淌?，我把他稱之為“中國科幻的教父”。他最早在北師大開科幻課程，也在討論我們的未來，硅基和碳基生命?？赡苣銌柕降倪@些問題，在科幻小說里都已經(jīng)討論過了，在科幻小說里都已經(jīng)表達(dá)過了。包括劉鈍老師也講了赫胥黎著名的反烏托邦三部曲《美麗新世界》，也被譽(yù)為一個(gè)重要的科幻小說，那里面講的真是科幻，剛才劉老師也介紹那種情節(jié)了。所以我們面臨的很多倫理問題，我們作為科學(xué)史人，作為科學(xué)哲學(xué)人在討論。那么另外一個(gè)，我覺得科學(xué)史還是有意思，聽到劉老師講神話，講故事，看圖，都有意思，純粹講科學(xué)倫理可能大家聽著就會(huì)比較悶，但是看科幻小說應(yīng)該跟科學(xué)史同樣有意思。

同學(xué)六：我本來可能要提一個(gè)比較長的問題，如果短一點(diǎn)，那我就直接這么說吧。我們科學(xué)研究會(huì)發(fā)現(xiàn)生命的意義在于可能是沒有意義，你越理解生命的本質(zhì)之后，你就越可能去創(chuàng)造出類似自己的生命，你會(huì)發(fā)現(xiàn)它的發(fā)展過程是不存在一個(gè)意義可言的，那么這時(shí)候科學(xué)就不能有助于這個(gè)社會(huì)的穩(wěn)定了，因?yàn)榭茖W(xué)不能告訴你這個(gè)方面的答案，怎么讓生命更有意義，讓生活更加美好?？茖W(xué)給不了答案，那么當(dāng)硅基生命和碳基生命融合的時(shí)候，我們碳基生命怎么能有更多的選擇去活在碳基生命這個(gè)圈子，而不是被硅基生命所控制？怎么有更多的選擇和硅基生命一起聯(lián)合，讓我們兩類生命共同繁榮去發(fā)展，這方面我們該如何去做？

劉鈍教授：特別好的科幻小說的素材，我不回答了，你也可以做很有意義和很有趣味的類推，想象我們的祖先跟尼安德特人在歐洲相遇的情況，考古學(xué)證明他們曾經(jīng)生活在同一個(gè)屋檐下，尼安德特人肯定也想繁衍生存，但他們斗不過更聰明的我們的祖先，好，謝謝。

田松教授：謝謝最后一個(gè)問題，它讓我們考慮意義問題，人生的意義也好，生命的意義也好，它不是科學(xué)研究出來的，它原本是在你的生活世界里面，在你的社會(huì)文化中養(yǎng)成的，不會(huì)說因?yàn)檠芯浚绻阍瓉頉]有一個(gè)社會(huì)文化的、生活世界的底子的話，即使研究出來意義，可能你也不會(huì)去接受吧?？墒悄愕纳鐣?huì)生活、社會(huì)文化，這個(gè)恰恰是我們當(dāng)代社會(huì)所缺乏的，而這個(gè)意義在某種程度上，其實(shí)應(yīng)該是我們?nèi)宋膶W(xué)術(shù)所提供的。如果我們在基礎(chǔ)教育的過程中沒有足夠地接觸到我們自身的歷史文化，那么這個(gè)意義的建構(gòu)就缺失了，那么等到你進(jìn)入到高等教育的階段，通過科學(xué)研究來建構(gòu)，那恐怕只能是一個(gè)虛無的意義了。所以在這一點(diǎn)上，相當(dāng)于給我們?nèi)宋膶W(xué)術(shù)做一個(gè)廣告，人文學(xué)術(shù)是提供著生活意義的這種基礎(chǔ)性的東西，雖然我們作為理工科大學(xué)，但我們的基本的人文素養(yǎng)還是非常必要的。所以大家還是要多花點(diǎn)時(shí)間來選我們?nèi)宋纳缈仆ㄗR課。

2024年12月15日，劉鈍應(yīng)邀在南方科技大學(xué)演講（南科大講堂No.388），田松主持。以下是根據(jù)錄音和PPT演示文稿整理的演講稿的問題互動(dòng)部分。張美玲、潘雅萍據(jù)錄音整理，田松審校，復(fù)經(jīng)演講人過目刪定。完整意見稿請參看劉鈍《霍爾丹與代達(dá)羅斯——神話、科學(xué)、社會(huì)與倫理》（上海科技教育出版社，2025年）25-51頁。本次發(fā)布前有微小潤飾。