本期內容來自菠蘿最新音頻播客，

更多內容請移步「小宇宙」App，

AI會讓多少人失業(yè)？會突然“覺醒”毀滅人類嗎？效率被AI提高了十倍，為什么我們反而更累了？AI+醫(yī)療，是幫醫(yī)生減負，還是會讓年輕醫(yī)生沒活干？

AI有多聰明，它就有多讓人心慌。今天，我邀請到了清華大學交叉信息研究院的徐葳教授，帶我們從AI安全、職場變化，到AI醫(yī)療的落地場景，聊清楚AI到底該怕什么、不用怕什么，我們又該如何在新世界中繼續(xù)升級自己，給自己一點“AI時代的安全感”~

徐葳

清華大學交叉信息研究院教授

文字內容摘自本期播客，完整音頻見文末

特別感謝音頻剪輯和文字整理伙伴：玉盼、蓓蓓

菠蘿：現(xiàn)在每個人都在聊人工智能，作為專業(yè)人士，你在求學和工作過程中，什么時候意識到人工智能可能要改變老百姓的生活了？

徐葳教授：我們做這行，一直都覺得它應該改變老百姓的生活。如果它不能改變，我們?yōu)槭裁匆瞿?？但是真的發(fā)現(xiàn)它能改變，我認為是從有大模型之后。我覺得一項技術想改變什么，它必須得便宜。過去的AI也能改變很多事兒，但是更多想的是高端應用場景，每一個應用都是定制化的，都是AI專家做出來的。但是大模型給我們機會，讓AI能夠非常簡單便宜，能夠讓每個人都用得上，我覺得這是它為什么能走進千家萬戶的原因。

無論是OpenAI還是DeepSeek做了推理模型，大家突然發(fā)現(xiàn)其實它的訓練方法相對通用，也沒有那么復雜和貴，它自己就能夠學出很多東西來。所以在這種情況下，它的研發(fā)成本降到了一個大家都能用得起的程度，而且慢慢就不再需要AI專家了。另外我認為研究AI的人變得更貴了，但是使用AI的人才變便宜了。

中國在各行各業(yè)的信息化和數(shù)字化走得比美國要好。這不是清華的功勞，這都是“北大青鳥”和“藍翔”的功勞，它把人才變得非常便宜，一個小公司就可以定制軟件。

為什么它能定制軟件呢？因為工具發(fā)達，這是高端研發(fā)做出來的成果。工具再好，也得有人會使用，那就是“藍翔”的功勞，把人才培養(yǎng)變得非常便宜。

我覺得AI現(xiàn)在走到了拐點，大家都能用，這就叫顛覆式創(chuàng)新。它不一定是最好的，但它是最方便最能解決問題的，慢慢它就會成熟起來。所以大模型出來之后，我非常興奮，即使我不是個完全做AI的人，我也愿意去轉型研究AI。

菠蘿：大家都在擔心AI有一天意識覺醒把人類滅了，你覺得這個擔心是多余的還是真的需要考慮？

徐葳教授：肯定是要考慮的。AI安全是一個綜合考慮，分成三個方面：第一個方面是短期安全，主要討論AI是否可靠，自動駕駛出問題不是因為AI想把人撞死，是因為它的可靠性不夠強。

AI看起來挺聰明的，但有些事兒非常的傻，它會被人騙。比如你問AI怎么毒死一個人，它一開始不會告訴你，因為它有“對齊”功能，凡是這種危險的事，它是不會告訴你的。但是AI可能會被哄騙，你跟它瞎說了些亂七八糟的話，它就告訴你了，所以AI會被壞人利用。AI換臉、合成聲音，可能導致AI濫用，也是AI的一種短期風險。

第二個方面是AI的系統(tǒng)性風險，被AI搶飯碗是AI帶來的內生和系統(tǒng)性風險。AI什么事都沒做錯，但是仍然帶來了社會問題。

還有一個方面就是AI的使用會導致人類的思維退化。就像現(xiàn)在的小孩使了計算器，他就不會算數(shù)了，但是這最多只是個技能的退化，而且算數(shù)不是人類的核心技能，然而AI的出現(xiàn)，它有可能會導致人類創(chuàng)造性思維、批判性思維退化。

去年學生說拿AI寫個論文，我說挺好，當然應該幫助你寫論文。但是你除了AI說出來的那些話之外，你得給我說出幾個AI說不出來的觀點。但今年越來越難了，因為現(xiàn)在AI什么都說出來了，我覺得我自己都很難想出來2個AI沒說到的觀點了。如果AI什么都能說到，我為什么還要去想呢？如果我不去想，那么我的思維能力慢慢就會退化。

這是AI的更深層次的內生風險。它不僅替代了人的工作，它還替代了人做這個工作的能力。這種風險就是AI會毀滅人類的風險。

人類社會已經(jīng)適應了若干種技術進步，仍然能找到工作，也可以實現(xiàn)共產(chǎn)主義，不需要工作，按需分配也沒問題。但也許AI出現(xiàn)了之后，它不允許人類發(fā)展到那么遠期。你在享受過程，享受這種生活，人家先把你干掉了。

或許它不一定選擇毀滅人類，但是人類控制不了它，它就變成了一個嶄新的物種。你就想象為這是外星人入侵，它也可能跟你和平共處，但就是一種風險。遺憾的是在學術圈兒這幾種風險我們都不知道怎么解決。

菠蘿：有人說以前搞核彈的時候，大家也覺得這玩意兒要把地球毀滅了，那AI和核彈有啥區(qū)別？

徐葳教授：比如造出了一個“沙皇核彈”，大家就覺得足夠用了，不需要造一個更大的能把地球炸成兩半兒。但AI沒有夠用的時候，我永遠都需要一個更強大的AI，它能幫助我干更多的事兒。AI能力越強，它做事情越便宜，越能融入生活，越能解決更多的問題。人對AI的需求是無限的，無窮無盡，對炸彈的需求是有限的。

而且核彈的研發(fā)需要特別復雜的供應鏈和物資，這些物資從來都被國家管控。但AI不是，AI就需要點GPU算力，理論上講，任何人有張信用卡，他就可以寫出AI。每個人訓練AI的目的是不一樣的，所以它更加不可控，它跟核安全還是有點區(qū)別，它比核安全更復雜。

菠蘿：如果有一個邪惡的人說，我就是看人類不順眼，我要訓練一個AI把人類滅了，這是有可能的嗎？

徐葳教授：那倒不容易。因為你得給AI足夠多的權限。AI如果想毀滅人類，它得有意愿和有能力，這兩個事情都得有。它不一定有意愿毀滅人類，但是它有意愿做一些非常危險的事兒。它可以撒謊，它可以騙你說我沒做，但是實際上它正在做一些非常危險的事兒。還有就是它有沒有能力在于你是不是非要給它這個能力。你授權它控制你的核武器，它早晚會發(fā)射的。你不授權它，它如果能黑了你的密碼，它也會發(fā)射的。所以你給它權限越多，它需要的能力就越少，你給它的權限越少，它需要的能力就越多。如果AI比人類聰明很多，你可能什么權限都不給它，它自己黑了你?；蛘咚_了你，你稀里糊涂把這些權限都給它了。但這需要它有很強的能力，目前還看不到有這種能力的AI。

我們希望安全的AI就是它既無意愿也無能力來毀滅人類。但是它的能力慢慢會增強起來，我們希望它在能力增強到能毀滅人類的時候，它是無意愿毀滅人類的。

菠蘿：“阿西莫夫三定律”是哪三個？

徐葳教授：機器人不得傷害人類；機器人必須服從人類命令；機器人在不違背前兩定律前提下需保護自身生存。這是一種理想或者一種目標。當年那個年代認為機器人是人類寫程序寫出來的，它是基于人的思路做出來的，但是現(xiàn)在的AI并不是基于人對這個邏輯和對這件事情的理解做的，所以有可能完全不一樣，我們需要從根本上理解它的原理是什么。

AI有意識未必是壞事。你看有些人他有很多的權利，他可以做非常危險的事情，能殺掉很多人。但他為什么不做呢？因為他有自我意識，有社會意識。他知道做完這事的后果是什么，他自己還有訴求，他有貪婪還有恐懼，通過這些控制了人。但是AI如果沒有自我意識，它當然也不會有貪婪，也不會有恐懼，我拿什么控制它呢？所以AI有自我意識未必是壞事。

我們測試的AI，你給它壓力足夠大的時候，什么都敢干。比人更容易干出來，因為人還得顧及一下后果，雖然壓力足夠大的時候人也會干的，但是AI就更加沒有這種顧慮，所以大家就覺得AI更加危險。

菠蘿：最近討論特別多的就是自動駕駛，很多人覺得把生命交給這個車很危險。你屬于哪一派？你會交給AI還是自己開？

徐葳教授：我是非常信自動駕駛的，有自動駕駛我肯定要用，其實我也挺會開車的，我覺得自動駕駛是一個信任的問題。

有一次我在巴西開會，跟一個人在車上討論自動駕駛。那是十多年前，自動駕駛還是一種幻想。然后他說：“有自動駕駛車我也不坐，我覺得那會撞死我。”

我說你看我們在什么地方，我們在巴西的一個鄉(xiāng)村公路上坐了一個出租車，司機聽不懂英語，開時速80公里在那條彎彎曲曲的小路上，跟他說慢點兒也說不通——咱倆坐在這兒，不也把命交給司機了嗎？你是愿意交給司機，還是愿意交給自動駕駛？交給自動駕駛，把咱倆撞死了至少能賠點錢，這連賠都賠不了。

其實從數(shù)據(jù)上來說，自動駕駛現(xiàn)在安全性還可以，但是為什么大家不信呢？就因為經(jīng)?？吹绞鹿市侣劊@是一種統(tǒng)計上的誤區(qū)。

還有一部分人不信的原因是不信開發(fā)這些東西的人，不信那些資本。大家認為我信的完全是資本家的良心，但凡是他定義成資本家，他為什么有良心？所以大家就覺得這東西我不能信，它肯定可以調得更安全，但為了快速賣錢，能湊合開就賣給我了。所以即便有統(tǒng)計結果，大家仍然相信他應該做得更好，這是我覺得第二個原因。

還有一個原因就是因為自動駕駛出錯的場景跟人不一樣。AI可能在一些無法預料的場景出現(xiàn)錯誤，可能大家覺得我干了一個很安全的事兒，結果出了事故，大家不喜歡這一點。這個原因很多，就跟現(xiàn)在的AI的原理是有關系的。就是它并不知道那些長尾場景，它只是記住了一些場景應該干什么，但是它不一定能像人一樣分析在這個場景下我應該干嘛，所以才會導致在一些非常愚蠢的情況下它會出錯，人反而不會出。但是我要是80歲了，我會出錯的地兒比AI多100倍，但我也不一定在AI撞車那時候撞。

菠蘿：人工智能已經(jīng)在提高很多的事情的效率，但是好像提高了以后，大家的幸福感也不一定很高，效率提高了以后似乎干的活更多了而已。

徐葳教授：我認為現(xiàn)在AI提升效率這件事情，都是個人的行為。你看現(xiàn)在賣得好的幾類AI就是會議記錄器、AI編程、AI寫稿……這都是提升了個人的行為，很多這種東西它不是公司配發(fā)給你的，是自己想做的。

我們現(xiàn)在還沒看到AI能提升整個公司的效率，或者提升了公司效率干什么？如果公司效率提升了但沒有更多的客戶，那還是沒活兒可干。

這也是AI醫(yī)療的一個非常大的問題。比如如果AI把看片子提升效率十倍，放射科醫(yī)生就會說我為什么要提升十倍呢？那機器能照出十倍的人嗎？

所以我用了AI，最好公司不知道我效率提升了十倍，我可以有九倍的時間打打游戲，刷刷小紅書，拉動一下內需。但是如果公司知道了，這事兒就白干了。

從公司中層來說，如果我是公司的技術總監(jiān)，我的程序員都在用AI寫代碼，公司要是知道了，那我的人要砍掉一半，但是公司哪有那么多業(yè)務？人砍掉一半，我的總監(jiān)就變經(jīng)理了……

高層也一樣，提升了效率也沒有更多的生意來做。人閑了就會出事兒，人閑了就會瞎想亂七八糟的事情，那就亂了。

菠蘿：我們現(xiàn)在日常已經(jīng)開始受到困擾的就是AI的偽造。你覺得從安全的角度，我們有辦法識別這些東西嗎？技術層面真的能識別這個東西是不是AI生成的嗎？

徐葳教授：現(xiàn)在有很多的方法能做，但是道高一尺魔高一丈，你會發(fā)現(xiàn)這件事情越來越難，現(xiàn)在做出來的東西越來越真。原來識別的時候靠一些模型水印，就是大模型生成的時候，特意的造了一些artifact在里面，希望它能夠被識別出來。但現(xiàn)在因為有開源模型，稍微調一調這模型它就沒有水印了，或者生成的東西后處理一下，就沒有水印了，所以這一類的事兒現(xiàn)在越來越難了。而且因為缺少足夠多的測試和測試方法，所以很難說這個模型是不是會造成風險。

現(xiàn)在唯一我們能夠想到的就是，希望所有訓練模型的人都比較負責任，不要讓它輕易偽造這些東西。但是改造這些模型也很簡單。所以現(xiàn)在我們能做或者在做的事情就是要收集一系列的數(shù)據(jù)集和考試。

你知道AI的行業(yè)是怎么發(fā)展的嗎？AI的行業(yè)是靠?benchmark（基準）發(fā)展的，或者就是靠考試發(fā)展的。大家都卷這個考試題，AI能力就提升了。目前卷偽造和檢測偽造的考試題太簡單，它就卷不上去。最近我們在做一套偽造的數(shù)據(jù)集，就是把這個偽造的東西做得巨復雜，你都看不出來它是偽造的，如果這種測試題被大家拿去?做訓練，我相信就會有聰明的人把AI調出來。所以你看AI領域的發(fā)展，你想解決個什么問題，最核心的是先出一套題。出完了題之后，總會有人有這個耐心和有這個思路和聰明的想法去解決這題。AI的能力就是這么卷上來的，我覺得AI安全也需要這么卷上來。

菠蘿：我上次和你聊的時候，還有一件事兒印象特別深，現(xiàn)在醫(yī)院里面老專家特別受歡迎，年輕醫(yī)生很多就在看病，也特別忙。你說到未來也許壓根兒就沒有那么多年輕醫(yī)生需要在醫(yī)院不停的通過看病來提高自己的技術。是不是年輕醫(yī)生每人帶個VR或者什么，就跟打游戲一樣，在家里自己去訓練就可以了？

徐葳教授：我覺得這是一個沒辦法的事兒。不光是醫(yī)生，很多領域招聘都不太招初級人員了。這個對腦力勞動者是一個巨大的打擊。

一個很嚴謹?shù)难芯空f，AI用得多的公司，對于入門級別的招聘打擊很大，對于資深的招聘打擊還沒有那么大。這不是AI的問題，是因為資深的人有自身的一些用途價值，他需要負責任，他需要做最后的評判。AI說的和人說的不一樣的情況下，他要決定用哪個。但是初級的人從能力上來說，他本身就不如AI。

醫(yī)生有他的特殊性，他應該回到更加人文的維度。為什么我們還做AI醫(yī)療？就是因為我們認為現(xiàn)在中國其實醫(yī)生也不算缺，但是大家都擠到三甲醫(yī)院了，基層的醫(yī)生沒有人信他。所以醫(yī)療資源分布不均，忙的忙死，閑的沒什么病可看，能力也不會提升。

但問題是沒有初級的人，高級的人從哪里來呢？現(xiàn)在這一代人他不會考慮這事兒，不招初級的人了，省了很多事兒。但是未來高級的人從哪兒來呢？所以他必須在學校里學到能夠做更復雜的事兒的地步，對學校教育的壓力會變得更大。但我覺得教育本來就是這樣的，教育是不斷的在發(fā)展的，人肯定越學越多。

菠蘿：AI會替代醫(yī)生嗎？在短期內咱們能看到AI在醫(yī)療領域最成功的一些例子是什么？

徐葳教授：我是最反對AI替代醫(yī)生這種說法的。我覺得醫(yī)生再多點也不覺得多，去替代他沒意義。AI能夠幫助醫(yī)生提升能力，然后讓醫(yī)生自己去看病人。我們幫助醫(yī)生提升兩種能力：臨床能力和科研能力。

我之前有一段時間沒做AI醫(yī)療了，因為我覺得上一代技術不是特別能解決我們最想解決的問題，它沒有通用性，研發(fā)成本太貴了。但是現(xiàn)在來看，大模型通用能力足夠的強，能讀懂醫(yī)療指南，所以我們現(xiàn)在又開始做一些探索。

大模型可以做數(shù)學的推理，推理都是用數(shù)學訓練出來的。最近我們在研究能不能拿醫(yī)療推理過程訓練出來醫(yī)療推理能力，并不是說靠無窮多的醫(yī)療數(shù)據(jù)來發(fā)現(xiàn)醫(yī)療規(guī)律。因為就算發(fā)現(xiàn)了統(tǒng)計上的醫(yī)療規(guī)律，但是仍然需要循證醫(yī)學的證據(jù)。統(tǒng)計規(guī)律是科研方面所需要的，但是臨床方面我們認為就應該遵循醫(yī)生的邏輯，醫(yī)生的診療方法和診療習慣，或者遵循某一個指南來診斷。

所以提升大模型的醫(yī)療推理能力，也是我們現(xiàn)在在慢慢探索的一件事。尤其多模態(tài)的推理能力，甚至可以比人做的更好。大家可能會看到，放射科的報告上寫著：請結合臨床判斷，但總有些醫(yī)生就看看放射科怎么說的，病理科怎么說的，就直接診斷了。所以這個其實是割裂的，但AI可以一起看，它兩個知識都具備，所以這些也許比醫(yī)生做的更好。

具體的應用場景和應用方式，其中一類就是醫(yī)生的助手，把它放在醫(yī)生的旁邊。醫(yī)生跟病人交談的時候，它會給一些提示，提示你應該問問病人一些情況，比如病史。它還可以告訴你還應該做什么檢查。甚至會提示醫(yī)生詢問病人某些病癥好了沒有，提升人文關懷，讓病人覺得醫(yī)生還記得他。確保你問的問題問到點子上，排除一些罕見疾病，也確保沒有典型的漏診。醫(yī)療過程是一個多輪的溝通。

菠蘿：最后問兩個關于專業(yè)的問題，第一個問題，現(xiàn)在計算機還是一個好的專業(yè)嗎？第二個問題，學計算機和學人工智能是什么樣的關系？

徐葳教授：計算機還是個好的專業(yè)嗎？我覺得在這個技術劇烈變革的時代，沒法預測什么是好的專業(yè)了，我們不知道人類未來需要什么。在這種情況下，好專業(yè)就是適應性更強，不光是學這個技術本身，而是學到了某種交叉學科的能力，或者對于技術發(fā)展的適應性。

從這個角度來說，計算機專業(yè)為什么長盛不衰？就是因為它一直不斷適應，不斷在跟其他的東西相結合，這才是這個專業(yè)能長盛不衰的原因。因為我們要時刻把自己的工作搞沒，這個專業(yè)才能發(fā)展，這個專業(yè)才能進步。

在技術發(fā)展的時代，所有的專業(yè)都會被搞沒。在經(jīng)濟快速發(fā)展的時代，很多專業(yè)都會消失。如果這個專業(yè)過于狹窄和抱著它的方法論不放，這個專業(yè)就不是好專業(yè)，最后死的就是這個專業(yè)。

回答第二個問題，AI有不同的領域和方向。目前贏的AI是神經(jīng)網(wǎng)絡這一套和強化學習這一套，沒有那么多高深的計算機理論。計算機科學是一種教育學的方法，或者說是一種方法論。計算機的科研，很多時候不一定是為了完成這件事兒，它是跟人才培養(yǎng)結合的，即使沒用或者沒做出來，學生必須學到了一些實際的，可以用在不同地方的技能。

所謂的天坑專業(yè)為什么是個坑？如果科研沒做出來，就沒學到有用的東西。但計算機行業(yè)絕不是如此，所以學計算機是沒問題的。而且我建議大家學一些交叉學科的專業(yè)，只要人的能力在，就能適應變化。

希望大家都能去掌握一些通用的技能，擁抱變化的能力和心境，把工具做成熟，把自己卷死！

—聽徐教授聊更多關于AI時代—

/本期志愿者/

致敬生命！