設(shè)置星標(biāo) 關(guān)注，從此你的世界多點(diǎn)科學(xué)~

大家·科技前沿

MASTERS

姚思瓊

上海交通大學(xué)生物信息學(xué)與生物統(tǒng)計(jì)學(xué)系博士

上海交通大學(xué)轉(zhuǎn)化醫(yī)學(xué)研究院助理研究員

戴芳

上海交通大學(xué)生物信息學(xué)與生物統(tǒng)計(jì)學(xué)系博士

上海市第十人民醫(yī)院博士后

呂暉

上海交通大學(xué)生物信息學(xué)與生物統(tǒng)計(jì)學(xué)系主任、特聘教授

上海交通大學(xué)轉(zhuǎn)化醫(yī)學(xué)研究院數(shù)字醫(yī)學(xué)技術(shù)中心主任

醫(yī)學(xué)人工智能被寄予厚望，人們期待它能比醫(yī)生更快、更準(zhǔn)確地識(shí)別疾病，為醫(yī)療決策提供強(qiáng)有力的支持。然而現(xiàn)實(shí)中，人工智能（AI）算法有時(shí)更像一個(gè)“書呆子”——在熟悉的題目上表現(xiàn)出色，一旦遇到超出認(rèn)知范圍的情況，就會(huì)陷入困境。

這樣的例子并不少見。醫(yī)生審閱著X光片，AI判斷是骨折，可眼前的孩子卻活蹦亂跳，毫無異樣；急診室里，AI預(yù)測(cè)一位女性的心臟病風(fēng)險(xiǎn)極低，可她剛走出醫(yī)院，就因突發(fā)心肌梗死倒在街頭；做甲狀腺檢查時(shí)，AI報(bào)告一切正常，可幾個(gè)月后，那個(gè)被忽視的結(jié)節(jié)卻被確診為惡性腫瘤。

這些案例并不意味著醫(yī)學(xué)AI沒有價(jià)值，恰恰相反，它在很多場(chǎng)景極大地幫助了醫(yī)生提升診斷效率。例如：AI系統(tǒng)能夠快速并準(zhǔn)確地識(shí)別腫瘤病灶位置，并判斷其性質(zhì)，促進(jìn)早期發(fā)現(xiàn)和精準(zhǔn)干預(yù)。然而，當(dāng)AI主要依賴已有數(shù)據(jù)進(jìn)行學(xué)習(xí)時(shí)，它是否真的能夠理解個(gè)體疾病的固有差異？在面對(duì)不同年齡、性別或亞型時(shí)，它是否也能夠?qū)崿F(xiàn)同樣的精度以達(dá)到真正的公平？

醫(yī)學(xué)AI的發(fā)展充滿機(jī)遇，但也伴隨著挑戰(zhàn)。它如何更全面地學(xué)習(xí)？如何避免數(shù)據(jù)局限帶來的偏差和誤判？讓我們一起深入探討，揭開醫(yī)學(xué)AI在診斷公平性上的盲點(diǎn)，尋找更可靠、更包容的技術(shù)發(fā)展方向。

AI是如何發(fā)展及如何工作的？

AI早已從科幻走進(jìn)現(xiàn)實(shí)，成為改變世界的重要技術(shù)。從符號(hào)邏輯推理的早期探索，到專家系統(tǒng)在特定領(lǐng)域的應(yīng)用，再到如今深度學(xué)習(xí)與大模型驅(qū)動(dòng)的智能革命，AI的發(fā)展令人驚嘆。

什么是AI

本質(zhì)上，AI 通過計(jì)算機(jī)和算法模擬人類大腦的思考與決策能力，旨在創(chuàng)造能像人類一樣工作和反應(yīng)的智能機(jī)器。它通過學(xué)習(xí)海量數(shù)據(jù)、識(shí)別模式并做出決策，賦予機(jī)器智能，使其能在不同環(huán)境中高效執(zhí)行任務(wù)。近年來，深度學(xué)習(xí)和大數(shù)據(jù)的相關(guān)突破推動(dòng)了 AI 的飛速發(fā)展，使其在多個(gè)領(lǐng)域展現(xiàn)出卓越應(yīng)用能力，例如以ChatGPT、Claude、Gemini和Deepseek為代表的大語言模型（LLM），已成為各行業(yè)的高效助手。

在日常辦公中，AI可以自動(dòng)生成報(bào)告、總結(jié)文檔、撰寫新聞稿，幫助程序員編寫代碼、優(yōu)化算法。在教育領(lǐng)域，AI可以解答學(xué)生問題、提供個(gè)性化學(xué)習(xí)方案。在法律和金融行業(yè)，它能高效分析合同、輔助法律文件撰寫、提供財(cái)務(wù)建議，極大地提高了生產(chǎn)力。在動(dòng)畫制作方面，過去需要大量手繪或建模，而如今AI工具如Stable Diffusion、Midjourney可根據(jù)文字描述生成精美插畫，Runway AI甚至能生成短片。迪士尼、皮克斯等公司已將AI應(yīng)用于動(dòng)畫特效，顯著加快制作流程。

自動(dòng)駕駛是AI在現(xiàn)實(shí)世界中的重要應(yīng)用。特斯拉、Waymo、小鵬、蔚來等企業(yè)正加速開發(fā)AI驅(qū)動(dòng)的自動(dòng)駕駛系統(tǒng)，通過攝像頭與激光雷達(dá)感知環(huán)境，結(jié)合深度學(xué)習(xí)模型實(shí)現(xiàn)自動(dòng)加速、轉(zhuǎn)向等核心功能。目前，高級(jí)輔助駕駛功能已能在高速公路和部分城市道路中穩(wěn)定運(yùn)行，雖然完全無人駕駛技術(shù)仍需突破，但AI已顯著提升出行的智能化與安全性。

在人形機(jī)器人領(lǐng)域，AI是“大腦”，機(jī)器人的機(jī)械結(jié)構(gòu)是“身體”。特斯拉的Optimus、波士頓動(dòng)力的Atlas展示了AI驅(qū)動(dòng)的機(jī)械系統(tǒng)能執(zhí)行搬運(yùn)、裝配、送貨等任務(wù)。具備視覺、聽覺和語音理解能力的機(jī)器人，正逐步走進(jìn)現(xiàn)實(shí)，有望成為未來家庭助手。

從辦公、創(chuàng)作到出行、生活，AI正在推動(dòng)社會(huì)的深刻變革，提升效率與創(chuàng)造力，也加速科技進(jìn)步。盡管仍面臨安全、倫理與公平性等挑戰(zhàn)，但是AI的影響力將持續(xù)擴(kuò)展，并深刻改變我們的生活方式。

AI在醫(yī)學(xué)中的優(yōu)勢(shì)：

精準(zhǔn)、高效、減負(fù)與拓展

AI在醫(yī)學(xué)領(lǐng)域的應(yīng)用已日益廣泛，從醫(yī)學(xué)影像分析到個(gè)性化健康管理，再到新藥研發(fā)，它正以前所未有的速度改變醫(yī)療行業(yè)。許多醫(yī)院已經(jīng)在使用AI進(jìn)行乳腺鉬靶分析、心臟功能評(píng)估和肺癌篩查，盡管不可能全面代替醫(yī)生，但相關(guān)研發(fā)工作正在不斷推進(jìn)。在新藥研發(fā)方面，AI通過精準(zhǔn)的預(yù)測(cè)模型提高了藥物發(fā)現(xiàn)的成功率，縮短了研發(fā)周期，降低了成本，并提升了整體效率。同時(shí)，AI 還能整合血壓、心率、體溫、睡眠等健康數(shù)據(jù)，實(shí)現(xiàn)個(gè)體化健康監(jiān)測(cè)和預(yù)后管理，使醫(yī)療決策更加精準(zhǔn)和智能。

醫(yī)學(xué)AI的核心優(yōu)勢(shì)主要體現(xiàn)在精準(zhǔn)與高效上。通過先進(jìn)的圖像識(shí)別和深度學(xué)習(xí)技術(shù)，AI可輔助醫(yī)生進(jìn)行更加精確的診斷，例如識(shí)別腫瘤的良惡性、檢測(cè)骨折、輔助腸鏡檢查等，不僅提高了診斷的準(zhǔn)確性，也節(jié)省了醫(yī)生的精力。同時(shí)，AI還能降低醫(yī)生的工作負(fù)擔(dān)，例如語音輸入系統(tǒng)可自動(dòng)將醫(yī)生的診療記錄轉(zhuǎn)化為文字，減少書寫壓力，提高問診效率，并降低信息遺漏的風(fēng)險(xiǎn)。此外，遠(yuǎn)程醫(yī)療的興起讓AI在醫(yī)療資源分配方面發(fā)揮了巨大作用，特別是在偏遠(yuǎn)地區(qū)，AI輔助的遠(yuǎn)程會(huì)診和遠(yuǎn)程手術(shù)大大降低了醫(yī)療成本，并增加了患者的就醫(yī)機(jī)會(huì)。

AI在醫(yī)療前沿的突破正推動(dòng)知識(shí)發(fā)現(xiàn)、臨床知識(shí)深度挖掘與前瞻性試驗(yàn)設(shè)計(jì)的革新。例如，AlphaFold通過深度學(xué)習(xí)預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)，加速新藥靶點(diǎn)發(fā)現(xiàn)；AI系統(tǒng)從電子健康記錄中精準(zhǔn)識(shí)別患者亞群特征，優(yōu)化個(gè)性化治療方案；在臨床試驗(yàn)中，AI優(yōu)化入組標(biāo)準(zhǔn)與樣本量設(shè)計(jì)，如太美智研醫(yī)藥的平臺(tái)已將試驗(yàn)效率提升40%，顯著縮短研發(fā)周期并提升成功率。

AI的核心：學(xué)習(xí)與訓(xùn)練

AI的能力并非憑空而來，而是依靠大規(guī)模數(shù)據(jù)和強(qiáng)大的計(jì)算能力訓(xùn)練。它的本質(zhì)是模擬人類的學(xué)習(xí)過程，通過數(shù)學(xué)算法建立復(fù)雜的模式識(shí)別能力。以大語言模型（如ChatGPT和Deepseek）為例，它被喂入海量文本數(shù)據(jù)，學(xué)習(xí)人類如何組織語言、表達(dá)觀點(diǎn)，并通過預(yù)測(cè)下一個(gè)最可能的單詞來生成連貫的對(duì)話。類似地，自動(dòng)駕駛AI需要“閱讀”無數(shù)的視頻和傳感器數(shù)據(jù)，理解道路規(guī)則，并在行駛過程中不斷優(yōu)化決策。

算法的天平：AI的隱性偏見

數(shù)據(jù)對(duì)于AI來說至關(guān)重要，它不僅是AI學(xué)習(xí)的基礎(chǔ)，也是決定AI性能的關(guān)鍵因素。AI能否精準(zhǔn)地識(shí)別模式、做出合理的推斷完全取決于它接受的數(shù)據(jù)是否豐富、多樣且質(zhì)量高。一個(gè)模型如果僅僅在有限的環(huán)境下訓(xùn)練，將嚴(yán)重影響其應(yīng)用的泛化能力。例如自動(dòng)駕駛AI只在晴天的高速公路上學(xué)習(xí)，那么當(dāng)它遇到雨雪天氣、復(fù)雜路況或突發(fā)狀況時(shí)，可能會(huì)無法做出正確的判斷。許多AI研發(fā)機(jī)構(gòu)不斷收集新數(shù)據(jù)和迭代模型， 就是為了使其能在多樣化場(chǎng)景中保持高水平表現(xiàn)。

然而，數(shù)據(jù)不僅僅是AI的“養(yǎng)料”，它也帶來了挑戰(zhàn)。數(shù)據(jù)隱私、數(shù)據(jù)偏見以及數(shù)據(jù)質(zhì)量問題都是AI發(fā)展過程中必須面對(duì)的難題。因此，AI的發(fā)展不僅依賴于強(qiáng)大的算法和計(jì)算能力，更取決于高質(zhì)量、多樣化的數(shù)據(jù)支持。數(shù)據(jù)越豐富、越多樣，AI的學(xué)習(xí)能力就越強(qiáng)，預(yù)測(cè)的準(zhǔn)確性也就越高。

現(xiàn)實(shí)生活中的AI：

智能，卻未必公平

AI的發(fā)展為社會(huì)帶來了巨大機(jī)遇，同時(shí)也引發(fā)諸多挑戰(zhàn)。

一方面，AI 通過提升效率和創(chuàng)造經(jīng)濟(jì)價(jià)值，廣泛應(yīng)用于體力勞動(dòng)和復(fù)雜邏輯任務(wù)，甚至在某些領(lǐng)域超越人類。

另一方面，它也導(dǎo)致大量重復(fù)性崗位被取代，重塑了勞動(dòng)力市場(chǎng)結(jié)構(gòu)，并進(jìn)一步加劇了社會(huì)不平等，使部分群體面臨失業(yè)與邊緣化風(fēng)險(xiǎn)。

此外，AI 強(qiáng)大的決策能力也可能放大社會(huì)固有的偏見。由于算法依賴人類數(shù)據(jù)進(jìn)行訓(xùn)練，而這些數(shù)據(jù)本身可能帶有歧視。

例如：AI 在招聘、信貸、醫(yī)療等關(guān)鍵領(lǐng)域中常因數(shù)據(jù)偏見導(dǎo)致預(yù)測(cè)不公平，造成群體性差異對(duì)待，加劇社會(huì)階級(jí)的進(jìn)一步分化。

在享受AI帶來便利的同時(shí)，如何防范其帶來的社會(huì)風(fēng)險(xiǎn)成為關(guān)鍵。盡管人們期望AI實(shí)現(xiàn)超越人類的智能，但現(xiàn)實(shí)表明，其運(yùn)作邏輯深受人類設(shè)計(jì)所限，若缺乏監(jiān)管與倫理約束，AI反而可能加劇不公，使弱勢(shì)群體處境更艱難。

因此，AI在重塑社會(huì)結(jié)構(gòu)的過程中，公平性問題必須被優(yōu)先關(guān)注。歐美國(guó)家的相關(guān)經(jīng)驗(yàn)與案例為我們提供了警示和借鑒：技術(shù)發(fā)展不應(yīng)以犧牲公平為代價(jià)。

案例一：AI在司法系統(tǒng)中的種族偏見

在美國(guó)，AI被用于預(yù)測(cè)罪犯再犯風(fēng)險(xiǎn)以輔助判刑。然而研究發(fā)現(xiàn)，其在黑人被告中存在系統(tǒng)性高估風(fēng)險(xiǎn)的問題，反映出AI繼承了司法數(shù)據(jù)中的種族偏見。這種偏差可能導(dǎo)致黑人面臨更嚴(yán)重的司法結(jié)果，加劇社會(huì)不公。

案例二：AI進(jìn)化帶來的隱性偏見與不平等

盡管AI大模型如ChatGPT優(yōu)化了公平性，但仍存在刻板印象，如將“護(hù)士”與女性、“工程師”與男性聯(lián)系，或在圖像識(shí)別中將廚房場(chǎng)景人物自動(dòng)識(shí)別為女性。此外，AI在多語種環(huán)境下容易表現(xiàn)不均，英語回答準(zhǔn)確率明顯高于其他語言，這強(qiáng)化了語言與地區(qū)間的技術(shù)不平等。新興市場(chǎng)因缺乏計(jì)算資源與數(shù)據(jù)，也在全球AI競(jìng)爭(zhēng)中處于弱勢(shì)地位，形成“強(qiáng)者愈強(qiáng)”的格局。

面對(duì)AI應(yīng)用中的種種不公平現(xiàn)象，我們必須回歸一個(gè)根本問題：什么是“公平”？公平并不是一個(gè)容易界定的概念，不同文化與社會(huì)背景對(duì)其理解各異，因此在討論AI的公平性之前，應(yīng)先厘清人類社會(huì)中的公平原則。

公平的直觀體現(xiàn)之一，是體育競(jìng)技中的奧林匹克精神。體育比賽強(qiáng)調(diào)公平競(jìng)爭(zhēng)，確保運(yùn)動(dòng)員能夠在相同的規(guī)則和條件下進(jìn)行角逐，避免人為的不公平?，F(xiàn)代社會(huì)學(xué)提出公平應(yīng)具備中立性，不論群體身份如何，都應(yīng)獲得相對(duì)平等的對(duì)待。

統(tǒng)計(jì)學(xué)中，群體公平與個(gè)體公平為衡量標(biāo)準(zhǔn)。群體公平主張各群體享有相近利益，類似“同一起跑線”；個(gè)體公平則強(qiáng)調(diào)能力相近者應(yīng)有相近機(jī)會(huì)，對(duì)弱勢(shì)群體應(yīng)給予更多支持。

在醫(yī)療領(lǐng)域，世界衛(wèi)生組織提出應(yīng)確保所有人公平獲得服務(wù)，避免AI放大已有偏見，并縮小提供者與患者之間的權(quán)力差距。然而現(xiàn)實(shí)中，AI模型往往繼承了社會(huì)原有的不平等視角。例如，弱勢(shì)群體因缺乏保險(xiǎn)或病歷記錄不完整，數(shù)據(jù)代表性不足，進(jìn)而影響AI的判斷，造成診斷與治療建議的不公，加劇醫(yī)療資源的失衡。

這些不同的公平理念為我們理解AI公平性提供了多維視角。如果AI也要遵循公平原則，那么它應(yīng)該更傾向于機(jī)會(huì)公平、結(jié)果公平，還是補(bǔ)償公平？ 這些問題需要進(jìn)一步探討，并成為AI倫理和技術(shù)優(yōu)化的重要研究方向。

醫(yī)學(xué)AI的不公平現(xiàn)象及其帶來的問題

醫(yī)學(xué)AI在優(yōu)化資源利用和提高診斷精度的同時(shí)，也暴露出諸多公平性問題，尤其是在器官移植、心臟病診斷、藥物劑量預(yù)測(cè)以及跨區(qū)域疾病建模等關(guān)鍵醫(yī)療領(lǐng)域。這些問題往往源于數(shù)據(jù)不均衡、社會(huì)結(jié)構(gòu)性不公以及模型設(shè)計(jì)中的隱性偏見，從而可能加劇醫(yī)療資源分配的不公平性，影響特定群體的健康權(quán)益。

醫(yī)療資源分配不公，加劇健康不平等

澳大利亞曾開發(fā)出一款A(yù)I算法，用于優(yōu)化肝臟移植的匹配流程。傳統(tǒng)的“先到先得”規(guī)則雖然在程序上公平，但未能考慮患者病情的緊急程度。AI通過分析患者的年齡、疾病史、血型等因素來預(yù)測(cè)移植成功率，并優(yōu)化器官分配。

然而，研究發(fā)現(xiàn)，該模型低估了某些高風(fēng)險(xiǎn)患者的緊迫性，并存在對(duì)亞洲患者不利的偏差，導(dǎo)致他們?cè)谝浦才琶刑幱诹觿?shì)，如在移植名單中排名靠后，錯(cuò)失最佳治療時(shí)機(jī)。這種情況會(huì)加劇醫(yī)療資源的不公平分配，使社會(huì)現(xiàn)有的健康差距進(jìn)一步擴(kuò)大。

同樣，在美國(guó)的器官移植系統(tǒng)中，黑人、西班牙裔和拉丁裔患者的等待名單比例明顯低于白人，反映出AI可能會(huì)在無意間繼續(xù)社會(huì)現(xiàn)有的不平等，從而影響醫(yī)療資源的合理分配。

誤診和錯(cuò)誤治療，危害患者健康

AI在醫(yī)學(xué)影像分析中的種族偏差也十分明顯。例如，在主流的AI心臟分割模型中，對(duì)白人患者的診斷準(zhǔn)確率高達(dá) 93%，但對(duì)黑人患者的準(zhǔn)確率僅有 85%。這種差異往往源于訓(xùn)練數(shù)據(jù)的不均衡，導(dǎo)致AI在面對(duì)某些群體時(shí)表現(xiàn)欠佳。

雖然數(shù)據(jù)的增加可以改善模型的整體準(zhǔn)確性，但如果這些模型被用于醫(yī)療資源的分配，而非僅作為輔助診斷工具，那么少數(shù)族裔可能會(huì)因低準(zhǔn)確率而被誤診，影響治療效果。對(duì)于依賴AI進(jìn)行疾病篩查和風(fēng)險(xiǎn)預(yù)測(cè)的醫(yī)院而言，這種偏差可能直接影響患者的生存率，甚至增加醫(yī)療糾紛和法律責(zé)任。

弱勢(shì)群體的醫(yī)療可及性下降

在藥物劑量預(yù)測(cè)領(lǐng)域，AI也存在隱性偏見。

由于偏遠(yuǎn)地區(qū)或經(jīng)濟(jì)條件較差的患者較少參與臨床試驗(yàn)，導(dǎo)致AI主要基于健康人群的數(shù)據(jù)進(jìn)行訓(xùn)練，從而在預(yù)測(cè)特定人群的藥物反應(yīng)時(shí)出現(xiàn)誤差。這種數(shù)據(jù)不足可能導(dǎo)致AI推薦的劑量對(duì)某些群體不適用，甚至增加藥物副作用的風(fēng)險(xiǎn)。

此外，歐美建立的新冠肺炎預(yù)測(cè)體系也暴露出類似問題?；诿绹?guó)人口數(shù)據(jù)訓(xùn)練的AI在預(yù)測(cè)東南亞一些國(guó)家的疫情發(fā)展時(shí)準(zhǔn)確率較低，說明AI在跨區(qū)域遷移時(shí)可能出現(xiàn)適用性下降的問題。

因此，在醫(yī)療AI應(yīng)用中，需要結(jié)合遷移學(xué)習(xí)等技術(shù)，確保模型能夠適應(yīng)不同地區(qū)和人群，而非簡(jiǎn)單地直接移植國(guó)外訓(xùn)練的模型。

不公平的醫(yī)學(xué)AI不僅會(huì)影響個(gè)體患者的健康，還可能加劇社會(huì)不平等、破壞公眾信任，甚至在政策和保險(xiǎn)層面引發(fā)深遠(yuǎn)的社會(huì)影響。因此，在AI醫(yī)學(xué)應(yīng)用中，必須嚴(yán)格審查數(shù)據(jù)質(zhì)量、優(yōu)化算法公平性，并確保AI診斷和決策不會(huì)無意間加劇社會(huì)結(jié)構(gòu)性問題。

優(yōu)化醫(yī)學(xué)AI公平性：

挑戰(zhàn)與改進(jìn)方向

要優(yōu)化AI的公平性，首要步驟是明確存在的不公平現(xiàn)象，深入分析其根源，進(jìn)而制定有針對(duì)性的改進(jìn)策略。以甲狀腺癌診斷為例，不公平現(xiàn)象主要來源于對(duì)罕見亞型的忽視。目前AI診斷系統(tǒng)大多基于常見亞型數(shù)據(jù)進(jìn)行訓(xùn)練，而罕見亞型由于數(shù)據(jù)稀缺，并未被充分研究和優(yōu)化，導(dǎo)致AI對(duì)這部分患者的預(yù)測(cè)效果較差。具體來看，不公平的來源包括以下兩個(gè)方面。

1）罕見亞型被忽視：罕見亞型/疾病的低發(fā)病率導(dǎo)致樣本收集受限，與常見亞型/疾病進(jìn)行混合訓(xùn)練時(shí)，容易存在預(yù)測(cè)差異，導(dǎo)致特定人群的診療不公平。

2）數(shù)據(jù)不均衡導(dǎo)致模型偏心：由于常見罕見亞型數(shù)據(jù)存在嚴(yán)重的不均衡性，導(dǎo)致模型訓(xùn)練過程中更容易學(xué)習(xí)到常見數(shù)據(jù)特征分布規(guī)律，而忽略罕見數(shù)據(jù)樣本邊界，造成罕見亞型的識(shí)別能力不足，導(dǎo)致該類患者更容易被誤診或漏診。

要解決這一問題，應(yīng)從數(shù)據(jù)采集、模型訓(xùn)練、評(píng)估與應(yīng)用等多個(gè)層面系統(tǒng)優(yōu)化。

首先，數(shù)據(jù)層面應(yīng)使用數(shù)學(xué)優(yōu)化或重采樣等技術(shù)，使AI更關(guān)注罕見亞型患者，避免樣本不平衡造成的忽視。在數(shù)據(jù)收集過程中，也需去除社會(huì)、種族等人為因素干擾，僅基于生理特征構(gòu)建模型，防止引入種族或性別偏見。

其次，應(yīng)關(guān)注地區(qū)差異。在模型遷移應(yīng)用時(shí)，不同地區(qū)的醫(yī)療條件、疾病譜和患者特征可能存在較大差異，因此不能直接使用外部模型，而需結(jié)合本地臨床經(jīng)驗(yàn)進(jìn)行調(diào)整。類似地，性別偏差也是AI設(shè)計(jì)中的重點(diǎn)問題，模型訓(xùn)練應(yīng)確保男女樣本數(shù)量大致均衡，從而提升對(duì)不同性別人群的診斷準(zhǔn)確性。此外，對(duì)于老年人、殘疾人或偏遠(yuǎn)地區(qū)人群，應(yīng)在數(shù)據(jù)采集中納入更豐富的樣本，使AI模型在訓(xùn)練階段接觸更多元的人群，提高其在邊緣群體中的適應(yīng)性。

第三，時(shí)間偏差亦不容忽視。醫(yī)學(xué)知識(shí)、疾病譜和診療工具都在不斷更新，若AI模型不隨時(shí)間調(diào)整，可能導(dǎo)致預(yù)測(cè)失效。因此，AI系統(tǒng)需定期進(jìn)行性能校準(zhǔn)和參數(shù)更新，保持臨床可用性和準(zhǔn)確性。

第四，解決AI公平性問題的核心在于將醫(yī)療專業(yè)知識(shí)、倫理考量與社會(huì)因素深度融入AI設(shè)計(jì)。盡管AI在部分任務(wù)上已超越人類，但其無法自主理解醫(yī)療決策中的人文復(fù)雜性與社會(huì)維度。因此，需組建由倫理學(xué)家、法律專家和社會(huì)學(xué)家組成的跨學(xué)科團(tuán)隊(duì)，全程參與模型開發(fā)與評(píng)估，制定涵蓋公平性的綜合標(biāo)準(zhǔn)。這不僅能優(yōu)化技術(shù)性能，更能從法律與道德層面確保公平性，使AI在醫(yī)療應(yīng)用中既精準(zhǔn)可靠又公正包容。唯有技術(shù)優(yōu)化與人文監(jiān)管的深度融合，才能實(shí)現(xiàn)醫(yī)學(xué)AI的公平可持續(xù)發(fā)展。

數(shù)據(jù)科學(xué)家：

優(yōu)化去偏機(jī)制，確保數(shù)據(jù)公平

需嚴(yán)格評(píng)估醫(yī)學(xué)數(shù)據(jù)的代表性，確保覆蓋不同性別、種族、年齡等多元人群，避免因樣本偏差導(dǎo)致模型對(duì)特定群體誤判；通過抽樣分析識(shí)別潛在偏見，并在訓(xùn)練中實(shí)施去偏策略，優(yōu)化算法公平性，使AI在診斷中更可靠。

醫(yī)生：

理解AI機(jī)制，提高判斷能力

應(yīng)掌握AI基本原理，讓醫(yī)學(xué)教育早期融入AI實(shí)踐訓(xùn)練，提升識(shí)別數(shù)據(jù)偏見與模型局限性的能力；在臨床中理性應(yīng)用AI工具，避免盲目依賴，結(jié)合專業(yè)判斷確保診療決策的精準(zhǔn)與公平。

政府：

制定政策，推動(dòng)公平AI發(fā)展

需牽頭制定AI倫理與公平性國(guó)家標(biāo)準(zhǔn)，推動(dòng)建設(shè)涵蓋全人口特征的代表性醫(yī)學(xué)數(shù)據(jù)庫，設(shè)立專項(xiàng)基金支持去偏算法研發(fā)，并加強(qiáng)國(guó)際協(xié)作建立全球統(tǒng)一的公平性評(píng)估框架，確保AI在醫(yī)療領(lǐng)域公平、安全、可持續(xù)發(fā)展。

監(jiān)管人員：

監(jiān)測(cè)AI影響，確保透明性

監(jiān)管機(jī)構(gòu)需通過技術(shù)監(jiān)管與長(zhǎng)期監(jiān)測(cè)雙管齊下，強(qiáng)化AI應(yīng)用的合規(guī)性與公平性：

一方面應(yīng)提升對(duì)AI透明度、可解釋性的要求，推動(dòng) AI 診斷與決策過程公開化，破解“黑箱”困境以明確責(zé)任追溯路徑；另一方面要針對(duì)醫(yī)療、金融、就業(yè)等社會(huì)核心領(lǐng)域，要求AI模型在投入使用前通過嚴(yán)格公平性測(cè)試，從源頭防范技術(shù)無意間放大社會(huì)不平等的風(fēng)險(xiǎn)。

同時(shí)，需建立健全AI責(zé)任追溯機(jī)制，清晰劃分AI造成不公平或誤判時(shí)各方的責(zé)任，并提供有效的申訴與補(bǔ)救渠道；還應(yīng)借助獨(dú)立審查與數(shù)據(jù)分析，對(duì)AI在醫(yī)療、社會(huì)決策中的公平性開展長(zhǎng)期監(jiān)測(cè)與持續(xù)評(píng)估，警惕新型技術(shù)偏見的出現(xiàn)。

法律層面的保障是AI公平應(yīng)用的重要支撐。司法機(jī)構(gòu)需完善法律框架，明確AI因偏見或誤判導(dǎo)致不公平對(duì)待時(shí)，開發(fā)者、使用者、管理者的法律責(zé)任；需制定專門的AI倫理法規(guī)，禁止使用可能引發(fā)歧視或資源分配不公的算法，確保AI在關(guān)鍵領(lǐng)域的應(yīng)用符合公平性原則。此外，應(yīng)設(shè)立AI糾紛解決機(jī)制，為受AI影響的個(gè)人或群體提供法律援助，保障其合法權(quán)益；應(yīng)推動(dòng)司法機(jī)構(gòu)與AI研究人員、社會(huì)學(xué)家、倫理學(xué)家開展跨學(xué)科合作，讓法律法規(guī)既能適應(yīng)AI技術(shù)的快速發(fā)展，又能構(gòu)建科學(xué)合理的監(jiān)管體系。

AI公平性問題的解決需多方協(xié)同，唯有凝聚監(jiān)管機(jī)構(gòu)、司法部門、技術(shù)研發(fā)者、社會(huì)研究者等各方力量，共同構(gòu)建公平的AI生態(tài)，才能讓 AI 真正成為促進(jìn)社會(huì)公平、優(yōu)化醫(yī)療資源分配的有力工具，而非加劇不平等的技術(shù)隱患。

-本文刊載于《世界科學(xué)》雜志2025年第9期“大家·科技前沿”欄目；文章根據(jù)筆者在上海市科學(xué)技術(shù)普及志愿者協(xié)會(huì)主辦的“海上科普講壇”上的報(bào)告撰寫而成-

《世界科學(xué)》雜志版在售中 歡迎訂閱

月刊定價(jià)

15元/期

全年訂閱價(jià)

180元

點(diǎn)擊左側(cè)圖片或以下方訂閱方式選購

方式一：

掃描二維碼，“雜志鋪”訂閱有折扣～

方式二：

全國(guó)各地郵局訂閱 郵發(fā)代號(hào)：4-263

方式三：

機(jī)構(gòu)訂閱，請(qǐng)撥打

021-53300839；

021-53300838