吉萍

隨著人工智能（AI）迅速滲透至醫(yī)療衛(wèi)生各領(lǐng)域，在顯著提升醫(yī)療服務(wù)效能與質(zhì)量的同時，亦引發(fā)了一系列亟待解決的重要倫理風險與社會治理挑戰(zhàn)。為系統(tǒng)性應(yīng)對醫(yī)學(xué)AI發(fā)展中的倫理困境與監(jiān)管難題，全球各國政府、國際組織、學(xué)術(shù)界和工業(yè)界正加強國際合作與交流，積極探索符合醫(yī)學(xué)AI技術(shù)規(guī)律與特點的監(jiān)管方式，構(gòu)建解決AI倫理問題的可能框架、指南和原則，規(guī)范AI技術(shù)在醫(yī)學(xué)領(lǐng)域的開發(fā)和應(yīng)用。

自2021年以來，WHO陸續(xù)發(fā)布《醫(yī)療人工智能的倫理與治理》（Ethics and governance of artificial intelligence for health）、《為基于人工智能的醫(yī)療設(shè)備生成證據(jù)：訓(xùn)練、驗證和評估框架》報告（Generating evidence for artificial intelligence based medical devices: a framework for training, validation and evaluation）、《對醫(yī)療人工智能的監(jiān)管考慮》（Regulatory considerations on artificial intelligence for health）、《醫(yī)療人工智能的倫理與治理：多模態(tài)大模型指南》（Ethics and governance of artificial intelligence for health: guidance on large multi-modal models）等重要文件。許多國家和組織的相關(guān)機構(gòu)也紛紛發(fā)布關(guān)于醫(yī)療AI應(yīng)用、風險以及倫理和社會影響相關(guān)治理報告與建議，現(xiàn)將其核心要點總結(jié)如下。

▉（一）規(guī)范評估與報告

在評估AI工具的模型準確性、穩(wěn)健性、安全有效性時，需開展臨床試驗，生成可靠的循證醫(yī)學(xué)證據(jù)，確保算法在預(yù)期用途和使用場景下安全有效。另外，為提升AI臨床研究的報告規(guī)范性，2020年以來，AI相關(guān)臨床試驗研究的報告規(guī)范指南陸續(xù)發(fā)布，例如：人工智能干預(yù)臨床試驗方案報告指南SPIRIT-AI（Standard protocol items: recommendations for interventional trials–artificial intelligence）、人工智能臨床試驗報告規(guī)范CONSORT-AI（Consolidated standards of reporting trials–artificial intelligence）、人工智能驅(qū)動下決策輔助系統(tǒng)早期臨床評價的報告指南DECIDE-AI（Developmental and exploratory clinical investigations of decision support systems driven by artificial intelligence）、臨床人工智能建模的最低信息標準MI-CLAIM（Minimum information about clinical artificial intelligence modeling）。這些指南旨在規(guī)范人工智能評估結(jié)果的呈現(xiàn)方式，提高研究的可重復(fù)性、透明度和信任度。

▉（二）全面、多維度、分階段的評估

在推進AI相關(guān)醫(yī)療應(yīng)用設(shè)備與系統(tǒng)的臨床安全性和有效性、公平性和非歧視性、透明度和可追溯性以及隱私和安全評估時，建議采用由特定清單和問題構(gòu)成的自評估方法，助力AI設(shè)計師、開發(fā)者、評估人員和監(jiān)管人員開發(fā)出值得信賴且符合倫理的AI解決方案。此外，應(yīng)建立覆蓋AI全生命周期的多維度、多階段評估驗證體系：包括算法性能驗證、臨床前評價、可用性測試等，確保產(chǎn)品滿足用戶需求并識別可預(yù)見風險，同時明確產(chǎn)品使用限制及警示信息；上市后需持續(xù)監(jiān)測算法泛化能力，收集用戶反饋（如投訴、不良事件等），對未預(yù)見風險進行再評估并采取控制措施。建議外部驗證由第三方評估機構(gòu)開展，以確保評估的全面性和客觀性。

▉（三）多方共同參與，責任共擔

創(chuàng)建安全有效的多模態(tài)大模型，需要各國政府、技術(shù)公司、醫(yī)療機構(gòu)、開發(fā)人員、患者及社會團隊等相關(guān)方共同參與開發(fā)、部署和監(jiān)管的各個階段。在此過程中還應(yīng)強化醫(yī)學(xué)AI研究與應(yīng)用相關(guān)方的職責，通過系統(tǒng)性構(gòu)建契合AI技術(shù)演進規(guī)律與內(nèi)在特性的倫理治理新范式，明確以下關(guān)鍵問題：需應(yīng)對哪些風險？誰最適合應(yīng)對這些風險？相關(guān)方可采取哪些措施應(yīng)對風險？

▉（四）基于風險的分類管理

AI醫(yī)療器械需從軟件、用途、功能、算法等不同角度實施分類管理，并結(jié)合具體應(yīng)用場景，因使用對象不同，風險水平也會存在差異。在臨床應(yīng)用中，應(yīng)根據(jù)AI系統(tǒng)的相關(guān)風險進行分類與分級管理指導(dǎo)：高風險技術(shù)需要嚴格的臨床證據(jù)支持，其部署和監(jiān)管需更為謹慎；管理級別應(yīng)與潛在風險相匹配，并通過綜合判定預(yù)期用途和使用場景（如是否與診療決策相關(guān)）來確定風險等級。

▉（五）加強機構(gòu)職責與監(jiān)管能力

開展醫(yī)學(xué)AI研究和部署的機構(gòu)是管理責任主體，需嚴格遵循國家相關(guān)法律法規(guī)，健全機構(gòu)風險評估與監(jiān)測預(yù)警、倫理審查、全過程監(jiān)督、違規(guī)行為調(diào)查處理、培訓(xùn)與咨詢等制度流程。作為醫(yī)學(xué)AI產(chǎn)品的主要落地應(yīng)用方，醫(yī)療機構(gòu)在部署AI應(yīng)用于臨床活動前，需建立數(shù)據(jù)、信息、業(yè)務(wù)等跨學(xué)科多部門協(xié)作的多維度評估機制和團隊，制定評估計劃，確定評估路徑與方式等。通過評估技術(shù)的安全性、有效性、倫理符合性，充分考量實踐中的適用性、必要性、預(yù)期應(yīng)用效果等，同時確保AI模型部署所需的工作流程調(diào)整、IT基礎(chǔ)設(shè)施及人員配置到位。

編輯 |鄭夢瑩

責任編輯 | 任嘉霖

審核 | 劉紅霞

《中華醫(yī)學(xué)信息導(dǎo)報》2025年24期第9版