吉萍

隨著人工智能（AI）迅速滲透至醫(yī)療衛(wèi)生各領(lǐng)域，在顯著提升醫(yī)療服務(wù)效能與質(zhì)量的同時(shí)，亦引發(fā)了一系列亟待解決的重要倫理風(fēng)險(xiǎn)與社會(huì)治理挑戰(zhàn)。為系統(tǒng)性應(yīng)對(duì)醫(yī)學(xué)AI發(fā)展中的倫理困境與監(jiān)管難題，全球各國政府、國際組織、學(xué)術(shù)界和工業(yè)界正加強(qiáng)國際合作與交流，積極探索符合醫(yī)學(xué)AI技術(shù)規(guī)律與特點(diǎn)的監(jiān)管方式，構(gòu)建解決AI倫理問題的可能框架、指南和原則，規(guī)范AI技術(shù)在醫(yī)學(xué)領(lǐng)域的開發(fā)和應(yīng)用。

自2021年以來，WHO陸續(xù)發(fā)布《醫(yī)療人工智能的倫理與治理》（Ethics and governance of artificial intelligence for health）、《為基于人工智能的醫(yī)療設(shè)備生成證據(jù)：訓(xùn)練、驗(yàn)證和評(píng)估框架》報(bào)告（Generating evidence for artificial intelligence based medical devices: a framework for training, validation and evaluation）、《對(duì)醫(yī)療人工智能的監(jiān)管考慮》（Regulatory considerations on artificial intelligence for health）、《醫(yī)療人工智能的倫理與治理：多模態(tài)大模型指南》（Ethics and governance of artificial intelligence for health: guidance on large multi-modal models）等重要文件。許多國家和組織的相關(guān)機(jī)構(gòu)也紛紛發(fā)布關(guān)于醫(yī)療AI應(yīng)用、風(fēng)險(xiǎn)以及倫理和社會(huì)影響相關(guān)治理報(bào)告與建議，現(xiàn)將其核心要點(diǎn)總結(jié)如下。

▉（一）規(guī)范評(píng)估與報(bào)告

在評(píng)估AI工具的模型準(zhǔn)確性、穩(wěn)健性、安全有效性時(shí)，需開展臨床試驗(yàn)，生成可靠的循證醫(yī)學(xué)證據(jù)，確保算法在預(yù)期用途和使用場景下安全有效。另外，為提升AI臨床研究的報(bào)告規(guī)范性，2020年以來，AI相關(guān)臨床試驗(yàn)研究的報(bào)告規(guī)范指南陸續(xù)發(fā)布，例如：人工智能干預(yù)臨床試驗(yàn)方案報(bào)告指南SPIRIT-AI（Standard protocol items: recommendations for interventional trials–artificial intelligence）、人工智能臨床試驗(yàn)報(bào)告規(guī)范CONSORT-AI（Consolidated standards of reporting trials–artificial intelligence）、人工智能驅(qū)動(dòng)下決策輔助系統(tǒng)早期臨床評(píng)價(jià)的報(bào)告指南DECIDE-AI（Developmental and exploratory clinical investigations of decision support systems driven by artificial intelligence）、臨床人工智能建模的最低信息標(biāo)準(zhǔn)MI-CLAIM（Minimum information about clinical artificial intelligence modeling）。這些指南旨在規(guī)范人工智能評(píng)估結(jié)果的呈現(xiàn)方式，提高研究的可重復(fù)性、透明度和信任度。

▉（二）全面、多維度、分階段的評(píng)估

在推進(jìn)AI相關(guān)醫(yī)療應(yīng)用設(shè)備與系統(tǒng)的臨床安全性和有效性、公平性和非歧視性、透明度和可追溯性以及隱私和安全評(píng)估時(shí)，建議采用由特定清單和問題構(gòu)成的自評(píng)估方法，助力AI設(shè)計(jì)師、開發(fā)者、評(píng)估人員和監(jiān)管人員開發(fā)出值得信賴且符合倫理的AI解決方案。此外，應(yīng)建立覆蓋AI全生命周期的多維度、多階段評(píng)估驗(yàn)證體系：包括算法性能驗(yàn)證、臨床前評(píng)價(jià)、可用性測試等，確保產(chǎn)品滿足用戶需求并識(shí)別可預(yù)見風(fēng)險(xiǎn)，同時(shí)明確產(chǎn)品使用限制及警示信息；上市后需持續(xù)監(jiān)測算法泛化能力，收集用戶反饋（如投訴、不良事件等），對(duì)未預(yù)見風(fēng)險(xiǎn)進(jìn)行再評(píng)估并采取控制措施。建議外部驗(yàn)證由第三方評(píng)估機(jī)構(gòu)開展，以確保評(píng)估的全面性和客觀性。

▉（三）多方共同參與，責(zé)任共擔(dān)

創(chuàng)建安全有效的多模態(tài)大模型，需要各國政府、技術(shù)公司、醫(yī)療機(jī)構(gòu)、開發(fā)人員、患者及社會(huì)團(tuán)隊(duì)等相關(guān)方共同參與開發(fā)、部署和監(jiān)管的各個(gè)階段。在此過程中還應(yīng)強(qiáng)化醫(yī)學(xué)AI研究與應(yīng)用相關(guān)方的職責(zé)，通過系統(tǒng)性構(gòu)建契合AI技術(shù)演進(jìn)規(guī)律與內(nèi)在特性的倫理治理新范式，明確以下關(guān)鍵問題：需應(yīng)對(duì)哪些風(fēng)險(xiǎn)？誰最適合應(yīng)對(duì)這些風(fēng)險(xiǎn)？相關(guān)方可采取哪些措施應(yīng)對(duì)風(fēng)險(xiǎn)？

▉（四）基于風(fēng)險(xiǎn)的分類管理

AI醫(yī)療器械需從軟件、用途、功能、算法等不同角度實(shí)施分類管理，并結(jié)合具體應(yīng)用場景，因使用對(duì)象不同，風(fēng)險(xiǎn)水平也會(huì)存在差異。在臨床應(yīng)用中，應(yīng)根據(jù)AI系統(tǒng)的相關(guān)風(fēng)險(xiǎn)進(jìn)行分類與分級(jí)管理指導(dǎo)：高風(fēng)險(xiǎn)技術(shù)需要嚴(yán)格的臨床證據(jù)支持，其部署和監(jiān)管需更為謹(jǐn)慎；管理級(jí)別應(yīng)與潛在風(fēng)險(xiǎn)相匹配，并通過綜合判定預(yù)期用途和使用場景（如是否與診療決策相關(guān)）來確定風(fēng)險(xiǎn)等級(jí)。

▉（五）加強(qiáng)機(jī)構(gòu)職責(zé)與監(jiān)管能力

開展醫(yī)學(xué)AI研究和部署的機(jī)構(gòu)是管理責(zé)任主體，需嚴(yán)格遵循國家相關(guān)法律法規(guī)，健全機(jī)構(gòu)風(fēng)險(xiǎn)評(píng)估與監(jiān)測預(yù)警、倫理審查、全過程監(jiān)督、違規(guī)行為調(diào)查處理、培訓(xùn)與咨詢等制度流程。作為醫(yī)學(xué)AI產(chǎn)品的主要落地應(yīng)用方，醫(yī)療機(jī)構(gòu)在部署AI應(yīng)用于臨床活動(dòng)前，需建立數(shù)據(jù)、信息、業(yè)務(wù)等跨學(xué)科多部門協(xié)作的多維度評(píng)估機(jī)制和團(tuán)隊(duì)，制定評(píng)估計(jì)劃，確定評(píng)估路徑與方式等。通過評(píng)估技術(shù)的安全性、有效性、倫理符合性，充分考量實(shí)踐中的適用性、必要性、預(yù)期應(yīng)用效果等，同時(shí)確保AI模型部署所需的工作流程調(diào)整、IT基礎(chǔ)設(shè)施及人員配置到位。

編輯 |鄭夢瑩

責(zé)任編輯 | 任嘉霖

審核 | 劉紅霞

《中華醫(yī)學(xué)信息導(dǎo)報(bào)》2025年24期第9版