連日來，多家醫(yī)學(xué)院校發(fā)文，督促師生員工審慎使用“龍蝦”等智能代理軟件，非必要不使用，如確需使用，應(yīng)嚴(yán)格遵循一定安全要求。

專家表示，醫(yī)療關(guān)乎生命，AI賦能醫(yī)療必須以安全為底線。

撰文 | 文慧、燕小六

近期，開源AI智能體框架OpenClaw（俗稱“龍蝦”）在網(wǎng)絡(luò)上迅速走紅。

它具有高度的“自主執(zhí)行”能力，可以自主進(jìn)行文件管理、郵件收發(fā)、批量數(shù)據(jù)處理等復(fù)雜任務(wù)，一經(jīng)推出便在全球范圍內(nèi)引發(fā)部署熱潮。但這并不安全，今年2月以來，工信部、國(guó)家互聯(lián)網(wǎng)應(yīng)急中心多次發(fā)布相關(guān)風(fēng)險(xiǎn)預(yù)警。

3月13日，國(guó)家網(wǎng)絡(luò)與信息安全信息通報(bào)中心再次發(fā)布預(yù)警，明確指出OpenClaw存在架構(gòu)設(shè)計(jì)缺陷多、默認(rèn)配置風(fēng)險(xiǎn)高、高危漏洞數(shù)量多等五大安全風(fēng)險(xiǎn)。據(jù)通報(bào)數(shù)據(jù)，我國(guó)境內(nèi)活躍的OpenClaw互聯(lián)網(wǎng)資產(chǎn)約2.3萬個(gè)，呈爆發(fā)式增長(zhǎng)態(tài)勢(shì)。

“醫(yī)學(xué)界”梳理發(fā)現(xiàn)，在國(guó)家層面密集預(yù)警的背景下，北京協(xié)和醫(yī)學(xué)院等多家醫(yī)學(xué)院校已緊急發(fā)布相關(guān)通知，提醒師生員工審慎使用“龍蝦”等智能代理軟件。

這背后的原因或許是，對(duì)于醫(yī)學(xué)院及其附屬的醫(yī)療機(jī)構(gòu)而言，“龍蝦”的風(fēng)險(xiǎn)遠(yuǎn)比其他行業(yè)更加復(fù)雜、也更加嚴(yán)峻。

協(xié)和帶頭，多家醫(yī)學(xué)院校緊急提醒

據(jù)“醫(yī)學(xué)界”不完全統(tǒng)計(jì)，目前已有北京協(xié)和醫(yī)學(xué)院、廣東醫(yī)科大學(xué)、內(nèi)蒙古醫(yī)科大學(xué)、新疆醫(yī)科大學(xué)、重慶醫(yī)科大學(xué)、溫州醫(yī)科大學(xué)、南京中醫(yī)藥大學(xué)、杭州醫(yī)學(xué)院等十余家醫(yī)學(xué)院校發(fā)布了OpenClaw的風(fēng)險(xiǎn)提示。

各院校的應(yīng)對(duì)力度不盡相同，但態(tài)度一致明確。

北京協(xié)和醫(yī)學(xué)院信息辦通知明確要求各部門、各學(xué)院及各所院廣泛傳達(dá)并督促師生員工審慎使用“龍蝦”等智能代理軟件，堅(jiān)持“非必要不使用”的原則。如確需使用，應(yīng)嚴(yán)格遵循六大安全要求。

內(nèi)蒙古醫(yī)科大學(xué)則嚴(yán)禁在網(wǎng)絡(luò)信息中心統(tǒng)一分配、管理的服務(wù)器及校園公共計(jì)算資源上安裝、部署、運(yùn)行OpenClaw相關(guān)程序。

圖源：智慧內(nèi)醫(yī)大

廣東醫(yī)科大學(xué)著重提醒師生，部署OpenClaw要注意防護(hù)，避免電腦里的畢業(yè)論文、實(shí)驗(yàn)數(shù)據(jù)、科研成果，以及個(gè)人賬號(hào)密碼、校園信息等面臨被竊取、篡改的風(fēng)險(xiǎn)。新疆醫(yī)科大學(xué)同樣在3月11日發(fā)文提醒，審慎使用“龍蝦”。

圖源：新疆醫(yī)科大學(xué)

在國(guó)家層面的密集預(yù)警之下，全國(guó)已有數(shù)十所高校均已發(fā)布類似通知，甚至嚴(yán)禁辦公電腦安裝“龍蝦”。

其中，醫(yī)學(xué)院校的應(yīng)對(duì)值得關(guān)注，因?yàn)樗鼈儾粌H是教學(xué)科研機(jī)構(gòu)，更直接連接著臨床醫(yī)療體系，承載著遠(yuǎn)比普通高校更為敏感的數(shù)據(jù)資產(chǎn)。

通常而言，一所醫(yī)學(xué)院校的網(wǎng)絡(luò)環(huán)境中，往往同時(shí)運(yùn)行著教務(wù)系統(tǒng)、科研數(shù)據(jù)庫和附屬醫(yī)院的臨床信息系統(tǒng)，任何一個(gè)環(huán)節(jié)的安全漏洞，都可能產(chǎn)生鏈?zhǔn)椒磻?yīng)。

某大學(xué)附屬醫(yī)院?jiǎn)T工告訴“醫(yī)學(xué)界”，目前他所在的醫(yī)院雖未就“龍蝦”單獨(dú)下達(dá)通知，但作為大學(xué)附屬機(jī)構(gòu)，學(xué)校的要求，醫(yī)院會(huì)跟著執(zhí)行。

科技型醫(yī)療服務(wù)企業(yè)“鄰家好醫(yī)”創(chuàng)始人兼CEO羅林對(duì)“醫(yī)學(xué)界”表示，OpenClaw在醫(yī)療圈的熱度在不斷提升，不過在臨床一線，其應(yīng)用仍處于早期探索階段，業(yè)內(nèi)心態(tài)整體保持“關(guān)注且謹(jǐn)慎”。

醫(yī)療機(jī)構(gòu)為何要格外警惕？

“龍蝦”的安全風(fēng)險(xiǎn)是普遍性的，但對(duì)醫(yī)學(xué)院或醫(yī)療機(jī)構(gòu)來說，這些風(fēng)險(xiǎn)一旦落地，后果可能遠(yuǎn)比其他行業(yè)嚴(yán)重。

這首先與醫(yī)療數(shù)據(jù)的特殊性有關(guān)。

醫(yī)院信息系統(tǒng)中存儲(chǔ)著海量的患者隱私數(shù)據(jù)——姓名、身份證號(hào)、病史、診斷結(jié)果、檢查影像、基因檢測(cè)信息等，這些數(shù)據(jù)一旦泄露，不僅侵犯患者個(gè)人權(quán)益，還可能觸發(fā)嚴(yán)重的法律后果。

與一般商業(yè)數(shù)據(jù)不同，醫(yī)療數(shù)據(jù)具有高度的不可逆性，即一個(gè)人的病史和基因信息等一旦外泄，無法像更換密碼那樣補(bǔ)救。

對(duì)醫(yī)學(xué)院校而言，風(fēng)險(xiǎn)還疊加了一層科研維度。

大量尚未發(fā)表的臨床試驗(yàn)數(shù)據(jù)、藥物研發(fā)資料、科研成果儲(chǔ)存在校園網(wǎng)絡(luò)中，如果被OpenClaw在自主執(zhí)行過程中讀取甚至外傳，不僅涉及知識(shí)產(chǎn)權(quán)損失，還可能影響正在進(jìn)行的臨床研究的合規(guī)性。

正如廣東醫(yī)科大學(xué)在通知中特別提到的，畢業(yè)論文、實(shí)驗(yàn)數(shù)據(jù)、科研成果都是需要重點(diǎn)防護(hù)的對(duì)象。

羅林對(duì)“醫(yī)學(xué)界”表示，如果未經(jīng)嚴(yán)格管控就將OpenClaw引入醫(yī)院內(nèi)網(wǎng)環(huán)境，等于在核心醫(yī)療系統(tǒng)中打開一扇“未知之門”。患者的敏感信息將直接暴露在風(fēng)險(xiǎn)之下，隱私保護(hù)防線可能全面失守。

更深層的隱憂在于醫(yī)療數(shù)據(jù)的完整性。

羅林指出，病歷數(shù)據(jù)一旦被惡意或錯(cuò)誤修改，將直接埋下醫(yī)療事故的隱患。在臨床實(shí)踐中，醫(yī)生的每一個(gè)診療決策都建立在對(duì)病歷信息的信任之上。

如果一個(gè)AI智能體在“自主執(zhí)行”過程中篡改或丟失了關(guān)鍵的檢查結(jié)果、用藥記錄或手術(shù)記錄，后果不堪設(shè)想。更棘手的是，這種篡改往往是隱蔽的，醫(yī)生未必能在第一時(shí)間察覺。

權(quán)限失控則是另一重風(fēng)險(xiǎn)。一旦OpenClaw獲得了對(duì)醫(yī)院信息系統(tǒng)的深層訪問權(quán)限，系統(tǒng)遭到破壞、數(shù)據(jù)記錄丟失等情況就可能發(fā)生。

此外，還有網(wǎng)絡(luò)安全專家指出，AI智能體本身固有的“幻覺”問題在醫(yī)療領(lǐng)域尤其危險(xiǎn)。普通用戶使用AI時(shí)，一個(gè)錯(cuò)誤的回答或許只是帶來不便；但在診療環(huán)節(jié)，如果AI給出了錯(cuò)誤的輔助建議，而臨床人員未能及時(shí)識(shí)別和糾正，后果可能直接關(guān)乎患者的生命安全。

AI醫(yī)療，安全是底線

值得注意的是，從制度層面來看，醫(yī)療行業(yè)受到的監(jiān)管力度本就遠(yuǎn)高于一般行業(yè)。

《個(gè)人信息保護(hù)法》將醫(yī)療健康信息列為“敏感個(gè)人信息”，處理此類信息需要取得個(gè)人的單獨(dú)同意，并采取嚴(yán)格的保護(hù)措施。

《數(shù)據(jù)安全法》和《網(wǎng)絡(luò)安全法》也對(duì)關(guān)鍵信息基礎(chǔ)設(shè)施的運(yùn)營(yíng)者提出了更高的安全要求，而大型醫(yī)療機(jī)構(gòu)的信息系統(tǒng)往往屬于這一范疇。

一旦因部署“龍蝦”導(dǎo)致數(shù)據(jù)安全事件，醫(yī)療機(jī)構(gòu)面臨的不僅是技術(shù)層面的損失，更可能是法律層面的嚴(yán)厲追責(zé)。

羅林對(duì)“醫(yī)學(xué)界”表示，以O(shè)penClaw為代表的AI智能體在醫(yī)療領(lǐng)域確實(shí)有廣闊的應(yīng)用前景——從智能導(dǎo)診、病歷整理、報(bào)告解讀，到患者隨訪管理和科研數(shù)據(jù)分析，落地場(chǎng)景清晰可見。

但他強(qiáng)調(diào)，AI醫(yī)療，安全是底線。風(fēng)險(xiǎn)規(guī)避的關(guān)鍵在于如何定義“自主”邊界。

“讓AI擁有'執(zhí)行權(quán)'，但醫(yī)生必須牢牢守住‘決策權(quán)’與‘確認(rèn)權(quán)’?！绷_林說，“落實(shí)到具體操作，一定要提前給AI設(shè)定好什么能做、什么不能做。所有開出的藥、給出的診斷建議，必須經(jīng)過醫(yī)生親自確認(rèn)、電子簽名，才能生效?！?/p>

對(duì)于醫(yī)療機(jī)構(gòu)，羅林建議應(yīng)做好網(wǎng)絡(luò)隔離，為智能體設(shè)立專屬“數(shù)字隔離帶”，確保核心臨床系統(tǒng)不受沖擊；必須制定風(fēng)險(xiǎn)預(yù)案，明確人機(jī)權(quán)責(zé)邊界，確保一旦失控，人工能隨時(shí)接管；同時(shí)要培養(yǎng)既懂醫(yī)療又懂AI的復(fù)合型人才，為技術(shù)落地配好“領(lǐng)航員”。

歸根結(jié)底，醫(yī)學(xué)院校及其附屬醫(yī)院對(duì)“龍蝦”的禁用與慎用，并非對(duì)AI技術(shù)的排斥，而是對(duì)醫(yī)療行業(yè)特殊性的理性認(rèn)識(shí)，在一個(gè)直接關(guān)乎人命的領(lǐng)域，任何技術(shù)的引入都必須以安全為前提。

來源：醫(yī)學(xué)界

校對(duì)：蔡 菜

運(yùn)營(yíng)：王奧雅

責(zé)編：汪 航

值班：郭雪梅

*“醫(yī)學(xué)界”力求所發(fā)表內(nèi)容專業(yè)、可靠，但不對(duì)內(nèi)容的準(zhǔn)確性做出承諾；請(qǐng)相關(guān)各方在采用或以此作為決策依據(jù)時(shí)另行核查。