AI聊天機器人的醫(yī)學建議存在誤導性

鳳凰網(wǎng)科技訊 北京時間4月15日，據(jù)彭博社報道，一項最新研究顯示，AI驅(qū)動的聊天機器人在提供醫(yī)學建議時，約有半數(shù)時間會給出有問題的答案。這一發(fā)現(xiàn)凸顯出，AI這項正日益融入日常生活的新技術(shù)存在健康風險。

來自美國、加拿大和英國的研究人員評估了五大頭部AI平臺：ChatGPT、Gemini、Meta AI、Grok和DeepSeek，方法是在五個健康類別下分別向每個平臺提出10個問題。根據(jù)本周發(fā)表在醫(yī)學期刊《BMJ Open》上的研究結(jié)果，在這些AI聊天機器人的所有回答中，約有50%被認為“有問題”，其中近20%屬于“高度有問題”。

研究發(fā)現(xiàn)，這些聊天機器人在不同類型問題上的表現(xiàn)差異明顯：在封閉式提問(答案確定)以及與疫苗和癌癥相關(guān)的問題上表現(xiàn)相對更好，但在開放式問題以及如干細胞研究和營養(yǎng)學等領(lǐng)域表現(xiàn)較差。

黃色代表有問題，橙色代表高度有問題

研究人員表示，這些回答通常以自信和確定的口吻給出，但沒有一個聊天機器人在回答任何提示時能提供完整且準確的參考文獻列表。在整個研究過程中，聊天機器人只有兩次拒絕回答問題的情況，且均來自Meta AI。

該研究結(jié)果凸顯了一個日益增長的擔憂：人們正在越來越多地使用生成式AI平臺來獲取醫(yī)療建議，但這些平臺并未獲得提供醫(yī)學建議的醫(yī)療執(zhí)業(yè)許可，也缺乏做出診斷所需的臨床判斷能力。

AI聊天機器人的爆炸式增長使其成為人們尋求疾病指導的熱門工具。OpenAI表示，每周有超過2億人向ChatGPT咨詢健康和保健方面的問題。該平臺于今年1月宣布，將為普通用戶和臨床醫(yī)生分別推出健康工具。同月，Anthropic也宣布其Claude產(chǎn)品將推出一項新的醫(yī)療保健服務(wù)。

這項發(fā)表在《BMJ Open》上的研究的作者表示，如果在缺乏公眾教育和監(jiān)管的情況下部署聊天機器人，一個重大風險是它們可能會放大錯誤信息的傳播。

他們稱，這些發(fā)現(xiàn)“凸顯了重要的AI行為局限性，并表明有必要重新評估AI聊天機器人在面向公眾的健康與醫(yī)療溝通中的部署方式”。他們還指出，這些系統(tǒng)往往能夠生成“聽起來權(quán)威但可能存在缺陷的回答”。(作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網(wǎng)科技。想看深度報道，請微信搜索“鳳凰網(wǎng)科技”。