国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

研究團(tuán)隊(duì)虛構(gòu)眼疾“bixonimania” 多款A(yù)I聊天機(jī)器人連聲附和

0
分享至

在過(guò)去一年多里,如果有人把自己“盯屏幕太久、眼癢、眼皮微紅”的癥狀輸入幾款主流人工智能聊天機(jī)器人,系統(tǒng)很可能會(huì)給出一個(gè)古怪的診斷:一種名為“bixonimania”的新疾病。然而,這種所謂的疾病在正式醫(yī)學(xué)文獻(xiàn)中根本不存在,它完全出自瑞典哥德堡大學(xué)醫(yī)學(xué)研究者阿爾米拉·奧斯馬諾維奇·通斯特倫(Almira Osmanovic Thunstr?m)團(tuán)隊(duì)的一場(chǎng)刻意設(shè)計(jì)的實(shí)驗(yàn)。


2024年3月15日,兩篇介紹“bixonimania”的博文首先出現(xiàn)在平臺(tái) Medium 上。隨后在4月26日和5月6日,兩篇偽造的學(xué)術(shù)預(yù)印本又被上傳至學(xué)術(shù)社交網(wǎng)站 SciProfiles,署名作者是并不存在的“Lazljiv Izgubljenovic”,連配圖頭像也是用 AI 生成的。這位虛構(gòu)作者所在的“Asteria Horizon University”和“Nova City, California”同樣是子虛烏有,就連論文致謝中提到的“星際艦隊(duì)學(xué)院”“企業(yè)號(hào)”“Professor Sideshow Bob 基金會(huì)”“Fellowship of the Ring 大學(xué)”“Galactic Triad”等機(jī)構(gòu),也都來(lái)自科幻作品與卡通角色,提示意味極為明顯。論文正文早早就寫(xiě)著“整篇論文都是編造的”“招募了50名虛構(gòu)受試者”等字句,幾乎是在向任何有心人宣告“這是一場(chǎng)玩笑”。

奧斯馬諾維奇·通斯特倫表示,自己最初設(shè)想這一實(shí)驗(yàn),是為了向?qū)W生講解大型語(yǔ)言模型如何從互聯(lián)網(wǎng)上的“通用爬取數(shù)據(jù)集”(例如 Common Crawl)構(gòu)建知識(shí),并展示“提示注入”(prompt injection)如何把聊天機(jī)器人從安全護(hù)欄外“拐走”。出于自身醫(yī)學(xué)背景,她選擇了健康相關(guān)主題,并刻意用一個(gè)“聽(tīng)上去很滑稽”的名稱(chēng) bixonimania 來(lái)強(qiáng)調(diào)其虛構(gòu)性——任何醫(yī)生一看到以 mania 結(jié)尾的眼科疾病名稱(chēng),都會(huì)知道不對(duì)勁,因?yàn)槟鞘蔷癫W(xué)術(shù)語(yǔ)。

然而,這場(chǎng)實(shí)驗(yàn)“成功得有些過(guò)頭”。在信息上傳數(shù)周內(nèi),微軟 Bing 的 Copilot 已經(jīng)把 bixonimania 描述為“確有其事且較為罕見(jiàn)的疾病”,Google Gemini 則稱(chēng)它是“由過(guò)度暴露藍(lán)光引起的疾病”,并建議用戶(hù)就診眼科醫(yī)生。同一時(shí)期,Perplexity AI 給出具體“患病率”為每9萬(wàn)人中約1人,OpenAI 的 ChatGPT 則會(huì)根據(jù)用戶(hù)描述判斷其癥狀是否符合 bixonimania。在這些回答中,既有用戶(hù)直接詢(xún)問(wèn) bixonimania,也有只描述“藍(lán)光導(dǎo)致眼瞼色素沉著”的一般性提問(wèn),模型也會(huì)主動(dòng)將之聯(lián)系到這一虛構(gòu)病名。

這些回答令一些專(zhuān)家感到震驚。英國(guó)倫敦大學(xué)學(xué)院健康虛假信息研究者亞歷克斯·魯阿尼(Alex Ruani)指出,如果科學(xué)體系以及支撐這一體系的系統(tǒng)無(wú)法識(shí)別并過(guò)濾掉這樣的“垃圾”,后果不堪設(shè)想。她稱(chēng)這一案例是“錯(cuò)誤信息與虛假信息運(yùn)作方式的一堂教科書(shū)式示范”,并強(qiáng)調(diào)“看上去很好笑,但問(wèn)題非常嚴(yán)重”。

互聯(lián)網(wǎng)虛假信息并非新問(wèn)題,Google等搜索引擎多年來(lái)持續(xù)與“偽內(nèi)容”“誤導(dǎo)性?xún)?nèi)容”對(duì)抗,通過(guò)更新排名算法過(guò)濾不良信息。但與傳統(tǒng)搜索不同,生成式大模型在信息篩選和溯源方面存在天然短板,往往會(huì)在缺乏可靠依據(jù)時(shí)“一本正經(jīng)地胡編”。自從這些偽造論文出現(xiàn)以來(lái),一些最新版本的大模型在面對(duì) bixonimania 時(shí)已經(jīng)學(xué)會(huì)表達(dá)懷疑,例如2026年3月11日,ChatGPT 會(huì)被動(dòng)指出該名詞“很可能是偽造或邊緣、偽科學(xué)標(biāo)簽”。不過(guò)僅僅幾天后,它又在另一輪問(wèn)答中,把 bixonimania 描述為“與數(shù)字屏幕藍(lán)光暴露相關(guān)的眼周黑眼圈(眼周色素沉著,periorbital melanosis)新亞型”。

類(lèi)似的搖擺也出現(xiàn)在其他系統(tǒng)中。今年3月中旬,微軟 Copilot 會(huì)回答說(shuō),bixonimania“尚未被廣泛認(rèn)可為醫(yī)學(xué)診斷,但多篇新發(fā)表論文與病例報(bào)道將其視為與長(zhǎng)時(shí)間藍(lán)光暴露相關(guān)的良性誤診疾病”。今年1月,Perplexity 在描述中稱(chēng)其為“一個(gè)新近出現(xiàn)的術(shù)語(yǔ)”。在相關(guān)表述被質(zhì)詢(xún)后,各家公司先后作出回應(yīng):Perplexity 表示自己“最大的優(yōu)勢(shì)在于準(zhǔn)確性”,雖然不聲稱(chēng)“百分之百準(zhǔn)確”,但自稱(chēng)是“最重視準(zhǔn)確性的 AI 公司”;OpenAI 則稱(chēng),支撐當(dāng)前版本 ChatGPT 的模型在提供安全、準(zhǔn)確醫(yī)學(xué)信息方面已有顯著改進(jìn),此前研究所反映的是舊一代模型的情況。在被問(wèn)及 Gemini 過(guò)去將 bixonimania 當(dāng)作真實(shí)疾病的回答時(shí),Google發(fā)言人表示,那反映的是早期模型的表現(xiàn),并強(qiáng)調(diào)公司一直“坦誠(chéng)生成式 AI 的局限性”,在應(yīng)用內(nèi)提示用戶(hù)“核查信息”,在涉及醫(yī)療等敏感主題時(shí)建議用戶(hù)咨詢(xún)專(zhuān)業(yè)人士。微軟則沒(méi)有對(duì)置評(píng)請(qǐng)求作出回應(yīng)。

部分問(wèn)題在于,AI 模型的輸出高度依賴(lài)具體提問(wèn)方式及其所依托的信息源。如果搜索“bixonimania”,Google的 AI 概覽可能會(huì)把它當(dāng)作一個(gè)合法病癥;而如果改問(wèn)“bixonimania 真的存在嗎?”,同一功能又可能會(huì)確認(rèn)它并不合法、只是一個(gè)虛構(gòu)名詞。

bixonimania 實(shí)驗(yàn)的“成功”還與其包裝形式高度仿真有關(guān):它采用了學(xué)術(shù)論文與臨床文書(shū)的專(zhuān)業(yè)格式,看上去像“官方來(lái)源”。哈佛醫(yī)學(xué)院從事醫(yī)療 AI 研究的醫(yī)生馬哈穆德·奧馬爾(Mahmud Omar)在一項(xiàng)涵蓋20種大模型的研究中發(fā)現(xiàn),當(dāng)輸入文本以出院小結(jié)、臨床論文等專(zhuān)業(yè)醫(yī)療文體呈現(xiàn)時(shí),大模型更容易在原有信息基礎(chǔ)上“添油加醋”,產(chǎn)生幻覺(jué);若文本來(lái)自社交媒體、語(yǔ)氣更隨意,幻覺(jué)概率反而較低。他指出,當(dāng)前 AI 企業(yè)迭代模型的速度極快,行業(yè)尚未形成對(duì)每個(gè)版本進(jìn)行自動(dòng)化嚴(yán)密測(cè)試的統(tǒng)一流程與共識(shí),這使得安全性評(píng)估和標(biāo)準(zhǔn)化控制難度大大增加。

更令人警醒的是,這場(chǎng)實(shí)驗(yàn)最終突破了機(jī)器與人類(lèi)之間的邊界,進(jìn)入了正式醫(yī)學(xué)期刊。bixonimania 相關(guān)研究已在少數(shù)論文中被引用,其中包括一篇發(fā)表在醫(yī)學(xué)期刊《Cureus》上的研究,作者來(lái)自印度穆拉納的 Maharishi Markandeshwar 醫(yī)科與研究學(xué)院。該文引用了其中一篇偽造預(yù)印本,并寫(xiě)道:“bixonimania 是一種與藍(lán)光暴露相關(guān)的眼周色素沉著(POM)新興形式,其機(jī)制有待進(jìn)一步研究?!痹凇蹲匀弧沸侣剤F(tuán)隊(duì)向期刊求證后,《Cureus》于2026年3月30日宣布撤稿,理由是文章中存在三篇不相關(guān)參考文獻(xiàn),包括一篇指向虛構(gòu)疾病的引用,編輯部因此“無(wú)法再對(duì)該工作準(zhǔn)確性與來(lái)源保持信心”。作者不同意這一撤稿決定,但論文最終仍被正式撤回。

魯阿尼認(rèn)為,這起事件已經(jīng)遠(yuǎn)遠(yuǎn)超出“AI 亂說(shuō)話(huà)”的范疇,因?yàn)樗瑯印坝夼巳祟?lèi)”,暴露出科研工作者對(duì)文獻(xiàn)來(lái)源與內(nèi)容的信任機(jī)制正在被侵蝕?!拔覀冃枰癖Wo(hù)黃金那樣保護(hù)我們的信任,”她說(shuō),“現(xiàn)在的狀況可以用一個(gè)詞形容:亂?!?/p>

在設(shè)計(jì)這場(chǎng)實(shí)驗(yàn)時(shí),奧斯馬諾維奇·通斯特倫也曾有過(guò)顧慮,她擔(dān)心刻意向科學(xué)文獻(xiàn)中“播種”一個(gè)假疾病,會(huì)造成現(xiàn)實(shí)傷害。為此,她向倫理顧問(wèn)咨詢(xún)潛在風(fēng)險(xiǎn),并刻意選擇了相對(duì)“低風(fēng)險(xiǎn)”的輕微皮膚問(wèn)題作為題材,以減少可能的負(fù)面影響?!拔蚁氪_認(rèn)的是,我們通過(guò)這種方式做實(shí)驗(yàn),是在減少傷害而不是制造更多傷害?!彼f(shuō)。

圍繞 bixonimania 的這場(chǎng)連鎖反應(yīng),清晰地展示了在生成式人工智能迅猛發(fā)展、學(xué)術(shù)生產(chǎn)高度依賴(lài)數(shù)字工具的時(shí)代,虛假信息可以如何輕易穿透技術(shù)與制度的多層防線(xiàn)。從聊天機(jī)器人到同行評(píng)議期刊,機(jī)器與人類(lèi)在這場(chǎng)“集體受騙”中共同參與,也迫使學(xué)界、業(yè)界和監(jiān)管者重新思考:在 AI 參與知識(shí)生產(chǎn)的新階段,如何重新校準(zhǔn)“可信”的含義,以及如何在追求效率的同時(shí)劃出一條更清晰、更穩(wěn)固的審慎邊界。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
東風(fēng)導(dǎo)彈泄密案!間諜郭萬(wàn)鈞一家三口,全部被處以死刑

東風(fēng)導(dǎo)彈泄密案!間諜郭萬(wàn)鈞一家三口,全部被處以死刑

番外行
2026-03-31 08:28:28
何猷君深夜悼念何超蕸!賭王17子女僅剩14人,獨(dú)苗孫子太扎心了

何猷君深夜悼念何超蕸!賭王17子女僅剩14人,獨(dú)苗孫子太扎心了

小樾說(shuō)歷史
2026-04-13 05:15:54
色情露骨!聲稱(chēng)“可手搓讓自己滿(mǎn)意的大尺度視頻”“日入5位數(shù)”!央視曝光

色情露骨!聲稱(chēng)“可手搓讓自己滿(mǎn)意的大尺度視頻”“日入5位數(shù)”!央視曝光

南方都市報(bào)
2026-04-13 11:11:51
賽力斯滑軌馬桶專(zhuān)利獲批,隱藏在座椅下方,使用時(shí)可拉出應(yīng)急,網(wǎng)友:以后車(chē)?yán)镞B廁所都有了,還去啥服務(wù)區(qū)?

賽力斯滑軌馬桶專(zhuān)利獲批,隱藏在座椅下方,使用時(shí)可拉出應(yīng)急,網(wǎng)友:以后車(chē)?yán)镞B廁所都有了,還去啥服務(wù)區(qū)?

觀威海
2026-04-12 13:08:02
火箭隊(duì)常規(guī)賽數(shù)據(jù):52勝30負(fù)西部第五,場(chǎng)均47.9籃板聯(lián)盟第一

火箭隊(duì)常規(guī)賽數(shù)據(jù):52勝30負(fù)西部第五,場(chǎng)均47.9籃板聯(lián)盟第一

懂球帝
2026-04-13 13:19:09
賈平凹之女賈淺淺被調(diào)查,連米芾的芾字都不認(rèn)識(shí),引起書(shū)法界震怒

賈平凹之女賈淺淺被調(diào)查,連米芾的芾字都不認(rèn)識(shí),引起書(shū)法界震怒

潮鹿逐夢(mèng)
2026-04-10 12:43:59
空姐飛機(jī)上換絲襪,被同事偷拍,太惡劣了

空姐飛機(jī)上換絲襪,被同事偷拍,太惡劣了

微微熱評(píng)
2026-04-12 22:18:24
擊敗傳統(tǒng)霸主俄羅斯隊(duì),中國(guó)隊(duì)團(tuán)體摘金,多名小將更驚喜奪冠

擊敗傳統(tǒng)霸主俄羅斯隊(duì),中國(guó)隊(duì)團(tuán)體摘金,多名小將更驚喜奪冠

羅掌柜體育
2026-04-12 13:16:06
王石被抓?回應(yīng):“造謠”“已去報(bào)案路上”

王石被抓?回應(yīng):“造謠”“已去報(bào)案路上”

新京報(bào)
2026-04-12 19:58:08
13歲男孩騎車(chē)被繩子鎖喉,食道氣管全斷裂!村支書(shū)淚崩:孩子成績(jī)?nèi)G?,母親患白血病和乳腺癌……栓繩人僅出1萬(wàn)元,遠(yuǎn)不夠治療費(fèi)

13歲男孩騎車(chē)被繩子鎖喉,食道氣管全斷裂!村支書(shū)淚崩:孩子成績(jī)?nèi)G?,母親患白血病和乳腺癌……栓繩人僅出1萬(wàn)元,遠(yuǎn)不夠治療費(fèi)

極目新聞
2026-04-12 21:12:34
鹵菜店使用“四姐”二字被索賠50萬(wàn)元,店主:大家都叫我四姐,為什么告我侵權(quán)

鹵菜店使用“四姐”二字被索賠50萬(wàn)元,店主:大家都叫我四姐,為什么告我侵權(quán)

環(huán)球網(wǎng)資訊
2026-04-11 21:50:22
委內(nèi)瑞拉徹底炸鍋:97天的沉默,終于變成怒吼

委內(nèi)瑞拉徹底炸鍋:97天的沉默,終于變成怒吼

素衣讀史
2026-04-12 18:52:38
某車(chē)起火文章被投訴下架!

某車(chē)起火文章被投訴下架!

電動(dòng)知家
2026-04-12 19:53:03
外媒:一旦戰(zhàn)火爆發(fā),中國(guó)將會(huì)到達(dá)無(wú)人知曉的地步

外媒:一旦戰(zhàn)火爆發(fā),中國(guó)將會(huì)到達(dá)無(wú)人知曉的地步

老謝談史
2026-04-12 21:56:50
出差前我丈夫把院子的智能灌溉系統(tǒng)關(guān)了,回來(lái)卻發(fā)現(xiàn)鄰居家的菜地

出差前我丈夫把院子的智能灌溉系統(tǒng)關(guān)了,回來(lái)卻發(fā)現(xiàn)鄰居家的菜地

小秋情感說(shuō)
2026-04-12 09:32:40
新娘確實(shí)漂亮,但我更喜歡戴眼鏡那個(gè)。

新娘確實(shí)漂亮,但我更喜歡戴眼鏡那個(gè)。

動(dòng)物奇奇怪怪
2026-04-12 12:44:36
國(guó)民黨副主席李乾龍,七八十歲老人走完392級(jí)臺(tái)階,每一步都作數(shù)

國(guó)民黨副主席李乾龍,七八十歲老人走完392級(jí)臺(tái)階,每一步都作數(shù)

阿天愛(ài)旅行
2026-04-12 21:47:18
《黑袍糾察隊(duì)》祖國(guó)人演員:粉絲總是要給我送牛奶

《黑袍糾察隊(duì)》祖國(guó)人演員:粉絲總是要給我送牛奶

3DM游戲
2026-04-13 09:27:22
杭州女子多次僅退款海鮮,被老板找上門(mén),身份是律師,業(yè)主爆黑料

杭州女子多次僅退款海鮮,被老板找上門(mén),身份是律師,業(yè)主爆黑料

觀察鑒娛
2026-04-12 11:13:55
馬斯克版“微信”來(lái)了,iPhone下載需謹(jǐn)慎!

馬斯克版“微信”來(lái)了,iPhone下載需謹(jǐn)慎!

果粉之家
2026-04-12 12:57:47
2026-04-13 14:27:00
cnBeta.COM incentive-icons
cnBeta.COM
提供IT行業(yè)即時(shí)資訊
67348文章數(shù) 70156關(guān)注度
往期回顧 全部

科技要聞

傳榮耀與字節(jié)跳動(dòng)接洽“豆包手機(jī)”合作

頭條要聞

毛焦?fàn)枺盒傺览麑⒃俅纬蔀闅W盟和北約國(guó)家的堅(jiān)定盟友

頭條要聞

毛焦?fàn)枺盒傺览麑⒃俅纬蔀闅W盟和北約國(guó)家的堅(jiān)定盟友

體育要聞

一支球隊(duì)不夠爛,也是一種悲哀

娛樂(lè)要聞

賈玲減重后現(xiàn)身馮鞏生日宴 身材未反彈

財(cái)經(jīng)要聞

封鎖,還是收費(fèi)站?

汽車(chē)要聞

不止命名更純粹 領(lǐng)克10/10+要做純電操控新王

態(tài)度原創(chuàng)

時(shí)尚
本地
數(shù)碼
健康
手機(jī)

這些才是普通人借鑒的穿搭!上短下長(zhǎng)、上窄下寬,顯瘦又舒適

本地新聞

12噸巧克力有難,全網(wǎng)化身超級(jí)偵探添亂

數(shù)碼要聞

超頻三預(yù)熱RZ700D PRO ARGB風(fēng)冷,搭載F7 X120B系列風(fēng)扇

干細(xì)胞抗衰4大誤區(qū),90%的人都中招

手機(jī)要聞

聯(lián)想拯救者手機(jī)回歸:Y70新一代官宣5月見(jiàn),號(hào)稱(chēng)“為戰(zhàn)而生”

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版