#2月·每日幸運(yùn)簽#

2月底，微軟的AI助手Copilot翻車了。從1月下旬開始，這個(gè)被寄予厚望的打工神器，在沒有授權(quán)的情況下，偷偷讀取并總結(jié)了一批企業(yè)用戶的機(jī)密郵件。消息一出，很多人后背發(fā)涼——自己公司里那些標(biāo)著“機(jī)密”的郵件，是不是也被AI扒了個(gè)遍？

1月21號(hào)，有人發(fā)現(xiàn)微軟365 Copilot聊天功能出了岔子。按理說，企業(yè)用戶可以對(duì)郵件打上“機(jī)密”標(biāo)簽，開啟數(shù)據(jù)防泄漏策略，這樣自動(dòng)化工具就不能碰這些內(nèi)容。但Copilot直接無視了這套防護(hù)，把用戶已發(fā)送和草稿箱里的機(jī)密郵件也抓去做了摘要 。

微軟的回應(yīng)很快，說這是個(gè)代碼漏洞，不是故意的，2月初就開始給全球企業(yè)客戶部署修復(fù)更新 。他們強(qiáng)調(diào)，漏洞并沒有讓任何原本沒權(quán)限的人看到這些郵件，只是Copilot的行為不符合“排除受保護(hù)內(nèi)容”的設(shè)計(jì)預(yù)期 。

問題是，你說不是故意的，用戶敢信嗎？

這次出事的不是個(gè)人版，是企業(yè)版Copilot Chat。它深度集成在Outlook、Teams里，能幫員工總結(jié)郵件、回答問題，是微軟向企業(yè)客戶收錢的核心產(chǎn)品。企業(yè)之所以愿意付費(fèi)，就是沖著微軟承諾的“安全可控” 。結(jié)果倒好，你標(biāo)了“機(jī)密”，設(shè)了防泄漏，Copilot照樣讀。這就像你請(qǐng)了個(gè)秘書，反復(fù)叮囑他我保險(xiǎn)柜里的東西不能碰，結(jié)果他扭頭就打開幫你“整理”了。

技術(shù)層面到底怎么回事？有分析指出，Copilot依賴一套叫“語義索引”的底層架構(gòu)，會(huì)掃描用戶的郵件、文檔構(gòu)建索引 。正常情況下它應(yīng)該嚴(yán)格遵循權(quán)限管理，但這次代碼錯(cuò)誤導(dǎo)致索引層面權(quán)限失效，本該被排除的機(jī)密郵件也被納入了檢索池 。不是有人故意要看，是AI壓根沒認(rèn)出來“機(jī)密”倆字啥意思。

Gartner的分析師Nader Henein解釋稱：這種失誤是“不可避免的” 。現(xiàn)在AI新功能推出的速度太快，企業(yè)之間搶著上線、搶著宣傳，安全管控根本跟不上。正常邏輯應(yīng)該是功能出來先等等，等治理規(guī)則跟上了再開，但市場(chǎng)上鋪天蓋地的AI炒作，讓企業(yè)根本等不了 。薩里大學(xué)的網(wǎng)絡(luò)安全教授Alan Woodward認(rèn)為：這些工具以“驚人的速度”往前沖，數(shù)據(jù)泄露就算不是故意的，也一定會(huì)發(fā)生 。

有人說，這不就跟手機(jī)App偷偷讀取剪貼板一樣嗎，先上車后補(bǔ)票，被發(fā)現(xiàn)就說“bug”。也有人替微軟說話，代碼是人寫的，不出錯(cuò)才怪，關(guān)鍵看怎么補(bǔ)救。還有人的關(guān)注點(diǎn)很現(xiàn)實(shí)：我公司那些發(fā)出去的報(bào)價(jià)、HR的薪資調(diào)整郵件，是不是已經(jīng)被AI總結(jié)過一輪了？

這事背后有個(gè)更扎心的真相。以前我們擔(dān)心數(shù)據(jù)安全，怕的是黑客攻破防火墻、有人偷走硬盤?，F(xiàn)在AI時(shí)代，風(fēng)險(xiǎn)變成了你花了錢請(qǐng)來的“幫手”，自己把門打開讓數(shù)據(jù)出去。Copilot不是外部入侵者，它就在系統(tǒng)內(nèi)部，默認(rèn)擁有讀取權(quán)限。當(dāng)它的權(quán)限邏輯和人類設(shè)的機(jī)密標(biāo)簽打架時(shí)，誰贏？這次是AI贏了，機(jī)密輸了。

更值得琢磨的是微軟的回應(yīng)姿態(tài)。他們說“行為不符合設(shè)計(jì)預(yù)期”，強(qiáng)調(diào)的是本意不是這樣；說“沒讓人看到不該看的”，潛臺(tái)詞是數(shù)據(jù)沒外泄。但用戶真正關(guān)心的不是你有沒有故意，而是你的系統(tǒng)能不能守住設(shè)的邊界。一個(gè)企業(yè)級(jí)產(chǎn)品，機(jī)密標(biāo)簽是用戶信任的最后一道防線，現(xiàn)在這道防線AI說跨就跨了，一句“bug”能消解掉多少信任？

當(dāng)然，也得承認(rèn)這事有積極的一面。漏洞被發(fā)現(xiàn)、被披露、被修復(fù)，說明安全反饋機(jī)制還在運(yùn)轉(zhuǎn)。而且這次影響范圍據(jù)說有限，主要涉及的是用戶自己已發(fā)送和草稿箱里的郵件，沒有造成大規(guī)模外泄 。英國國民保健體系也被波及，但官方強(qiáng)調(diào)患者信息沒暴露 。

微軟Copilot這次“誤讀”事件，給所有擁抱AI的企業(yè)上了一課：你用AI提高效率沒問題，但得接受一個(gè)事實(shí)——AI不是人，它不懂什么是“機(jī)密”，只知道按代碼規(guī)則抓取信息。你以為貼了封條它就繞道走，結(jié)果它眼里根本沒有封條。

信任這東西，建立起來需要無數(shù)個(gè)“沒問題”，摧毀只需要一次“意外”。微軟說不是故意的，你可以選擇信，但以后給郵件標(biāo)“機(jī)密”的時(shí)候，可能得多想一秒：這個(gè)秘密，到底想防的是誰？