將隱私保護(hù)加入到AI技術(shù)激增可能造成損失的清單中吧，因?yàn)檠芯咳藛T發(fā)現(xiàn)，大語(yǔ)言模型可以比人類調(diào)查員更高效地去匿名化網(wǎng)絡(luò)用戶，即使是那些使用假名的用戶。

過去25年關(guān)于網(wǎng)絡(luò)隱私的大部分學(xué)術(shù)研究都建立在Latanya Sweeney 2002年關(guān)于k-匿名性的研究基礎(chǔ)上，以及她之前證明可以使用三個(gè)匿名數(shù)據(jù)點(diǎn)——五位數(shù)郵政編碼、性別和出生日期來識(shí)別87%美國(guó)人口的研究。

從匿名數(shù)據(jù)中識(shí)別個(gè)人身份的可能性成為了在線廣告和網(wǎng)頁(yè)瀏覽器中使用cookie的核心擔(dān)憂之一。

這種風(fēng)險(xiǎn)并沒有消失，現(xiàn)在看起來更加嚴(yán)重，因?yàn)榇笳Z(yǔ)言模型可以自動(dòng)化地連接網(wǎng)絡(luò)帖子中的線索，從而指向可能的來源。

MATS研究所的AI工程師Simon Lermen表示："我們證明了大語(yǔ)言模型智能體可以從你的匿名在線帖子中找出你的身份。"他是一篇題為"大語(yǔ)言模型大規(guī)模在線去匿名化"的預(yù)印本論文的通訊作者之一。

Lermen在一篇在線帖子中解釋道："在Hacker News、Reddit、LinkedIn和匿名化訪談?dòng)涗浿校覀兊姆椒軌蚋呔鹊刈R(shí)別用戶，并且可以擴(kuò)展到數(shù)萬個(gè)候選者。"

研究人員觀察到，雖然長(zhǎng)期以來人們就知道可以僅使用幾個(gè)數(shù)據(jù)點(diǎn)來識(shí)別個(gè)人，但這樣做往往不切實(shí)際。這些數(shù)據(jù)通常以非結(jié)構(gòu)化形式存在，人類調(diào)查員需要付出相當(dāng)大的努力來收集足夠的片段來解決身份謎題。

Lermen和他的合著者聲稱，大語(yǔ)言模型加速并自動(dòng)化了這一過程，而且成本可承受。

他們?cè)谡撐闹斜硎荆?我們證明大語(yǔ)言模型從根本上改變了這種計(jì)算方式，實(shí)現(xiàn)了能夠大規(guī)模處理非結(jié)構(gòu)化文本的全自動(dòng)去匿名化攻擊。以前的方法需要預(yù)定義的特征模式、仔細(xì)的數(shù)據(jù)對(duì)齊和人工驗(yàn)證，而大語(yǔ)言模型可以從任意文本中提取與身份相關(guān)的信號(hào)，高效地搜索數(shù)百萬個(gè)候選檔案，并推斷兩個(gè)賬戶是否屬于同一個(gè)人。"

在一項(xiàng)實(shí)驗(yàn)中，作者收集了338名Hacker News用戶，這些用戶的簡(jiǎn)歷鏈接到LinkedIn檔案。他們這樣做是為了建立研究對(duì)象的真實(shí)身份，以便檢驗(yàn)大語(yǔ)言模型的預(yù)測(cè)——這也是為了避免在研究中真正去匿名化人們所帶來的倫理問題。

接下來，他們基于這些用戶的評(píng)論和發(fā)布的故事創(chuàng)建了結(jié)構(gòu)化的數(shù)據(jù)檔案。然后他們創(chuàng)建了一個(gè)搜索提示，將其匿名化，并傳遞給AI智能體。智能體繼續(xù)正確識(shí)別了338個(gè)目標(biāo)中的226個(gè)，在90%精確度下成功率為67%（有25個(gè)錯(cuò)誤識(shí)別和86個(gè)模型未提供預(yù)測(cè)的棄權(quán)）。

作者使用的技術(shù)并不是通用的隱私溶解劑——它只在某些時(shí)候成功。但它成功的頻率足以讓那些在網(wǎng)上使用假名賬戶發(fā)帖的人不應(yīng)該假設(shè)他們的身份會(huì)保持未知。

運(yùn)行成本也很便宜。研究人員報(bào)告他們的整個(gè)實(shí)驗(yàn)花費(fèi)約2000美元，每個(gè)檔案的估計(jì)成本在1到4美元之間。

誰會(huì)這么做？作者建議政府可以使用這種技術(shù)來針對(duì)記者或活動(dòng)人士，企業(yè)可以挖掘論壇來建立高度針對(duì)性的廣告檔案，在線攻擊者可以開發(fā)詳細(xì)的個(gè)人檔案來使社會(huì)工程詐騙更具可信度。

Lermen認(rèn)為網(wǎng)民因此需要考慮他們分享的每個(gè)數(shù)據(jù)點(diǎn)如何幫助識(shí)別他們。

"這種組合通常是一個(gè)獨(dú)特的指紋，"他說。"問問你自己：一隊(duì)聰明的調(diào)查員能從你的帖子中找出你是誰嗎？如果是的話，大語(yǔ)言模型智能體很可能也能做到同樣的事情，而且這樣做的成本只會(huì)越來越低。"

Lermen的合著者包括Daniel Paleka（蘇黎世聯(lián)邦理工學(xué)院）、Joshua Swanson（蘇黎世聯(lián)邦理工學(xué)院）、Michael Aerni（蘇黎世聯(lián)邦理工學(xué)院）、Nicholas Carlini（Anthropic）和Florian Tramèr（蘇黎世聯(lián)邦理工學(xué)院）。

Q&A

Q1：大語(yǔ)言模型如何實(shí)現(xiàn)用戶去匿名化？

A：大語(yǔ)言模型可以從用戶的匿名在線帖子中提取與身份相關(guān)的信號(hào)，自動(dòng)分析非結(jié)構(gòu)化文本，高效搜索數(shù)百萬個(gè)候選檔案，并推斷不同賬戶是否屬于同一個(gè)人。它們能夠連接網(wǎng)絡(luò)帖子中的各種線索，自動(dòng)化地指向可能的身份來源。

Q2：這種去匿名化技術(shù)的成功率有多高？

A：研究實(shí)驗(yàn)顯示，在338個(gè)測(cè)試目標(biāo)中，AI智能體正確識(shí)別了226個(gè)，成功率為67%，精確度達(dá)到90%。雖然不是100%成功，但這個(gè)成功率足以讓使用假名賬戶的用戶擔(dān)心身份暴露。

Q3：進(jìn)行大規(guī)模去匿名化攻擊需要多少成本？

A：研究人員報(bào)告整個(gè)實(shí)驗(yàn)花費(fèi)約2000美元，每個(gè)用戶檔案的估計(jì)成本在1到4美元之間。這種低成本使得大規(guī)模去匿名化攻擊變得經(jīng)濟(jì)可行，政府、企業(yè)或惡意攻擊者都可能利用這種技術(shù)。