“刷臉”好像隨著人臉識別的發(fā)展變得越來越流行。在支付寶里付款，給手機(jī)解開密碼，在酒店里識別身份……但是，如果我們將人臉識別應(yīng)用到識別罪犯當(dāng)中，這是一件好事嗎？19世紀(jì)興起的顱相學(xué)討論一度沉寂，如今，又悄悄地跟著能夠認(rèn)臉的AI死灰復(fù)燃，這究竟意味著什么？對我們的現(xiàn)實(shí)生活有多大的影響？今天這篇文章里，Catherine Stinson為我們解釋這一切。
此文依法譯自AEON，如需轉(zhuǎn)載，請聯(lián)系我們，侵權(quán)必究。

算法：長相、犯罪及其黑暗的過去

By: Catherine Stinson

01

“顱相學(xué)" (Phrenology)這個(gè)頗有年代感的詞，聽上去像是收錄在某本歷史書中的一個(gè)章節(jié)，大概排在“放血”（bloodletting）之后，“舊式自行車”（velocipede）之前。雖然我們會(huì)認(rèn)為“根據(jù)一個(gè)人頭骨的大小和形狀來評判其價(jià)值”這種行為早已被社會(huì)擯棄，但現(xiàn)實(shí)是，我們正又一次漸漸步入顱相學(xué)那顆丑陋大腦袋的陰影之下。近年來，基于機(jī)器學(xué)習(xí)的算法讓各國政府和眾多私營企業(yè)得以從人們的外貌提取出各類信息?，F(xiàn)有好幾個(gè)初創(chuàng)企業(yè)（startup）聲稱，他們能夠使用人工智能（AI）分析應(yīng)聘者的面部表情，幫助雇主識別其性格特征。中國政府已率先利用監(jiān)控?cái)z像頭來辨別、追蹤少數(shù)民族人口。與此同時(shí)，有報(bào)道稱一些學(xué)校也安裝了智能攝像頭。這些攝像頭能根據(jù)面部動(dòng)作和挑眉等微表情自動(dòng)檢測并懲罰走神的學(xué)生。

可能最臭名昭著的例子還是幾年前，人工智能研究人員吳曉林和張希聲稱成功研發(fā)出了一套根據(jù)臉型辨別罪犯的算法，其準(zhǔn)確率高達(dá)89.5%。他們并沒有發(fā)展到支持19世紀(jì)盛行的面相學(xué)（physiognomy）觀點(diǎn)的程度。當(dāng)時(shí)最著名的理論由意大利犯罪學(xué)家切薩雷·龍勃羅梭 (Cesare Lombroso)提出，他認(rèn)為罪犯都是進(jìn)化不完全的、非人的野獸，在外貌上表現(xiàn)為前額陡峭，鷹鉤鼻。然而，吳曉林和張希在研究中收集與犯罪相關(guān)的面部特征，這一看似高科技的研究方法卻直接借鑒了維多利亞時(shí)代博學(xué)家弗朗西斯·高爾頓（Francis Galton）的“影像合成法”（photographic composite method）。這種方法涉及把某類人的臉全部重疊在一起，然后找出象征健康、疾病、美貌和犯罪等等的外貌特征。

02

技術(shù)評論家們把這些面部識別技術(shù)稱為“字面意義的顱相學(xué)”，并將其跟提倡人們擇優(yōu)繁衍從而改良人類種族的偽科學(xué)——優(yōu)生學(xué)（eugenics）聯(lián)系在一起。（“優(yōu)生學(xué)”這個(gè)詞是高爾頓自己發(fā)明的。他在1883年描述道，優(yōu)生學(xué)泛指“所有有益于‘優(yōu)越種族’的影響，不論其大小。這種影響能讓他們更快地戰(zhàn)勝‘劣等種族’”。）

在某些情況下，這些科技的明確目的就是要?jiǎng)儕Z這些格格不入的人那些格格不入者的機(jī)會(huì)；而有時(shí)，這雖然可能并不是他們的目的，卻也是可以預(yù)料到的結(jié)果。當(dāng)我們給算法貼上顱相學(xué)的標(biāo)簽來否定其價(jià)值時(shí)，我們到底是在指出什么問題呢？我們是在強(qiáng)調(diào)這些方法在科學(xué)上存在缺陷而無法產(chǎn)生效果呢？還是在強(qiáng)調(diào)不論如何，使用這些方法本身就有悖道德呢？

關(guān)于顱相學(xué)的研究

把“顱相學(xué)”用作對人的尖酸侮辱背后有著一段悠久而錯(cuò)綜復(fù)雜的歷史。盡管哲學(xué)和科學(xué)的立場不斷發(fā)生著改變，但兩者對這一實(shí)踐的批判聲始終交織在一起。在19世紀(jì)，顱相學(xué)試圖將不同的精神功能定位到大腦中的不同位置，遭到批評者們反對——這一舉動(dòng)被視為異端，因?yàn)檫@讓人們對基督教關(guān)于靈魂統(tǒng)一的觀點(diǎn)產(chǎn)生了質(zhì)疑。但有趣的是，那時(shí)候人們并不認(rèn)為嘗試根據(jù)頭部的大小和形狀來判斷一個(gè)人的性格和才智是一個(gè)嚴(yán)重的道德問題。而現(xiàn)在的情況恰恰相反，將精神功能（在大腦中）定位的想法毫無爭議?？茖W(xué)家們可能不再認(rèn)為攻擊性位于右耳上方，但認(rèn)知功能可以對應(yīng)到特定大腦回路是當(dāng)下主流神經(jīng)科學(xué)的常規(guī)假設(shè)。

03

顱相學(xué)在19世紀(jì)也受到了經(jīng)驗(yàn)主義的批評。人們就哪些功能位于何處以及測量顱骨來確定大腦活動(dòng)是否可靠進(jìn)行了激烈的討論。不過，對舊顱相學(xué)最具影響力的經(jīng)驗(yàn)主義批評來自法國醫(yī)生讓·皮埃爾·弗洛倫斯(Jean Pierre Flourens)的研究。弗洛倫絲通過破壞兔子和鴿子大腦的實(shí)驗(yàn)，得出精神功能分布而不是集中在大腦區(qū)域的結(jié)論(他的研究成果在后來被推翻。)。過去人們質(zhì)疑顱相學(xué)的理由在今天不再被大多數(shù)當(dāng)代觀察者認(rèn)可，這就讓今天的人們更難弄清當(dāng)我們用“顱相學(xué)”來侮辱人時(shí)，到底是誰受到了侮辱。

“新顱相學(xué)”和“舊顱相學(xué)”都因其毫無嚴(yán)謹(jǐn)性可言的方法而受到批評。在最近的一項(xiàng)關(guān)于犯罪行為的人工智能研究中，數(shù)據(jù)取自兩種完全不同的來源：一種是罪犯的面部照片，另一種是工作網(wǎng)站上非罪犯上的照片。光這一點(diǎn)就能解釋該算法為什么能檢測出組間的差異。在這篇論文的新序言中，研究人員還承認(rèn)，將法庭定罪等同于犯罪行為是一種“嚴(yán)重的疏忽”。然而，將定罪與犯罪行為等同似乎主要被作者認(rèn)為是操作上的缺陷：使用定罪罪犯的面部照片，而不是使用逃犯的面部照片，（僅僅）造成了統(tǒng)計(jì)上的偏差。他們說，對于一份“純學(xué)術(shù)討論”論文，公眾的憤怒讓他們感到“深深的困惑”。

From Wu and Zhang (2016)|圖片來自原文

值得注意的是，研究人員沒有對“定罪本身取決于警察、法官和陪審團(tuán)對嫌疑人的印象”這一事實(shí)發(fā)表評論，這使得一個(gè)人的“犯罪”長相成為一個(gè)令人困惑的變量。他們也沒有提到，特定群體受到的嚴(yán)格監(jiān)管以及在獲取法律代表方面的不平等會(huì)如何扭曲數(shù)據(jù)集。在對批評的回應(yīng)中，作者們并沒有放棄“成為一名罪犯需要一系列不正常的(離群的)個(gè)人特質(zhì)”的假設(shè)。事實(shí)上，他們的理論框架表明犯罪是一種先天特征，而不是對貧窮或虐待等社會(huì)條件的反應(yīng)。從實(shí)際經(jīng)驗(yàn)來說，這些數(shù)據(jù)令人質(zhì)疑的部分原因在于這個(gè)把特定的人劃定為“罪犯”的過程本身就很難是價(jià)值中立的。

04

用面部識別來探查犯罪行為最大的道德異議之一在于，當(dāng)今社會(huì)人們已經(jīng)備受監(jiān)管，而這項(xiàng)技術(shù)讓人們又備受侮辱。盡管作者聲明了這項(xiàng)工具不會(huì)應(yīng)用于執(zhí)法中，但他們只用了統(tǒng)計(jì)數(shù)據(jù)來佐證這一點(diǎn)。他們只是指出了，其誤報(bào)率（50%）會(huì)很高，但他們并沒有意識到，這個(gè)數(shù)字在人類的語言里，意味著什么。每一次誤報(bào)都表示有一個(gè)普通人因?yàn)楹妥锓搁L相相似而被錯(cuò)誤識別。鑒于刑事司法體系中常見的種族及其它偏見，這種算法最終會(huì)過估邊緣社群中的犯罪行為。

最受爭議的問題似乎在于，為了“純粹的學(xué)術(shù)討論”，將面相學(xué)重新帶回大眾視野是不是一件好事。人們可以站在實(shí)證的立場來反駁這一觀點(diǎn)：像高爾頓（Galton）和龍勃羅梭（Lombroso）這些過去的優(yōu)生學(xué)家，最終也沒有找到能使人傾向犯罪的面部特征。

這是因?yàn)檫@兩者之間并不能找到聯(lián)系。同樣，如西里爾·伯特（Cyril Burt）和菲利普·魯什頓（Philippe Rushton）一樣研究智力遺傳可能性的心理學(xué)家不得不玩弄數(shù)據(jù)，捏造了頭骨大小、種族和智商之間的相關(guān)性。如果這些因素之間的確有聯(lián)系，那么這些多年來勤勉研究的學(xué)者們就不會(huì)毫無收獲了。

美國聯(lián)邦政府在研究面部識別與種族歧視間的關(guān)系

重啟面相學(xué)的問題并不僅僅在于它過去沒有成功。在科學(xué)共識已經(jīng)形成后，仍堅(jiān)持追尋冷核聚變的科學(xué)家也面臨“追逐獨(dú)角獸”的指責(zé)——但對冷核聚變的不贊成遠(yuǎn)沒到指責(zé)的地步。在最壞的情況下，人們只認(rèn)為冷核聚變在浪費(fèi)科學(xué)家的時(shí)間。冷核聚變和面相學(xué)的不同在于，前者潛在的危害要小很多。相比之下，一些評論家認(rèn)為面部識別應(yīng)該像钚一樣被嚴(yán)格管控，因?yàn)樗鼛缀鯖]有無害的用途。當(dāng)人們?yōu)榱酥维F(xiàn)有的殖民和階級結(jié)構(gòu)去重啟一個(gè)已經(jīng)沒什么前途的項(xiàng)目時(shí)，當(dāng)這個(gè)項(xiàng)目唯一能測量的是這些結(jié)構(gòu)中的種族主義時(shí)，我們很難去證明這又一次因好奇心而起的嘗試是合理的。

然而，僅將面部識別研究稱為“顱相學(xué)”卻不解釋其中的風(fēng)險(xiǎn)，可能并不是傳達(dá)不滿之情最有效的策略。為了讓科學(xué)家認(rèn)真履行他們的道德責(zé)任，他們需要意識到自己的研究可能會(huì)帶來的傷害。更清楚地指出這門“顱相學(xué)”研究的錯(cuò)誤之處，希望能比只簡單地拋出這個(gè)術(shù)語作為一種侮辱產(chǎn)生更大的影響。

- END -

譯者：小師婦、Rye、子恒

編輯/校對：盛芩、竹子、灣灣

排版：竹子

原文鏈接：https://aeon.co/ideas/algorithms-associating-appearance-and-criminality-have-a-dark-past

吃書妄想

這里是灣灣和她的朋友們思考尋找的地方

B站 ：吃書妄想

微信：xiangwanqiao111