2023年，洛杉磯警局在預測性警務(wù)系統(tǒng)上砸了4200萬美元。三年后審計報告顯示：這套算法標記的"高危人員"里，98%根本沒犯罪。這筆錢夠雇800名巡警干五年，卻被換成了一堆誤報機器。

預測性警務(wù)的"黑箱"生意

美國執(zhí)法機構(gòu)每年在數(shù)據(jù)分析工具上的支出超過12億美元。Palantir、PredPol、ShotSpotter三家公司吃掉了其中七成份額。它們的賣點很統(tǒng)一：輸入歷史犯罪數(shù)據(jù)，輸出"未來可能犯罪"的地址和名單。

PredPol的算法邏輯曾被《MIT科技評論》扒了個底朝天。它把城市劃成150米×150米的網(wǎng)格，哪個格子過去報案多，未來就往哪派警車。聽起來像天氣預報，實際是個復讀機——它只會重復 policing 過去的社區(qū)，而那些社區(qū)恰好是黑人聚居區(qū)。

2016年，芝加哥警局的"戰(zhàn)略名單"泄露。名單上的人被算法打上"槍擊風險"標簽，結(jié)果其中一半從未涉槍，四分之一甚至沒有任何逮捕記錄。算法怎么算的？警方拒絕公開。記者起訴，法院以"商業(yè)秘密"為由駁回。

ShotSpotter更魔幻。這套聲學系統(tǒng)聲稱能通過槍聲定位，把響應(yīng)時間從平均11分鐘壓到45秒。2021年芝加哥數(shù)據(jù)顯示：它記錄的"槍擊事件"里，89%是煙花、排氣管或工地噪音。但警察每次出動都要盤查現(xiàn)場人員，誤報成了合法搜身的借口。

數(shù)據(jù)從哪來，偏見就從哪長

算法的原材料是歷史犯罪數(shù)據(jù)。而歷史犯罪數(shù)據(jù)本身就是警察巡邏密度的產(chǎn)物——巡邏多的街區(qū)，報案多、逮捕多、數(shù)據(jù)多。算法學到的是"警察愛去哪"，不是"犯罪實際在哪"。

紐約市2013-2017年的"停搜"數(shù)據(jù)很說明問題。警察在少數(shù)族裔社區(qū)攔截搜身的頻率是白人社區(qū)的10倍，但搜出武器的比例反而更低。把這些數(shù)據(jù)喂給算法，等于把種族歧視編譯成了代碼。

還有更隱蔽的輸入源。LexisNexis的"風險情報"產(chǎn)品整合了信用記錄、租房歷史、甚至社交媒體點贊。一個人因為拖欠水電費被標記為"不穩(wěn)定"，因為臉書好友里有前科人員被加權(quán)"關(guān)聯(lián)風險"。這些評分從不通知當事人，卻會影響保釋聽證和量刑建議。

2022年，俄勒岡州一名女子發(fā)現(xiàn)自己在州警數(shù)據(jù)庫里被標為"幫派成員"。理由：她前男友是幫派成員，她曾開車載他去超市。申訴流程走了14個月，期間她三次求職背調(diào)失敗。

法律追不上代碼的速度

美國憲法第四修正案保護公民免受"不合理搜查"，但法院對算法監(jiān)控的態(tài)度曖昧不清。2018年Carpenter訴美國案確立了手機位置數(shù)據(jù)的隱私保護，但判決明確排除了"短期監(jiān)控"和"公共安全例外"。

預測性警務(wù)正好卡在這個縫隙里。算法沒有"搜查"任何人，只是給地址和名單打分；警察的盤查基于"合理懷疑"，而懷疑的來源是機器。2020年，加州上訴法院在People v. Moore案中裁定：警方無需披露算法細節(jié)，被告無權(quán)挑戰(zhàn)自己沒見過的證據(jù)。

歐盟走了另一條路?！度斯ぶ悄芊ò浮?024年生效，明確禁止執(zhí)法機構(gòu)使用"社會評分"系統(tǒng)，預測性警務(wù)被劃入"高風險"類別，必須接受合規(guī)審計。但美國沒有聯(lián)邦層面的AI監(jiān)管框架，各州立法參差不齊。伊利諾伊州2021年禁止在招聘中使用人臉識別，但執(zhí)法領(lǐng)域完全放行。

技術(shù)公司深諳此道。Palantir的政府合同里普遍包含"賠償條款"——如果算法決策引發(fā)訴訟，由采購方政府承擔全部法律責任。它們賣的是工具，不是判斷；收的是許可費，不是問責。

當算法成為替罪羊

2023年，底特律警局用面部識別鎖定了一起盜竊案嫌疑人。男子有不在場證明，案發(fā)時正在拉斯維加斯參加婚禮。但他還是被關(guān)了30小時，因為"系統(tǒng)顯示相似度98%"。

事后警方聲明把鍋甩給了技術(shù)："面部識別只是調(diào)查線索，最終逮捕決定由警官做出。"算法成了完美的責任黑洞——有用時叫"智能輔助"，出錯時叫"僅供參考"。

這種結(jié)構(gòu)保護了誰？2022年，洛杉磯縣警長部門內(nèi)部郵件泄露。一名分析師寫道："我們知道模型在拉丁裔社區(qū)誤報率更高，但調(diào)整參數(shù)會降低整體'產(chǎn)出數(shù)字'，預算聽證會上不好看。"

產(chǎn)出數(shù)字。4200萬美元的系統(tǒng)需要證明它"有效"，而有效性的定義是標記了多少人、派出了多少次巡邏。至于這些人是否真的犯罪，不在KPI里。

預測性警務(wù)的悖論在于：它承諾用數(shù)據(jù)消除人的偏見，卻把偏見自動化、規(guī)?；?、不可質(zhì)疑化。當一個社區(qū)被算法連續(xù)標記五年，警察的"合理懷疑"就成了自我實現(xiàn)的預言。數(shù)據(jù)不會撒謊，但收集數(shù)據(jù)的人會選擇性失明。

如果下一套系統(tǒng)的誤報率降到50%，預算審批會通過嗎？如果降到20%呢？那個閾值由誰決定，又向誰公開？