美國佛羅里達(dá)州奧維耶多市的一所中學(xué)本周發(fā)生了一起由人工智能武器識別系統(tǒng)誤報(bào)引發(fā)的“紅色代碼”鎖校事件，一名學(xué)生手中的單簧管被系統(tǒng)誤判為槍支，校園隨即進(jìn)入緊急封校狀態(tài)，校方和警方迅速響應(yīng)，最終確認(rèn)并無真實(shí)威脅。 這一烏龍事件不僅讓家長虛驚一場，也再次把校園中日益普及的AI安防系統(tǒng)的準(zhǔn)確性與監(jiān)管問題推上風(fēng)口浪尖。

事件發(fā)生在勞頓·奇爾斯中學(xué)，校內(nèi)部署的AI威脅檢測平臺通過監(jiān)控?cái)z像頭掃描實(shí)時(shí)畫面，將學(xué)生攜帶的單簧管“識別”為潛在槍械，引發(fā)系統(tǒng)報(bào)警。 校方隨即啟動最高級別的“紅色代碼”鎖校程序，封鎖校園并通知執(zhí)法部門到場，直至確認(rèn)所謂“武器”其實(shí)只是樂器后，封鎖才得以解除。 校長隨后在發(fā)給家長的通知中強(qiáng)調(diào)，校園當(dāng)時(shí)并不存在真實(shí)安全威脅，但仍提醒家長與子女溝通，不要在校園內(nèi)做出“假裝持有武器”的危險(xiǎn)舉動。

據(jù)介紹，該校所在的塞米諾爾郡學(xué)區(qū)使用的是總部位于賓夕法尼亞州的ZeroEyes公司提供的云端槍械檢測服務(wù)，合同金額達(dá)25萬美元，系統(tǒng)通過接入現(xiàn)有監(jiān)控?cái)z像頭，利用計(jì)算機(jī)視覺算法識別畫面中可能出現(xiàn)的槍支輪廓與特征。 官方資料稱，其AI模型經(jīng)過上百種槍械圖像訓(xùn)練，一旦系統(tǒng)“認(rèn)為”發(fā)現(xiàn)武器，相關(guān)畫面會被傳送到ZeroEyes監(jiān)控中心，由人工分析員進(jìn)行復(fù)核，再決定是否向?qū)W校或執(zhí)法機(jī)構(gòu)發(fā)出警報(bào)。 然而在此次事件中，這一“人工二次確認(rèn)”機(jī)制顯然未能阻止誤報(bào)演變?yōu)槿７怄i。

ZeroEyes的平臺目前已在全美43個(gè)州落地，并進(jìn)入佛州多個(gè)人口稠密學(xué)區(qū)，企業(yè)將其定位為一種“預(yù)防性”安保手段，希望通過更快的威脅識別來縮短應(yīng)對校園槍擊的反應(yīng)時(shí)間。 但公司對外公開的性能數(shù)據(jù)極為有限，幾乎沒有關(guān)于識別準(zhǔn)確率、誤報(bào)率以及成功阻止真實(shí)威脅案例的詳盡統(tǒng)計(jì)，這也讓外界難以評估其實(shí)際效果。 塞米諾爾郡安全與安保部門在回應(yīng)媒體詢問時(shí)，僅籠統(tǒng)地將該系統(tǒng)描述為“有效威懾”，沒有給出任何經(jīng)證實(shí)的威脅攔截?cái)?shù)據(jù)，也未說明類似誤報(bào)發(fā)生的頻率。

家長和安全專家因此普遍呼吁提高透明度與問責(zé)機(jī)制，有家長直言，對系統(tǒng)是否“物有所值”心存疑慮，希望學(xué)區(qū)拿出具體統(tǒng)計(jì)證明這套昂貴方案的成效，并質(zhì)問若曾成功發(fā)現(xiàn)真實(shí)威脅，為何從未向公眾公開。 獨(dú)立技術(shù)分析人士指出，目前幾乎看不到對ZeroEyes的第三方評估，公開報(bào)道的觀點(diǎn)也較為分化，一些公共安全領(lǐng)域?qū)＜覔?dān)心，這類系統(tǒng)可能更多提供的是“安全感的幻象”，而非經(jīng)過驗(yàn)證的風(fēng)險(xiǎn)降低。

在政策層面，ZeroEyes還通過注冊說客推動多州立法，在部分州獲得了類似“指定供貨商”的地位，使其成為校園安防采購中唯一被批準(zhǔn)的AI槍械檢測供應(yīng)商。 批評者認(rèn)為，這類立法實(shí)際上排擠了競爭對手，削弱了公共采購的審查與辯論空間，也讓關(guān)于AI監(jiān)控可靠性的公共討論被大大壓縮。 與此同時(shí)，安全和隱私研究者警告，一味擴(kuò)張校園AI監(jiān)控可能對學(xué)生造成的傷害大于潛在收益，包括頻繁誤報(bào)導(dǎo)致的高壓氛圍、學(xué)生對警力的過度暴露，以及對日常行為的持續(xù)監(jiān)控。

美國公民自由聯(lián)盟的政策顧問曾指出，如果系統(tǒng)誤報(bào)頻率較高，不但會制造不必要的封鎖和恐慌，還可能讓學(xué)校和家長在一次次虛驚中產(chǎn)生“麻木”，反而削弱對真正危機(jī)的敏感度。 當(dāng)前大量AI安防系統(tǒng)的訓(xùn)練數(shù)據(jù)多來自相對可控的圖像集，而真實(shí)校園環(huán)境中出現(xiàn)的背包、樂器、運(yùn)動裝備等物品形態(tài)復(fù)雜，極易在模型視覺上與槍械輪廓混淆，這次單簧管被當(dāng)成槍便是一例。 在此次風(fēng)波過后，塞米諾爾郡學(xué)區(qū)依舊將這套系統(tǒng)視作“必要防線”，但其可靠性與代價(jià)已經(jīng)引發(fā)更廣泛的社會討論，外界也在觀望各學(xué)區(qū)未來是繼續(xù)依賴此類AI監(jiān)控，還是轉(zhuǎn)向?qū)?yīng)商提出更嚴(yán)格的性能披露與監(jiān)管要求。