IT之家 12 月 14 日消息，一個人工智能（AI）驅動的武器檢測系統誤將一支單簧管識別為槍支，導致美國佛羅里達州一所初中校園被錯誤封鎖，此事引發了公眾對該類安全技術在美國學校中有效性和監管機制的質疑。

當地時間周二，在奧維耶多（Oviedo）的勞頓?柴爾斯中學（Lawton Chiles Middle School），該自動化系統將一名攜帶單簧管的學生誤判為潛在持槍威脅，隨即觸發“紅色警戒”（Code Red）校園封鎖程序。校方管理人員和警方迅速響應，結果發現所謂的“武器”只是一件樂器。

校長梅麗莎?勞達尼（Melissa Laudani）在致家長的一封信中解釋稱，此次事件雖啟動了安全預案，但并未構成任何實際威脅。她寫道：“盡管校園并未面臨真實威脅，但我仍希望各位家長與孩子溝通，強調在校園內假裝持有武器的嚴重危害。”

該校使用的是由賓夕法尼亞州公司 ZeroEyes 提供的 AI 驅動威脅檢測平臺，該系統通過掃描實時視頻畫面來識別槍支。勞頓?柴爾斯中學所屬的塞米諾爾縣公立學區（Seminole County Public Schools）已與 ZeroEyes 簽訂合同，部署其基于云端的“槍支檢測威懾系統”。公開記錄顯示，該學區為此訂閱服務每年支付 25 萬美元（IT之家注：現匯率約合 176.7 萬元人民幣），但官員拒絕透露該系統是否曾成功阻止過任何真實威脅。

ZeroEyes 系統可與現有監控攝像頭集成，其計算機視覺算法經過 100 多種槍械圖像的訓練。當 AI 模型判斷畫面中出現武器時，相關視頻片段會傳輸至 ZeroEyes 監控中心的人類分析員進行復核，確認后再通知執法部門或校方。然而在此事件中，這一人工復核環節顯然未能發揮作用。

目前，ZeroEyes 的平臺已在全美 43 個州部署，并安裝于佛羅里達州數十個學區。該公司將該技術宣傳為一種預防性措施，旨在加快對潛在槍擊事件的響應速度。但其幾乎未公開任何關于檢測準確率、誤報率或經核實干預案例的數據。

面對記者就此次 AI 誤報事件提出的郵件問詢，塞米諾爾縣學區安全與安保部門稱該系統是一種“有效的威懾手段”，卻未提供任何已確認威脅的具體數據，也未說明系統發出的警報中有多少屬實，或軟件將無害物品誤判為武器的頻率究竟有多高。

家長和安全專家已開始呼吁加強對該類系統的問責機制，并要求公開其性能數據。一位家長表達了對透明度缺失的不滿，質疑該系統是否真正帶來了實質性的安全提升。她要求提供該系統有效性的統計證據，并質問為何若有經確認的真實威脅，卻從未向公眾披露。

獨立技術分析人士指出，目前針對 ZeroEyes 的獨立評估極為有限，早期媒體報道褒貶不一。有公共安全專家表示懷疑，認為此類系統可能僅營造出一種“安全假象”，而無法切實降低風險。

在 ZeroEyes 已注冊游說人員的多個州，立法機構通過了采購條款，實際上將其指定為唯一獲準供應商。批評者指出，這類法律排擠了市場競爭，也繞過了公眾對 AI 監控系統可靠性的必要討論。

安全與隱私研究者還擔憂，學校中不斷擴大的 AI 監控可能對學生造成的傷害大于益處。美國公民自由聯盟（ACLU）高級政策顧問查德?馬洛（Chad Marlow）去年在接受 StateScop 采訪時指出，頻繁產生誤報的系統不僅會制造“虛假的安全感”，還可能使兒童頻繁經歷不必要的封鎖或警方介入。

盡管近年來出于應對校園槍擊案的公眾壓力，AI 賦能的安全系統迅速普及，但奧維耶多此次“單簧管誤報”事件凸顯了這些技術在現實環境中的脆弱性。在受控數據集中訓練的機器學習模型，一旦面對充滿不可預測因素的校園環境，如背包、樂器和體育器材等可能與槍支輪廓相似的物品，便容易出現判斷失誤。

目前，塞米諾爾縣學區仍將該系統視為一項“必要的預防措施”，盡管單簧管事件已清楚暴露其局限性。各學區是否會重新評估對 AI 監控的依賴，或要求供應商提供更嚴格、透明的性能報告，仍有待觀察。