近日,美國馬里蘭州巴爾的摩縣發生了一起令人震驚的事件:一名16歲的高中生在吃 Doritos 玉米片時,其包裝袋被當地的 AI 槍支偵測系統誤判為槍械,導致多輛警車迅速趕到現場,武裝警察對其進行制伏。
圖源備注:圖片由AI生成,圖片授權服務商Midjourney
事件發生在10月20日,肯伍德高中(Kenwood High School)的學生艾倫(Taki Allen)在結束足球訓練后,與朋友們在校外聊天。突然,幾輛警車疾馳而至,警察們持槍朝他們走來。艾倫回憶說:“大約有8輛警車向我們開過來,警察大喊著讓我趴到地上。當時我心里在想,‘這到底是怎么回事?’”
在警察的威逼下,艾倫被迫跪下,雙手反綁并被戴上手銬。他感到極度恐懼,想著自己可能會有生命危險。之后,警察對他進行了搜查,卻沒有發現任何武器。事后,警方向艾倫展示了觸發警報的 AI 監控錄像,顯示他口袋里的玉米片包裝袋被誤認為是一把槍。
引發這起誤判的 AI 系統是由 Omnilert 公司開發的,該系統去年被巴爾的摩縣公立學校引入,旨在實時監控校園安全。當監控畫面中出現被認為是武器的物體時,系統會立即向執法部門發出警報。在這一事件中,艾倫的玉米片包裝袋因為手指的位置被系統錯誤識別為槍支。盡管 Omnilert 承認這是一次誤報,但他們辯稱系統是 “按預期運作”,其目的是優先保障安全。
這一事件引發了公眾對 AI 監控技術準確性和安全性的關注,尤其是在校園環境中。
劃重點:





京公網安備 11011402013531號