Flock Safety sta introducendo restrizioni obbligatorie sulla sua rete nazionale di lettori di targhe per contrastare le segnalazioni di abusi da parte degli agenti e mitigare la perdita di contratti municipali. Con l'aumentare delle preoccupazioni per la privacy, il gigante della tecnologia per la polizia sta passando dall'offrire salvaguardie opzionali all'imporre rigorosi requisiti operativi.

Affrontare la cattiva condotta degli agenti e lo stalking

Uno dei fattori principali di questi cambiamenti è l'uso improprio documentato della rete di 120.000 telecamere di Flock da parte delle forze dell'ordine. Una recente inchiesta del Washington Post ha evidenziato 46 casi in cui gli agenti avrebbero utilizzato la tecnologia per scopi non autorizzati, tra cui lo stalking di partner sentimentali.

Per contrastare questo fenomeno, Flock sta rendendo obbligatoria una funzione precedentemente opzionale: gli agenti devono ora inserire un numero di caso penale prima di effettuare una ricerca. Ciò ha lo scopo di fornire una traccia digitale che colleghi ogni query a un'indagine legittima. Tuttavia, i critici sottolineano una significativa falla tecnica: Flock attualmente non verifica questi numeri di caso, il che significa che gli agenti potrebbero potenzialmente aggirare la regola inserendo numeri falsi o arbitrari.

Audit obbligatori e cambiamenti nella conservazione dei dati

Per individuare i malintenzionati che tentano di aggirare le nuove regole, Flock sta anche imponendo un sistema di audit automatico. Questo strumento analizza i modelli di ricerca e segnala le attività sospette agli amministratori. Sebbene l'azienda affermi che ciò migliorerà la responsabilità, non ha condiviso metriche di precisione specifiche né ha aperto lo strumento di audit a valutatori terzi indipendenti.

In un tentativo di ridurre l'enorme volume di dati di sorveglianza archiviati, Flock raccomanda ora alle agenzie di ridurre il periodo di conservazione dei dati da 30 a soli sette giorni. Inoltre, i dipartimenti possono ora implementare permessi di ricerca granulari, consentendo loro di limitare l'accesso inter-dipartimentale a categorie specifiche, come le indagini per "rapimento", bloccando al contempo l'accesso per scopi di "controllo dell'immigrazione".

La crescente crisi di fiducia e la concorrenza sul mercato

L'implementazione di queste misure di salvaguardia avviene mentre Flock affronta una minaccia esistenziale da entrambi i fronti, legale e politico. Si dice che almeno 30 città abbiano interrotto i contratti con Flock nell'ultimo anno, con alcuni comuni che si sono spostati verso concorrenti come Axon e Motorola o che hanno approvato divieti assoluti sui lettori di targhe.

Il conflitto si concentra su un disaccordo fondamentale riguardo alla natura della tecnologia. L'amministratore delegato di Flock, Garrett Langley, attribuisce la reazione negativa alla "disinformazione", sostenendo che l'azienda non esegue il riconoscimento facciale né vende dati ad acquirenti commerciali. Al contrario, i gruppi per le libertà civili come l'ACLU sostengono che il problema sia la portata della sorveglianza stessa. Essi affermano che la capacità di cercare enormi quantità di dati sulla posizione senza un mandato consenta indagini senza sospetti stabiliti, alterando fondamentalmente lo standard della privacy americana.

Perché questo è importante per l'industria dell'IA e della sorveglianza

La svolta di Flock segna un momento critico per il settore "GovTech". Poiché la sorveglianza guidata dall'IA sta diventando sempre più ubiquitaria, le aziende non possono più contare sull'offerta di salvaguardie etiche "opzionali". Il settore si sta muovendo verso un periodo di responsabilità obbligatoria in cui la progettazione del software deve includere attriti integrati per prevenire l'uso improprio. Resta da vedere se questi cambiamenti incrementali saranno sufficienti a riconquistare la fiducia del pubblico o se ritarderanno semplicemente l'inevitabile intervento normativo.

Punti chiave

  • Numeri di caso obbligatori: Gli agenti devono ora fornire un numero di caso penale per ogni ricerca per garantire uno scopo investigativo legittimo.
  • Audit automatizzato: Flock sta imponendo uno strumento di audit obbligatorio per segnalare comportamenti di ricerca sospetti agli amministratori.
  • Riduzione dell'impronta dei dati: L'azienda raccomanda il passaggio da una conservazione dei dati di 30 giorni a 7 giorni per affrontare le preoccupazioni sulla sorveglianza di massa.