Flock Safety introduit des restrictions obligatoires sur son réseau national de lecteurs de plaques d'immatriculation pour lutter contre les signalements d'abus de la part des agents et atténuer la perte de contrats municipaux. Alors que les préoccupations concernant la vie privée s'intensifient, le géant de la technologie policière passe de l'offre de mesures de protection optionnelles à l'imposition d'exigences opérationnelles strictes.

Lutter contre l'inconduite des agents et le harcèlement

L'un des principaux moteurs de ces changements est l'utilisation abusive documentée du réseau de 120 000 caméras de Flock par les forces de l'ordre. Une enquête récente du Washington Post a mis en lumière 46 cas où des agents auraient utilisé la technologie à des fins non autorisées, notamment pour harceler des partenaires romantiques.

Pour contrer cela, Flock rend obligatoire une fonctionnalité qui était auparavant optionnelle : les agents doivent désormais saisir un numéro de dossier criminel avant d'effectuer une recherche. L'objectif est de fournir une trace numérique reliant chaque requête à une enquête légitime. Cependant, les critiques soulignent une faille technique importante : Flock ne vérifie pas actuellement ces numéros de dossier, ce qui signifie que les agents pourraient potentiellement contourner la règle en saisissant des numéros fictifs ou arbitraires.

Audit obligatoire et changements dans la rétention des données

Pour débusquer les acteurs malveillants tentant de contourner les nouvelles règles, Flock impose également un système d'audit automatique. Cet outil analyse les modèles de recherche et signale les activités suspectes aux administrateurs. Bien que l'entreprise affirme que cela renforcera la responsabilité, elle n'a pas partagé de mesures de précision spécifiques et n'a pas ouvert l'outil d'audit à des évaluateurs tiers indépendants.

Dans un effort pour réduire le volume considérable de données de surveillance stockées, Flock recommande désormais aux agences de réduire leur période de rétention des données de 30 jours à seulement sept jours. De plus, les départements peuvent désormais mettre en œuvre des autorisations de recherche granulaires, leur permettant de restreindre l'accès inter-services à des catégories spécifiques, telles que les enquêtes pour « enlèvement », tout en bloquant l'accès à des fins de « contrôle de l'immigration ».

La crise de confiance croissante et la concurrence sur le marché

La mise en œuvre de ces garde-fous intervient alors que Flock fait face à une menace existentielle, tant sur le plan juridique que politique. Au moins 30 villes auraient rompu leurs contrats avec Flock au cours de l'année écoulée, certaines municipalités se tournant vers des concurrents comme Axon et Motorola ou adoptant des interdictions pures et simples des lecteurs de plaques d'immatriculation.

Le conflit porte sur un désaccord fondamental concernant la nature de la technologie. Le PDG de Flock, Garrett Langley, attribue ce retour de bâton à la « désinformation », affirmant que l'entreprise ne pratique pas la reconnaissance faciale et ne vend pas de données à des acheteurs commerciaux. À l'inverse, des groupes de défense des libertés civiles comme l'ACLU soutiennent que le problème réside dans l'ampleur de la surveillance elle-même. Ils soutiennent que la capacité de rechercher des masses de données de localisation sans mandat permet des enquêtes sans suspicion établie, modifiant fondamentalement les normes de la vie privée aux États-Unis.

Pourquoi cela est important pour l'industrie de l'IA et de la surveillance

Le pivot de Flock marque un moment critique pour le secteur de la « GovTech ». À mesure que la surveillance pilotée par l'IA devient omniprésente, les entreprises ne peuvent plus se contenter de proposer des garde-fous éthiques « optionnels ». L'industrie se dirige vers une période de responsabilité obligatoire où la conception des logiciels doit inclure des frictions intégrées pour prévenir les abus. Reste à voir si ces changements progressifs seront suffisants pour regagner la confiance du public ou s'ils ne feront que retarder l'inévitable durcissement réglementaire.

Points clés à retenir

  • Numéros de dossier obligatoires : Les agents doivent désormais fournir un numéro de dossier criminel pour chaque recherche afin de garantir un but d'enquête légitime.
  • Audit automatisé : Flock impose un outil d'audit obligatoire pour signaler les comportements de recherche suspects aux administrateurs.
  • Réduction de l'empreinte des données : L'entreprise recommande de passer d'une rétention de données de 30 jours à 7 jours pour répondre aux préoccupations liées à la surveillance de masse.