Flock Safety teste un outil d'IA qui permet à la police de rechercher des conducteurs en fonction de leurs itinéraires et de leurs habitudes de conduite, même sans nom ni numéro de plaque d'immatriculation. Le système OS Investigate a été découvert par des journalistes de Wired alors qu'ils étudiaient le code sur le site Web du développeur.
Comment fonctionne OS Investigate
Les journalistes ont trouvé plus de 450 fichiers sur le site Flock. Ils étaient chargés à l'ouverture des pages d'autorisation et permettaient de restaurer partiellement l'interface système sans accès au compte de la police.
Un chercheur indépendant en sécurité a confirmé les principales conclusions de Wired.
OS Investigate contient 69 requêtes d'IA prêtes à l'emploi. Le policier peut en choisir un, éditer ou rédiger le sien. Le système accède aux images des caméras, aux dossiers de police, aux journaux d'appels au 911, aux dossiers d'arrestation et aux bases de données commerciales. Ces derniers peuvent contenir des numéros de téléphone, des adresses e-mail, des dates de naissance et des informations sur les proches.
Certaines requêtes permettent de lancer une recherche sans suspect précis. Sur les 69 modèles, 19 sont conçus pour détecter des modèles de comportement spécifiques et 14 ne nécessitent pas de nom, de numéro de véhicule ou de description. Il suffit d'indiquer le lieu, la période et l'activité souhaitée.
L’IA recherche des « connexions » entre les voitures
Une autre fonctionnalité permet d'identifier les véhicules qui circulent régulièrement à proximité d'un véhicule donné.
Selon Wired, l'algorithme vérifie quelles plaques d'immatriculation sont apparues sur les mêmes caméras dans les deux minutes suivant la voiture cible. Si une correspondance se produit au moins trois fois et que le niveau de confiance dépasse un seuil défini, le véhicule est inclus dans la liste des « liens » possibles. Le système peut produire jusqu'à 20 de ces résultats.
Sur son site Internet, Flock indique que les caméras de reconnaissance de plaques d'immatriculation n'identifient pas les conducteurs et ne permettent pas de suivre les personnes. Ils n’enregistrent la voiture qu’à un moment précis et les données sont généralement supprimées après 30 jours.
Le représentant de l'entreprise, Paris Leubel, dans une interview avec Wired, a souligné qu'OS Investigate est un produit distinct. Selon lui, il est conçu pour fonctionner avec des informations auxquelles les forces de l'ordre ont déjà accès.
Leubel n'a pas contesté les fonctions décrites par les journalistes, mais a noté que le service était encore en développement.
Le code vous oblige également à spécifier une raison avant d'effectuer une recherche. Cependant, les journalistes ont constaté que le formulaire ne faisait aucune exigence quant au contenu ou à la longueur de cette justification. Si l'agence exige un numéro de dossier, l'interface ne vérifie qu'un minimum de trois caractères.
Les critiques à l’égard de Flock s’intensifient
Les nouvelles fonctionnalités surviennent dans un contexte de controverse croissante autour de l'utilisation des caméras de l'entreprise. Le réseau Flock atteint plus de 6 000 communautés à travers les États-Unis et ses systèmes traitent environ 20 milliards de lectures de plaques d'immatriculation chaque mois.
L'Institut de justice des États-Unis a documenté des dizaines de cas dans lesquels des policiers auraient abusé des systèmes de reconnaissance de plaques d'immatriculation, notamment pour espionner des partenaires romantiques anciens et actuels.
Dans la plupart de ces épisodes, des employés ont été licenciés, ont quitté volontairement ou ont fait l'objet d'accusations criminelles.
Les représentants du troupeau ont déclaré que de tels incidents sont isolés. Comme arguments, l'entreprise a souligné la tenue d'un journal de toutes les demandes, reliant chaque action à un utilisateur spécifique, et la disponibilité d'outils pour identifier les activités suspectes.
Rappelons qu'en juillet, le membre du Congrès Thomas Massie a proposé de priver du financement fédéral les municipalités et les services de police qui utilisent Flock et des systèmes similaires pour surveiller les citoyens. Certaines villes ont déjà abandonné les caméras ou renégocié les contrats avec l'entreprise en raison de questions concernant la confidentialité et le partage de données.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Voir l’article original en russe
