Un chercheur en cybersécurité de Kansas City a passé l’année dernière à refaire la même expérience encore et encore : apprendre à une intelligence artificielle à peindre des motifs qui rendent le porteur invisible aux caméras de surveillance. Le résultat s'appelle noRecognition et représente l'une des tentatives les plus avancées documentées jusqu'à présent. motif de camouflage avec IA contre les systèmes de reconnaissance automatique qui surveillent aujourd'hui les rues, les trottoirs et les parkings américains.
Le projet noRecognition et l’approche technique
Bill Swearingen, co-fondateur du groupe de sécurité SecKC, a construit un modèle d'apprentissage par renforcement qui s'entraîne : générer un modèle, voir s'il est détecté par un logiciel de reconnaissance, le corriger, réessayer. Après 31 millions de testsle système est désormais capable de produire des modèles à la demande, capables de tromper les algorithmes qui alimentent les caméras les plus répandues aux États-Unis.
Les résultats sont clairs : les modèles générés par noRecognition ont gagné 11 algorithmes de détection open sourcey compris les technologies qui équipent les lecteurs de plaques d'immatriculation de Flock, les caméras corporelles d'Axon et le logiciel de reconnaissance faciale de Clearview AI. Il ne s’agit pas d’obscurcir l’enregistrement vidéo – les caméras continuent de filmer – mais d’empêcher le logiciel de classer correctement ce que recouvre le motif, qu’il s’agisse d’une personne, d’un visage ou d’un véhicule.
L'opération est basée sur l'apprentissage automatique contradictoire : un motif qui apparaît à l'œil humain comme une impression graphique brillante peut être complètement illisible pour un classificateur automatique, car la vision artificielle interprète les images d'une manière radicalement différente de la vision humaine. Swearingen décrit le processus comme « apprendre au modèle à peindre » : chaque échec améliore la génération suivante, et aujourd'hui, le système produit de nouveaux motifs chaque minute. Les modèles les plus efficaces sont délibérément conservés hors ligne, pour empêcher les fabricants d'appareils photo de pouvoir entraîner leurs logiciels contre eux.
Manifestation publique à Def Con
Vendredi, lors de la Def Con à Las Vegas, le projet a fait l'objet de son premier test public. En collaboration avec la chaîne YouTube Donut Media, Swearingen a couvert un Toyota Yaris 2009 avec l'un de ses derniers modèles et l'a fait passer devant une caméra Flock. Le véhicule n'a pas été détecté par le système, confirmant sur le terrain ce qui ressortait des tests en laboratoire.
La démonstration est importante car elle déplace la question du niveau théorique au niveau concret : il ne s’agit plus seulement de vaincre les algorithmes dans un environnement contrôlé, mais de démontrer que l’évasion fonctionne aussi dans des conditions réelles, avec lumière naturelle, mouvement et angles variables typiques du trafic urbain.
Motivations en matière de confidentialité et contexte de la surveillance de l’IA
Pourquoi voudrait-on échapper à une caméra ? Pour Swearingen, la réponse est simple : « la vie privée est un droit fondamental », et ses modèles permettent aux gens de « refuser d'être suivis ». L'idée est née l'année dernière, lorsque le chercheur voulait participer à une manifestation mais se sentait mal à l'aise à l'idée que les caméras enregistreraient tous les participants.
La cible principale de cette technologie de fraude à la vie privée est Troupeaule système de surveillance controversé qui se répand à travers l’Amérique. L'entreprise est déjà sous pression politique à Washington, et des documents internes ont montré son intention de transformer 350 000 dashcams Uber et Lyft en une flotte mobile de numérisation de plaques d'immatriculation. Ce n’est pas un détail mineur : cela signifie que la surveillance automatisée ne se limitera bientôt plus à des caméras fixes, mais deviendra omniprésente sur toutes les voies parcourues par une voiture de location.
Efforts contradictoires existants contre les systèmes de détection
Les efforts de Swearingen s’inscrivent dans une histoire plus longue de résistance artisanale à la surveillance algorithmique. Par exemple, des militants de San Francisco ont simplement placé des cônes de signalisation sur les capots des robots-taxis Waymo et Cruise pour les arrêter sur place, sans écrire une ligne de code. Lors des manifestations contre l'immigration à Los Angeles l'année dernière, certains manifestants sont allés jusqu'à incendier des véhicules Waymo. Masques, cagoules et chapeaux à larges bords restent des outils standards lors des marches, tandis qu'il existe depuis des années des vêtements contradictoires conçus pour confondre la reconnaissance faciale, et des lunettes anti-reconnaissance dont l'efficacité reste cependant mal documentée.
Ce qui distingue noRecognition, c'est la cible : Swearingen n'a pas testé de manière générique la reconnaissance faciale, mais des piles de logiciels spécifiques déjà largement utilisées à travers l'Amérique, y compris les technologies derrière les lecteurs de plaques d'immatriculation et les caméras corporelles des forces de l'ordre.
Considérations juridiques sur la surveillance et le camouflage
Des lecteurs automatiques de plaques d'immatriculation ont déjà arrêté des automobilistes innocents et pointé des armes sur eux, tandis que les immigrés et les manifestants continuent d'être interceptés par les systèmes d'intelligence artificielle utilisés par l'ICE. En parallèle, certains parlementaires font pression sur Meta concernant la reconnaissance faciale intégrée à ses lunettes intelligentes : un front différent, mais qui s'inscrit dans le même débat sur les limites de la surveillance algorithmique.
Couverture corporelle pour éviter les lois sur les plaques d'immatriculation
Sur le plan pratique, les modèles noRecognition couvrent la carrosserie des véhicules et non les plaques d'immatriculation, précisément pour éviter d'enfreindre les lois qui interdisent la dissimulation des plaques d'immatriculation elles-mêmes. Cependant, la légalité générale de conduire une voiture couverte par ces schémas reste une zone grise : les règles en matière d'obstruction visuelle varient d'un État à l'autre, et il n'y a pas encore de réponse unique au niveau fédéral.
Le projet, quant à lui, finance les premières lignes de merchandising grâce au financement participatif – pour l'instant des t-shirts et des sweat-shirts, dans le but de produire plus tard de véritables films adhésifs pour véhicules. Le défi, selon Swearingen, consiste à trouver une résolution graphique suffisante pour travailler à distance et un design suffisamment convaincant pour inciter les gens à le porter. « Chaque échec améliore mon modèle, et ainsi les modèles continuent de devenir de plus en plus efficaces », a déclaré le chercheur.
FAQ
Qu'est-ce que le projet noRecognition ?
noRecognition est un système basé sur l'intelligence artificielle développé par Bill Swearingen qui génère des motifs graphiques capables d'empêcher les logiciels de caméras de surveillance de détecter des personnes, des visages ou des véhicules.
Quelle est l’efficacité du modèle noRecognition contre les caméras de surveillance ?
Les modèles ont vaincu 11 algorithmes de détection open source, y compris les logiciels utilisés par Flock, les caméras corporelles Axon et Clearview AI, après 31 millions de tests effectués pour entraîner le modèle.
Est-il légal de conduire des véhicules recouverts de ces modèles générés par l’IA ?
Les motifs couvrent la carrosserie du véhicule mais pas les plaques d'immatriculation, spécifiquement pour éviter les violations des lois sur l'obstruction des plaques d'immatriculation. Cependant, la légalité de conduire une voiture entièrement emballée varie d’un État à l’autre aux États-Unis.
Qu’est-ce qui a motivé la création de noRecognition ?
Bill Swearingen a créé noRecognition pour permettre aux personnes de « ne plus être suivies » par les systèmes de surveillance, une préoccupation qui préoccupe particulièrement les manifestants et les défenseurs de la vie privée.
Contenu créé avec l’aide de l’intelligence artificielle et de la révision éditoriale humaine.