La startup Clearview AI teste un outil d'IA permettant de rechercher automatiquement des informations sur une personne après l'avoir identifiée par son visage. Le prototype, appelé InquiryIQ, est capable de relier les données de l'Internet ouvert, notamment les comptes de réseaux sociaux, les adresses, les employeurs et les connexions potentielles, écrit WIRED.
Les journalistes ont découvert l'outil dans les fichiers que la page de connexion Clearview AI envoyait au navigateur avant que l'utilisateur ne se connecte. Ils contenaient du code d'interface, des instructions, des avertissements et des descriptions de fonctions. WIRED n'a pas eu accès au backend InquiryIQ et n'a donc pas pu vérifier de manière indépendante dans quelle mesure les fonctionnalités indiquées étaient pleinement mises en œuvre.
De la reconnaissance faciale au profil numérique
Clearview AI a traditionnellement positionné la reconnaissance faciale comme un moyen de fournir une piste possible pour une enquête plus approfondie. Si une correspondance était trouvée, l'employé devait vérifier de manière indépendante les informations associées à la personne.
InquiryIQ automatise une partie de l'étape suivante : après avoir transmis les données initiales, le système doit rechercher indépendamment Internet et les images, ouvrir les pages et analyser les photos trouvées.
Sur la base des résultats, le prototype génère un graphique candidat avec des identités possibles et des connexions entre elles. Le profil peut inclure des adresses potentielles, des numéros de téléphone, des employeurs, des surnoms, des pages de réseaux sociaux, des dossiers d'arrestation et des personnes associées à la personne.
L'interface fournit également des informations sur l'âge, le sexe et la race. Selon le code examiné par WIRED, ces paramètres devraient aider l'IA à prendre de « meilleures décisions » lors des recherches. On ne sait pas exactement comment les caractéristiques démographiques influencent les résultats.
La société affirme que les forces de l’ordre n’ont jamais utilisé InquiryIQ. Le prototype n'a pas été proposé aux clients et il n'est pas prévu de le commercialiser sous sa forme actuelle.
La startup a averti dans l'interface que les informations démographiques trouvées automatiquement, les comptes de réseaux sociaux et les données d'arrestation peuvent être incorrectes. L'utilisateur doit accepter ou rejeter chaque résultat et confirmer qu'il l'a vérifié de manière indépendante. Cependant, Woodrow Hartzog, professeur de droit à l'Université de Boston, doutait que cela soit suffisant :
« Le contrôle humain n’est qu’une maigre consolation », a-t-il noté.
Selon lui, au fil du temps, un employé qui vérifie les conclusions d'un système automatisé risque de devenir un confirmateur formel de ses décisions.
Divers modèles d'IA et automatisation
Dans l'interface InquiryIQ, vous pouvez sélectionner le système à analyser. Parmi les options, WIRED a trouvé un modèle de SpaceXAI et d'Amazon Bedrock, une plateforme d'accès à des outils tiers. Les représentants d'Amazon ont déclaré dans un commentaire à la publication que AWS n’est pas impliqué dans le développement de l’outil.
Les experts interrogés par WIRED ont indiqué que de tels systèmes peuvent réduire le travail manuel qui prenait auparavant des heures ou des jours aux enquêteurs.
Hartzog a prêté attention aux inconvénients de l’automatisation. La pénibilité de la collecte d'informations éparses limitait en soi la portée de l'observation : contrôler ainsi un grand nombre de personnes était coûteux et difficile. InquiryIQ réduit potentiellement cet obstacle car il peut automatiquement relier les informations qui devaient auparavant être recherchées manuellement dans plusieurs sources.
Andrew Guthrie Ferguson, professeur à l'Université George Washington, a souligné l'avantage possible de tels systèmes. S'ils stockent des invites, des recherches, des sélections de modèles et des séquences d'actions, la progression de l'enquête peut être facilitée pour un audit ultérieur.
« C'est le bon côté d'un changement potentiellement problématique et perturbateur », a déclaré Ferguson.
Clearview AI affirme que sa base de données contient désormais plus de 70 milliards d'images provenant de sources Internet publiques. Selon l’entreprise, cette technologie est utilisée par plus de 2 000 organismes chargés de l’application de la loi aux États-Unis.
Rappelons qu'en 2023, des informations sont apparues selon lesquelles des policiers américains auraient utilisé le système de reconnaissance faciale Clearview AI près d'un million de fois. Le chef de l'entreprise, Hoan Ton-Tet, a ensuite déclaré que des centaines d'agents chargés de l'application des lois utilisent la technologie de la startup à travers le pays, et a estimé le volume de la base de données à environ 30 milliards d'images.
Auparavant, les autorités françaises avaient condamné Clearview AI à une amende de 20 millions d'euros pour traitement illégal de données personnelles et lui avaient demandé de cesser de collecter des informations sur les citoyens du pays.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE