Étude : la retouche photo ne protège pas des systèmes de reconnaissance faciale

Temps de lecture :1 Minutes, 47 Secondes

Des scientifiques de Stanford, de l’Oregon State University et de Google ont découvert que la manipulation de photos au niveau des pixels ne protège pas contre les systèmes de reconnaissance faciale.

Les chercheurs ont testé deux programmes d’empoisonnement des données, Fawkes et LowKey, qui modifient subtilement les images au niveau du pixel. De telles modifications sont invisibles à l’œil nu, mais elles peuvent perturber le système de reconnaissance faciale.

Réduisez vos frais d’échanges
Les frais d’échanges peuvent représenter plusieurs centaines de dollars chaque année. Pour cette raison, les bons tradeurs cherchent à les réduire car ils peuvent impacter fortement leurs résultats. Vous aussi vous pouvez le faire grâce aux liens ci-dessous :

Les deux outils sont disponibles gratuitement, ce qui est leur principal problème, selon les auteurs. Grâce à cela, les développeurs de systèmes de reconnaissance faciale peuvent apprendre à leurs modèles à ignorer « l’empoisonnement ».

« Formation de modèle adaptatif avec accès à la boîte noire [программ модификации фотографий] peut former immédiatement un modèle robuste résistant aux poisons », ont déclaré les scientifiques.

Selon eux, les deux outils ont montré de mauvaises performances par rapport aux versions de logiciels de reconnaissance faciale publiées dans l’année suivant leur introduction sur le réseau.

De plus, les chercheurs ont peur de créer de meilleurs algorithmes d’identification qui pourront initialement ignorer les modifications des photographies.

« Il existe une stratégie défensive encore plus simple : les modélistes peuvent simplement attendre de meilleurs systèmes de reconnaissance faciale qui ne sont plus vulnérables à ces attaques spécifiques », indique le document.

Les auteurs de l’étude ont souligné que la modification des données pour empêcher l’identification biométrique non seulement n’assure pas la sécurité, mais crée également un faux sentiment de sécurité. Cela peut nuire aux utilisateurs qui, autrement, ne publieraient pas de photos en ligne.

Les chercheurs ont déclaré que la seule façon de protéger la vie privée des utilisateurs sur Internet est d’adopter une législation restreignant l’utilisation des systèmes de reconnaissance faciale.

Rappelons qu’en mai 2021, les ingénieurs ont introduit les outils gratuits Fawkes et LowKey pour se protéger contre les algorithmes d’identification biométrique.

En avril, la startup DoNotPay a développé un service pour protéger les images des systèmes de reconnaissance faciale Photo Ninja.

Abonnez-vous aux actualités de ForkLog sur Telegram : ForkLog AI – toutes les actualités du monde de l’IA !

Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL + ENTRÉE

Voir l’article original sur forklog.com