En résumé
- Nikon, Sony et Canon proposent d’intégrer des signatures numériques dans de vraies photos pour certifier leur origine numérique, luttant ainsi contre la désinformation.
- Les signatures comprendront des métadonnées clés et seront appliquées directement à partir des caméras sans miroir, offrant une preuve irréfutable de la crédibilité des images.
- L’initiative, soutenue par un standard ouvert appelé « Verify », vise à lutter contre les faux contenus en ligne et à fournir une vérification en ligne gratuite de l’authenticité des photos.
Alors que les photos et vidéos réalistes générées par l’IA prolifèrent en ligne, les entreprises technologiques et les groupes de surveillance se précipitent pour développer des outils permettant d’identifier les faux contenus.
L’ajout de filigranes aux images générées par ordinateur est une solution couramment proposée, ajoutant un indicateur invisible sous la forme de métadonnées cachées qui permet de révéler qu’une image a été créée à l’aide d’un outil d’IA générative. Mais les chercheurs ont découvert qu’un tel filigrane présente un défaut majeur : les techniques contradictoires peuvent facilement le supprimer.
Aujourd’hui, les grands fabricants d’appareils photo proposent une approche différente, voire inverse en un sens : intégrer des filigranes dans de « vraies » photographies.
Nikon, Sony et Canon ont récemment annoncé une initiative conjointe visant à inclure des signatures numériques sur les images prises directement à partir de leurs appareils photo sans miroir haut de gamme. Selon Nikkei Asia, les signatures intégreront des métadonnées clés telles que la date, l’heure, la localisation GPS et les détails du photographe, certifiant cryptographiquement l’origine numérique de chaque photo.
Nikon a annoncé qu’il lancerait cette fonctionnalité dans sa prochaine gamme d’appareils photo professionnels sans miroir ; Sony publiera des mises à jour du micrologiciel pour insérer des signatures numériques dans ses appareils photo sans miroir actuels ; et Canon a l’intention de lancer des appareils photo avec authentification intégrée en 2024, ainsi qu’un filigrane vidéo plus tard dans l’année.
L’objectif, rapporte Nikkei, est de fournir aux photojournalistes, aux professionnels des médias et aux artistes des preuves irréfutables de la crédibilité de leurs images. Les signatures inviolables ne disparaîtront pas avec les modifications et devraient contribuer aux efforts de lutte contre la désinformation et l’utilisation frauduleuse des photos en ligne.
Pour cela, les entreprises ont collaboré sur une norme ouverte pour les signatures numériques interopérables appelée « Verify ». Une fois mises en œuvre, les photos prises avec le matériel approprié pourront être vérifiées en ligne gratuitement afin que les gens puissent déterminer si une photo est authentique ou non.
Si une photo générée par l’IA tente de passer le système Verify sans signature authentique, elle est étiquetée comme « Aucune information d’identification de contenu ».
Au lieu de signaler rétroactivement le contenu de l’IA, le plan authentifie directement les vraies photos à leur source. Mais comme tout autre système de filigrane, son succès dépendra de son adoption généralisée (si davantage de fabricants de matériel intègrent la norme) et de sa mise en œuvre à long terme (le code évolue pour rester invulnérable).
Selon Décrypter Selon des rapports, des recherches récentes indiquent que les techniques anti-filigrane pourraient également compromettre les signatures intégrées, rendant les méthodes de filigrane actuelles inutiles. Cependant, cela convertit uniquement les images filigranées en images non filigranées, de sorte que les utilisateurs disposent de moins d’outils pour détecter leur caractère artificiel.
Bien que les techniques anti-filigrane puissent supprimer les signatures d’authenticité des vraies photos, cela est moins problématique que la suppression des filigranes des fausses images générées par l’IA. Parce que? La suppression d’un filigrane d’un deepfake IA permet de présenter plus facilement le contenu falsifié comme réel. Cependant, si les signatures d’authentification sont supprimées des photos réelles, l’image restante est toujours capturée par un appareil photo et ne provient pas d’un modèle génératif. Même si vous perdez votre preuve cryptographique, le contenu sous-jacent reste authentique.
Le principal risque dans ce cas est lié à l’attribution et à la gestion des droits, et non à la véracité du contenu. L’image pourrait être attribuée à tort ou utilisée sans licence appropriée, mais elle n’induise pas en soi les téléspectateurs en erreur sur la réalité qu’elle représente.
OpenAI a récemment annoncé un détecteur de deepfake alimenté par l’IA qui prétend être précis à 99 % sur les images. Cependant, les détecteurs d’IA restent imparfaits et nécessitent des mises à jour constantes pour suivre les évolutions de la technologie générative.
La récente montée en sophistication des deepfakes a mis en évidence la nécessité de stratégies comme celle-ci. Comme nous l’avons vu en 2023, la nécessité de différencier le contenu réel du contenu fabriqué n’a jamais été aussi pressante. Les politiciens et les développeurs de technologies recherchent des solutions viables, c’est pourquoi un peu d’aide de ces entreprises est certainement appréciée.
Edité par Ryan Ozawa.