Coinbase a admis avoir dû ajuster ses systèmes après qu'une alerte générée par l'IA ait signalé de manière incorrecte le résultat d'un match de Coupe du monde avant que l'arbitre ne siffle le coup d'envoi. L'épisode, faisant référence au duel entre la Norvège et le Brésil, a exposé l'un des risques les plus évoqués des outils automatisés : les soi-disant « hallucinations », lorsqu'un modèle d'IA présente des informations inventées comme s'il s'agissait d'un fait vérifié.
Il s’est avéré que la notification parvenait aux utilisateurs avec un score et un résultat du match alors que le ballon n’avait pas encore roulé. La société a déclaré avoir mis à jour ses systèmes après avoir détecté le bug, sans toutefois fournir d'explication technique détaillée sur la manière dont il a été généré ni sur le nombre de personnes qui l'ont reçu.
Qu’est-ce qu’une hallucination IA et pourquoi est-ce important ?
Dans le langage de l’intelligence artificielle, une hallucination se produit lorsqu’un modèle génère un contenu qui semble plausible mais qui est faux. Il ne s’agit pas d’une erreur de traduction ou de données obsolètes : le système fabrique une réclamation sans réel support. Dans ce cas, l’IA a non seulement anticipé un résultat sportif, mais l’a présenté avec le ton d’une nouvelle confirmée.
Le détail n’est pas mineur lorsqu’il s’agit de Coinbase, l’un des plus grands échanges de cryptomonnaies au monde et une plateforme où les utilisateurs prennent des décisions financières en fonction des informations qu’ils reçoivent. Le fait qu’un système automatisé fasse des déclarations catégoriques incorrectes – même s’il s’agissait cette fois de football et non de prix – alimente les doutes quant à l’utilisation de l’IA générative dans des environnements où la précision est essentielle.
La réaction au sein de l'entreprise
L'épisode a d'abord circulé sur les réseaux sociaux, où les utilisateurs ont partagé des captures d'écran de la notification. Max Branzburg, responsable produit de Coinbase, a répondu publiquement à l'affaire sur X, dans un échange qui a permis à l'affaire de gagner en visibilité. Haaland lui-même et la Norvège ont fini par avancer dans le tournoi après avoir battu le Brésil, selon le rapport sportif du match, qui indiquait clairement que la prédiction prématurée du système ne coïncidait même pas avec ce que beaucoup tenaient pour acquis.
Pour l’industrie, l’incident rappelle que les intégrations d’IA nécessitent toujours des couches de vérification humaine avant que les informations ne soient envoyées aux utilisateurs. La rapidité avec laquelle ces outils produisent du texte et des alertes peut devenir un problème lorsqu'il n'existe aucun filtre permettant de distinguer un fait confirmé d'une invention statistiquement probable.
IA et crypto-monnaies, une combinaison en expansion
Les plateformes du secteur intègrent des assistants et des systèmes automatisés pour les synthèses de marché, le service client et les notifications personnalisées. La promesse est de fournir des informations pertinentes en temps réel ; Le défi est d’empêcher ces mêmes systèmes de propager des erreurs à grande échelle.
Coinbase a déclaré avoir corrigé le comportement, mais l'affaire laisse une question ouverte sur le degré d'autonomie qui devrait être accordé à ces outils avant que leur sortie n'atteigne directement l'utilisateur final. Dans un domaine où la confiance est aussi importante que la technologie, une erreur visible dans un match de football peut coûter plus cher en crédibilité qu’il n’y paraît.