TL;DR
- Coinbase enquête sur une alerte générée par l'IA qui rapportait faussement un résultat de la Coupe du monde avant le début du match.
- Le PDG Brian Armstrong a confirmé que la société examinait l'incident après que les utilisateurs aient exprimé leurs inquiétudes.
- Cette erreur a déclenché un nouveau débat sur la fiabilité du contenu du marché des prédictions générées par l’IA.
- L'incident met en évidence la nécessité de mesures de protection plus strictes en matière d'IA à mesure que Coinbase étend ses produits financiers basés sur l'IA.
Coinbase enquête sur un IA notification qui rapportait faussement l'issue d'un match de Coupe du Monde de la FIFA avant même le début du match, suscitant des critiques sur la fiabilité de l'intelligence artificielle sur les marchés de prédiction.
L'alerte erronée affirmait que la Norvège avait battu le Brésil 3-2, l'attaquant Erling Haaland marquant deux fois. Cependant, la propre page de marché de prédiction de Coinbase a montré que le match était alors en retard en raison des conditions météorologiques, ce qui signifie qu'aucun résultat officiel n'existait au moment de l'envoi de la notification.
L'incident a rapidement attiré l'attention sur les réseaux sociaux, soulevant de nouvelles questions sur les garanties entourant IA contenu sur les plateformes financières.
Brian Armstrong confirme l'examen interne
Le PDG de Coinbase, Brian Armstrong, a reconnu le problème après que les utilisateurs ont signalé la fausse notification en ligne, confirmant que la société avait commencé à enquêter sur ce qui n'allait pas.
« Je jette un coup d'œil avec l'équipe – merci de l'avoir signalé », a déclaré Armstrong en réponse aux plaintes des utilisateurs.
L'échange n'a pas révélé la cause de l'alerte incorrecte ni si elle provenait d'un modèle d'IA, d'un flux de données automatisé ou d'un autre système interne. Coinbase n'a pas non plus indiqué si des notifications similaires seraient suspendues pendant que l'enquête est en cours.
L’erreur est particulièrement notable car Coinbase intègre de plus en plus l’intelligence artificielle dans ses produits et opérations. La société a également étendu sa présence sur les marchés de prédiction grâce à son partenariat avec Kalshi, offrant aux utilisateurs un accès à des marchés événementiels aux côtés des marchés traditionnels. crypto services.
La fausse notification a également relancé le débat sur le positionnement par Coinbase des marchés de prédiction en tant qu'outils pouvant aider à faire apparaître des informations fiables. Les critiques ont fait valoir que l’envoi d’un résultat incorrect avant qu’un événement ne se produise mine la confiance dans les alertes basées sur l’IA, en particulier lorsqu’elles sont intégrées à des produits financiers.
La précision de l’IA fait l’objet d’un examen de plus en plus minutieux
Le dernier incident s’ajoute au débat plus large autour de l’utilisation de l’intelligence artificielle dans les services financiers destinés aux clients, où des informations inexactes peuvent rapidement se propager à un grand nombre d’utilisateurs.
Bien que la page du marché des prédictions de Coinbase ait correctement affiché que le match avait été retardé en raison des conditions météorologiques, la notification push contradictoire a créé la confusion en présentant un score final fabriqué comme s'il s'agissait d'un résultat officiel.
La société a déjà traité de problèmes liés aux notifications. Plus tôt cette année, Armstrong a corrigé un bug distinct impliquant les notifications push, notant que Coinbase préfère généralement résoudre les problèmes techniques sans restreindre inutilement l'accès des clients à ses services.
Jusqu’à présent, Coinbase n’a signalé aucun impact matériel sur son activité ou sur le cours de ses actions suite à l’incident. Au lieu de cela, l'attention s'est portée sur la façon dont l'échange vérifie IA contenu avant qu’il n’atteigne les utilisateurs.
Alors que les entreprises de technologie financière continuent d’intégrer l’intelligence artificielle dans les plateformes de trading, les marchés de prédiction et les communications avec les clients, le maintien de l’exactitude devient de plus en plus important. L'incident de Coinbase met en évidence les défis liés à l'équilibre entre automatisation et fiabilité, en particulier lorsque les informations générées par l'IA ont le potentiel d'influencer les décisions des utilisateurs ou la perception du public.
Alors que l'enquête se poursuit, l'épisode rappelle que les outils basés sur l'IA sont dangereux et nécessitent une surveillance solide, d’autant plus que les échanges cryptographiques étendent leur utilisation de l’intelligence artificielle à l’ensemble des produits de base et des services du marché.
Voir l’article original en anglais
