Sénateur démocrate américain Elizabeth Warren a ouvert un nouveau front contre Google après avoir pris connaissance des projets de l'entreprise d'intégrer son modèle d'intelligence artificielle Gemini dans ses services d'achats. Bien que l'intégration n'ait pas encore eu lieu, Warren prévient que cet éventuel ajout pourrait permettre à Google et à ses partenaires de violer la vie privée des consommateurs et de les manipuler pour qu'ils dépensent davantage et paient des prix plus élevés. «Je fais pression pour obtenir des réponses», déclare la sénatrice dans son compte X.
L'IA de Google dans les achats
L'inquiétude de Warren, qui a demandé des informations détaillées sur la conception du système et les garanties de protection des données, se concentre sur l'accès potentiel de Gemini à l'écosystème de données de Google. Si le modèle était intégré aux services d’achat, il pourrait combiner les historiques de recherche, les e-mails, la localisation et les habitudes de consommation pour personnaliser les recommandations.
Google AI balaie Polymarket sur un marché de 35 millions
Le risque ne résiderait pas seulement dans la personnalisation, mais dans la possibilité que ces informations soient utilisées pour détecter des moments de besoin urgent ou de vulnérabilité financière, ce qui pourrait influencer l'expérience d'achat. L’un des points les plus sensibles de son avertissement est une éventuelle manipulation des prix. Une IA illimitée intégrée au commerce électronique pourrait ajuster les prix en fonction du profil économique de l'utilisateur, détecter les urgences et afficher des montants plus élevés, ou utiliser des techniques de persuasion invisibles pour l'inciter à dépenser davantage.
IA et consommation
Bien que Google n'ait pas confirmé qu'il appliquerait ces pratiques, Warren estime que l'architecture technologique pourrait le permettre s'il n'y a pas de contrôles réglementaires stricts. L'offensive du sénateur s'inscrit dans un contexte de surveillance politique croissante à l'égard des grandes entreprises technologiques et de l'utilisation de l'intelligence artificielle dans le domaine commercial.
Le débat anticipe un nouveau chapitre dans la régulation de l’intelligence artificielle appliquée à la consommation et intervient à l’heure où les grandes plateformes accélèrent le développement d’assistants basés sur l’IA capables d’intervenir dans les décisions financières quotidiennes.
Voir l’article original en espagnol
