Restez informé avec la chaîne WhatsApp CriptoTendencia : actualités instantanées sur Bitcoin, Altcoins, DeFi, NFT, Blockchain et Metaverse. S'abonner!
La société d'intelligence artificielle liée à Elon Musk a décidé de restreindre l'une des fonctions les plus controversées de son chatbot Grok : la génération et l'édition d'images ne seront disponibles qu'aux abonnés payants au sein de X.
Cette mesure fait suite à une vague de critiques internationales concernant l'utilisation de l'outil pour créer des images sexualisées – et même des nus – de femmes et de mineurs sans consentement.
Comme l'ont confirmé vendredi les propres réponses du chatbot aux utilisateurs, seuls ceux qui paient un abonnement à X pourront générer ou modifier des images du réseau social. Cependant, cette limitation ne s'applique pas à l'application autonome Grok, qui, au moment de la publication, vous permettait encore de générer des images sans paiement.
Une fonctionnalité qui a déclenché une crise de modération
Grok avait lancé son générateur d'images avec des limites quotidiennes et un accès ouvert, vous permettant de télécharger des photos de n'importe qui et de demander des modifications ou des versions sexualisées. Le résultat a été une prolifération d’images non consensuelles d’enfants, d’acteurs, de mannequins et de personnalités publiques, qui ont déclenché des alarmes réglementaires et éthiques dans de nombreux pays.
X et Musk ont publiquement condamné cette utilisation, réitérant que la plateforme maintient des politiques contre la publication de contenus illégaux. « Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s'il télécharge du contenu illégal », a écrit Musk la semaine dernière.
Pression réglementaire de l’Europe et de l’Asie
Les réactions officielles ne se sont pas fait attendre. L'Union européenne a demandé à xAI de conserver toute la documentation relative au chatbot, dans le cadre d'un examen réglementaire plus large. En parallèle, l'Inde a ordonné à X d'apporter des modifications immédiates pour empêcher toute utilisation abusive de l'imagerie, avertissant qu'elle pourrait perdre ses protections de « sphère de sécurité » si elle n'agissait pas.
Au Royaume-Uni, le régulateur des communications a confirmé être en contact avec xAI pour évaluer l'ampleur du problème et les mesures correctives.
Un précédent pour l’IA générative
Le cas Grok remet au premier plan le débat sur les limites de l’IA générative, la responsabilité des plateformes et la nécessité de contrôles plus stricts lorsque ces technologies sont intégrées dans les réseaux sociaux mondiaux.
La décision de restreindre cette fonctionnalité aux utilisateurs payants sur X est une première étape, mais elle laisse des questions clés ouvertes : cela suffira-t-il à freiner les abus ? Et qu’adviendra-t-il de l’accès illimité depuis d’autres applications ?
Pour l’écosystème technologique, le message est clair : l’innovation en matière d’IA avance plus vite que la réglementation, mais la pression politique et sociale commence à fixer des limites de plus en plus concrètes.
En rapport
Voir l’article original en espagnol
