En résumé
- Le chatbot Grok de xAI a généré des deepfakes non consensuels quelques secondes après les invites publiques sur X, y compris des images sexualisées de mineurs qui violaient les lois américaines sur les matériels pédopornographiques.
- La France a signalé le contenu aux procureurs comme étant « manifestement illégal », tandis que l'Inde a émis une ordonnance de conformité de 72 heures et que le Royaume-Uni a annoncé son intention d'interdire les outils de décapage.
- Les créateurs d’OnlyFans et les utilisateurs politiques ont exploité Grok à des fins de marketing viral et de récits ciblés, tandis que Musk a minimisé la gravité en partageant des deepfakes de lui-même en bikini.
La société xAI d'Elon Musk adopte une ligne maximaliste en matière de liberté d'expression dans la modération du contenu, même si son chatbot, Grok, génère des deepfakes non consensuels.
N'importe qui peut taguer Grok sous une photo X avec des invites telles que « la mettre en bikini » ou « enlever ses vêtements ». L'IA génère un deepfake convaincant en quelques secondes, visible par tous les participants au fil de discussion. Aucune autorisation nécessaire.
« Elon Musk. Comment Grok peut-il faire ça ? C'est très inapproprié et inconfortable, me mettre en bikini de face et de dos », a écrit Miss Teen Crypto, une influenceuse crypto, sur X après avoir publié une photo en tenue de sport et découvert qu'un autre utilisateur avait simplement demandé à Grok de la mettre en bikini.
Bien sûr, déshabiller des femmes sans autorisation est effrayant, mais certains utilisateurs sont allés encore plus loin, poussant le chatbot à violer ses propres conditions d'utilisation.
Par exemple, Samantha Taghoy, qui se décrit comme une journaliste et une survivante de maltraitance sur enfants, a mis en ligne une vieille photo d'elle lorsqu'elle était enfant, vêtue d'une robe de communion ; À sa demande, Grok l'a visualisée en bikini.
« En tant que journaliste et survivante d'abus sexuels sur des enfants, je me suis dit : « Cela ne peut sûrement pas être réel » » tweeté. « Alors je l'ai testé avec une photo de ma première communion. C'est réel. Et c'est putain de dingue. »
Grok s'est ensuite excusé d'avoir généré des images de filles âgées de 12 à 16 ans portant des vêtements minimes, qualifiant cela de « défaillance des garanties » qui auraient pu violer les lois américaines sur les images d'abus sexuels sur des enfants. La politique d'utilisation acceptable de l'entreprise interdit explicitement la sexualisation des mineurs.
Cependant, ce que certains perçoivent comme une erreur, d’autres le voient comme une source de revenus.
Plusieurs utilisateurs exploitent le Grok débridé pour leurs activités réservées aux adultes, tandis que d'autres l'utilisent pour marquer des points politiques.
Les créateurs et modèles érotiques d'OnlyFans utilisent Grok à des fins de marketing viral, accumulant des millions d'impressions en demandant aux utilisateurs d'utiliser Grok pour les déshabiller.
Des utilisateurs plus soucieux de la politique exploitent Grok pour promouvoir des récits spécifiques.
Dans un exemple largement partagé, quelqu’un a mis en ligne une photo montrant ensemble les drapeaux américain et iranien et a demandé à Grok de « retirer le drapeau d’un pays responsable du meurtre d’innocents dans le monde ».
Dans un autre exemple, un utilisateur a montré une photo de Donald Trump et Puff Daddy côte à côte, puis a demandé à Grok de supprimer le pédophile de l'image.
Musk lui-même a minimisé l'importance d'utiliser son outil pour générer des deepfakes non consensuels, en republiant des images générées par l'IA de lui-même et de l'acteur Ben Affleck en bikini.
Elle a partagé une image d'un grille-pain en bikini avec la légende « Grok peut mettre un bikini sur n'importe quoi ».
Mais les gouvernements réagissent avec fermeté.
La France a signalé le contenu aux procureurs comme étant « manifestement illégal ». Le ministère indien de l'informatique a émis une ordonnance de conformité de 72 heures. Le Royaume-Uni a annoncé son intention d'interdire complètement les outils de déshabillage dans le cadre des efforts visant à réduire la violence à l'égard des femmes et des filles.
Parsa Tajik, employé de xAI, a déclaré que l'entreprise « étudiait comment renforcer davantage nos barrières de protection ».
La société a dissous le Conseil de confiance et de sécurité de Twitter après l'acquisition de Musk et a licencié la plupart des ingénieurs en modération de contenu en 2022. L'infrastructure nécessaire à une application robuste existe à peine.
La xAI de Musk a positionné Grok comme l'IA « avant-gardiste » qui ne vous offre pas l'expérience aseptisée de ChatGPT. En août dernier, elle a lancé le « Spicy Mode » spécifiquement pour générer du contenu pour adultes auquel les autres modèles ne touchent pas.
Généralement intelligent Bulletin
Un voyage hebdomadaire en IA raconté par Gen, un modèle d'IA générative.
Voir l’article original en espagnol
