En résumé
- Le régulateur australien de la sécurité électronique a signalé que les plaintes contre Grok avaient doublé ces derniers mois pour avoir généré des images sexualisées.
- Julie Inman Grant a averti que certains rapports impliquent de possibles contenus d'exploitation sexuelle d'enfants générés par le chatbot xAI.
- David Pocock a proposé des amendes de 102 000 dollars pour ceux qui partagent des deepfakes non consensuels et de 510 000 dollars pour les entreprises qui ne s'y conforment pas.
Jeudi, le régulateur australien indépendant de la sécurité en ligne a émis un avertissement concernant l'utilisation croissante de Grok pour générer des images sexualisées sans consentement, révélant que son bureau a vu les plaintes concernant le chatbot IA doubler ces derniers mois.
La commissaire à la sécurité électronique du pays, Julie Inman Grant, a déclaré que certains rapports impliquent de possibles contenus d'exploitation sexuelle d'enfants, tandis que d'autres concernent des adultes soumis à des abus basés sur l'image.
« Je suis profondément préoccupé par l'utilisation croissante de l'IA générative pour sexualiser ou exploiter les gens, en particulier lorsque des enfants sont impliqués », a publié Grant sur LinkedIn jeudi.
Ces commentaires surviennent dans un contexte de réaction internationale croissante contre Grok, un chatbot construit par xAI, la startup d'IA du milliardaire Elon Musk, qui peut être demandé directement sur X pour modifier les photos des utilisateurs.
Grant a averti que la capacité de l'IA à générer du « contenu hyperréaliste » permet aux acteurs malveillants de créer plus facilement des abus synthétiques et rend plus difficile la réponse des régulateurs, des forces de l'ordre et des groupes de protection des enfants.
Contrairement à des concurrents comme ChatGPT, xAI de Musk a positionné Grok comme une alternative « provocatrice » qui génère du contenu que d'autres modèles d'IA refusent de produire. En août dernier, il a lancé le « Spicy Mode » spécifiquement pour créer du contenu explicite.
Grant a averti que les codes industriels applicables en Australie exigent que les services en ligne mettent en œuvre des garanties contre le matériel d'exploitation sexuelle des enfants, qu'ils soient générés par l'IA ou non.
L'année dernière, eSafety a pris des mesures coercitives contre les services « nudify » largement utilisés, forçant son retrait d'Australie, a-t-il ajouté.
« Nous sommes désormais entrés dans une ère où les entreprises doivent s'assurer que les produits d'IA générative disposent de garanties et de barrières appropriées à chaque étape du cycle de vie du produit », a déclaré Grant, notant qu'eSafety « enquêtera et prendra les mesures appropriées » en utilisant sa gamme complète d'outils réglementaires.
Les deepfakes en hausse
En septembre, Grant a obtenu la première sanction pour deepfake en Australie lorsque le tribunal fédéral a infligé une amende de 212 000 $ (343 500 A$) à Anthony Rotondo, un homme de la Gold Coast, pour avoir publié de la pornographie deepfake d'éminentes femmes australiennes.
Le commissaire à la sécurité électronique a poursuivi Rotondo en justice en 2023 après avoir contesté les avis de retrait, affirmant qu'ils « ne signifiaient rien pour lui » car il n'était pas un résident australien, puis a envoyé les images par courrier électronique à 50 adresses, y compris le bureau de Grant et les médias, selon un rapport de Actualités ABC.
Les législateurs australiens font pression pour des protections plus strictes contre les deepfakes non consensuelles au-delà des lois existantes.
Le sénateur indépendant David Pocock a présenté en novembre le projet de loi d'amendement 2025 sur la sécurité en ligne et d'autres lois (Mon visage, mes droits), qui permettrait aux personnes qui partagent des deepfakes non consensuelles d'être condamnées à une amende de 102 000 dollars (165 000 dollars australiens) à l'avance, les entreprises étant passibles de sanctions allant jusqu'à 510 000 dollars (825 000 dollars australiens) pour non-respect des avis de retrait.
« Nous vivons désormais dans un monde où de plus en plus n'importe qui peut créer un deepfake et l'utiliser comme bon lui semble », a déclaré Pocock dans un communiqué, critiquant le gouvernement pour être « endormi au volant » sur les protections de l'IA.
Généralement intelligent Bulletin
Un voyage hebdomadaire en IA raconté par Gen, un modèle d'IA générative.