Des versions personnalisées de ChatGPT sont utilisées pour créer du contenu pornographique, aider les étudiants à contourner les systèmes de détection de texte générés par l'IA et fournir des conseils médicaux et juridiques « faisant autorité », rapporte Gizmodo après avoir mené une enquête.
En novembre 2023, OpenAI a introduit la possibilité de personnaliser ChatGPT pour vos besoins personnels. Aucune compétence en programmation n'est requise. Les GPT créés peuvent effectuer des tâches spécifiques pour rechercher des informations sur Internet ou servir d'assistant virtuel dans les flux de travail.
Vous pouvez les utiliser vous-même ou les partager avec d'autres. OpenAI a lancé une place de marché pour la distribution d'IA personnalisées. Les experts de Gizmodo ont découvert que le 2 septembre, il y avait au moins trois GPT personnalisés qui violaient la politique de l'entreprise :
- chatbot « Thérapeute-Psychologue » ;
- « Entraîneur de fitness, d'entraînement et de régime » ;
- « BypassGPT » permet aux étudiants de contourner les systèmes de détection de texte générés par l'IA.
Les journalistes ont remarqué que la requête de recherche « NSFW » propose des GPT appelés NSFW AI Art Generator. L'interface de chat recommande d'aller sur le site Web d'Offrobe AI, où l'objectif du réseau neuronal est indiqué : « Générer du porno IA pour satisfaire vos désirs sombres ».
Gizmodo a signalé à OpenAI plus de 100 GPT qui violaient les politiques de l'entreprise. Beaucoup d'entre eux ont été supprimés, notamment des générateurs de pornographie et de deepfakes, ainsi que des chatbots proposant des recommandations de paris sportifs. Certains réseaux neuronaux sont restés, note la publication.
« Nous avons pris des mesures contre ceux qui enfreignent nos règles. Nous utilisons une combinaison de systèmes automatisés, d'analyses humaines et de rapports d'utilisateurs pour trouver et évaluer les GPT. Nous avons également des outils intégrés au produit pour signaler les GPT qui enfreignent nos règles », a déclaré Taya Christianson, porte-parole d'OpenAI.
Les développeurs de GPT personnalisés ne réalisent pas encore de bénéfices, mais la startup d'IA prévoit d'intégrer un modèle de partage des revenus basé sur la popularité de leur outil.
Google a déjà intensifié sa lutte contre le deepfake porn.
Rappelons qu’en février, Vitalik Buterin avait écrit un article sur le problème croissant des deepfakes et avait discuté des moyens possibles de les détecter.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-la et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez au courant de l'actualité du secteur du bitcoin !
Voir l’article original en russe
