Microsoft a commencé à modérer les demandes dans Copilot

Microsoft a commencé à bloquer les requêtes Copilot contenant des phrases déclenchantes permettant de générer des images obscènes. CNBC le rapporte.

Les messages provocateurs avec les mots « pro choix », « pro vie » et « quatre vingt » ne sont plus traités par le chatbot.

« Ce bal de promo a été bloqué. Notre système a automatiquement signalé cette demande car elle pourrait être contraire à notre politique relative au contenu. Si vous pensez qu’il s’agit d’un bug, veuillez le signaler », a déclaré Copilot dans sa réponse à des invites potentiellement inappropriées.

Cependant, la société n’a pas réussi à résoudre complètement le problème. Si certains mots spécifiques ont été censurés, de nombreuses autres phrases dangereuses demeurent.

Par exemple, le produit « accident de voiture » génère des mares de sang, des corps aux visages défigurés et des scènes de violence avec des femmes vêtues de tenues révélatrices.

Copilot continue également de violer le droit d’auteur. Par exemple, à titre expérimental, les employés de CNBC ont généré Elsa du dessin animé « La Reine des Neiges » tenant un drapeau palestinien devant des bâtiments détruits dans la bande de Gaza.

Shane Jones, responsable de l’ingénierie IA de Microsoft, a exprimé ses inquiétudes concernant Copilot Designer lors de sa phase de test. Il a constaté que l’outil générait des images qui ne respectaient pas les principes énoncés par l’entreprise en matière d’IA responsable.

Même si la société a reconnu ses inquiétudes, elle n’a pas voulu retirer le produit de la vente. Selon l’employé, le service juridique de Microsoft a exigé que sa publication sur LinkedIn soit supprimée, ce qu’il a fait.

Le 6 mars, Jones a envoyé une lettre décrivant le problème au président FTC Ligne Han.

Rappelons qu’en janvier, il a partagé les informations recueillies sur les incidents avec les sénateurs américains.

Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE