Shane Jones, qui a travaillé chez Microsoft pendant six ans, a déclaré que le chatbot de l’entreprise créait des images obscènes et ignorait les droits d’auteur.
Il a averti à plusieurs reprises la direction du contenu sexuel et violent généré par Copilot Designer. Toutefois, selon lui, l’entreprise n’a pas pris les mesures appropriées.
Microsoft a introduit un modèle d’IA alimenté par les technologies OpenAI en mars 2023. Pour créer des images, les utilisateurs doivent saisir des invites de texte.
Un mois avant la sortie, Jones a activement testé les vulnérabilités du produit. Il a remarqué que l’outil générait des illustrations non conformes aux principes d’IA responsable de l’entreprise.
Selon l’ingénieur, le chatbot représentait :
- des monstres qui parlent du droit à l’avortement ;
- des adolescents armés de mitrailleuses ;
- images sexualisées de femmes dans des scènes de violence ;
- mineurs consommant de l’alcool et des drogues.
« C’est à ce moment-là que j’ai réalisé pour la première fois qu’il s’agissait d’un modèle vraiment dangereux », a déclaré Jones à CNBC.
Il a été très alarmé par ce qui se passait et a commencé à faire part de ses découvertes à ses supérieurs en décembre de l’année dernière. Bien que l’entreprise ait accepté ses préoccupations, elle n’a pas retiré le produit de la vente.
En janvier 2024, l’ingénieur a écrit une lettre aux sénateurs américains sur cette question, puis a rencontré le personnel de la commission du commerce, de la science et des transports.
« Au cours des trois derniers mois, j’ai demandé à plusieurs reprises à Microsoft de retirer Copilot Designer de l’usage public jusqu’à ce que des contrôles de sécurité plus stricts soient en place », a déclaré Jones aux responsables.
L’équipe Copilot reçoit chaque jour plus de 1 000 avis sur le produit, mais n’enquête que sur les cas les plus flagrants, a-t-il déclaré. Résoudre tous les problèmes nécessitera des investissements importants dans le nouveau développement ou le recyclage des modèles, mais la société ne dispose pas de suffisamment de ressources pour cela.
Le chatbot a un autre problème : Copilot crée des images détaillées des personnages de Disney et de Star Wars, violant potentiellement les lois sur les droits d’auteur et les politiques de Microsoft.
« Le problème est que si ce produit commence à diffuser des images douteuses à travers le monde, il n’y aura aucun endroit pour le signaler. Il n’y a pas de numéro de téléphone à appeler pour prendre des mesures immédiates pour mettre fin à cela », a ajouté Jones.
Copilot Designer pour Android reste classé « E pour tout le monde », ce qui signifie qu’il est sûr et n’a aucune restriction d’âge.
Rappelons qu’en février 2024, Google a suspendu la création d’images via Gemini en raison de plaintes d’utilisateurs concernant des inexactitudes historiques.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !
Voir l’article original en russe
