En résumé
- Grammarly a désactivé sa fonction Expert Review après avoir été critiqué pour avoir imité les voix de vrais universitaires et journalistes sans leur consentement préalable.
- L’outil utilisait un modèle de désinscription qui obligeait les experts à demander manuellement la suppression, une politique jugée inacceptable.
- Superhuman repensera la fonctionnalité afin que les experts puissent décider activement s'ils souhaitent être représentés et comment.
La plate-forme populaire d'aide à l'écriture Grammarly a annoncé mercredi avoir désactivé sa fonction AI Expert Review à la suite de réactions négatives et de critiques en ligne selon lesquelles l'outil utilisait les identités et les styles de plusieurs écrivains et éditeurs sans leur permission.
La fonction Expert Review analyse le texte d'un utilisateur et génère des commentaires sur ce qui est écrit du point de vue d'universitaires, de journalistes et d'autres spécialistes. La société mère Superhuman a déclaré mercredi qu'elle changeait de cap après une réaction généralisée.
« Au cours de la semaine dernière, nous avons reçu des critiques fondées de la part d'experts préoccupés par le fait que l'agent ne représentait pas correctement leur voix », a écrit Shishir Mehrotra, PDG de Superhuman, sur LinkedIn. « Ce type de contrôle améliore nos produits et nous le prenons au sérieux. »
Grammarly a lancé la fonctionnalité Expert Review l'été dernier dans le cadre de son expansion vers les agents de productivité basés sur l'IA. L'outil permet aux utilisateurs de sélectionner un expert et de recevoir des commentaires générés par l'IA en fonction du travail de cette personne. Après avoir découvert que l’IA faisait référence à des personnes réelles, comme des universitaires décédés, le reportage a été vivement critiqué par des universitaires et des journalistes.
À la suite de critiques, Superhuman a déclaré avoir désactivé la fonction d'examen par les experts et la repenser afin que les experts puissent contrôler si et comment ils souhaitent être représentés. Avant le changement, les experts devaient se retirer manuellement s’ils ne souhaitaient pas être inclus, une politique que les critiques qualifiaient d’inacceptable.
« Je ne suis pas avocat, mais je pense que 'nous allons continuer à utiliser votre travail sans autorisation jusqu'à ce que vous nous disiez que vous ne le souhaitez pas' n'est pas exactement la défense que Grammarly pense, du moins pas aux yeux du public », a écrit James Bareham, ancien directeur créatif de Grammarly, sur Bluesky. Le bord. « J'espère qu'ils poursuivront cette société en justice jusqu'à ce qu'elle disparaisse. Aujourd'hui, j'ai annulé mon compte pro. »
D'autres, comme l'auteur et éditeur Benjamin Dreyer, se sont moqués de la politique de désinscription de l'entreprise dans un message répondant à la fonctionnalité.
« En fin de compte, je pourrai peut-être profiter de votre très généreuse offre de non-participation, oh merci, merci. Mais en attendant, si je peux causer quelques instants d'angoisse à un avocat d'entreprise, j'aurai le sentiment que mon travail acharné n'aura pas été vain », a écrit Dreyer.
Dans une déclaration partagée avec DécrypterAilian Gan, directrice de la gestion des produits pour les agents chez Grammarly, a déclaré que la société avait désactivé la fonction Expert Review après avoir reçu des commentaires selon lesquels elle avait « manqué la cible ».
« Alors que nous innovons à la pointe de l'IA, il est important pour nous de continuer à chercher les meilleurs moyens d'aider les gens à sentir qu'ils ont le pouvoir sur la technologie et qu'ils peuvent la façonner pour répondre à leurs besoins », a écrit Gan. « Merci de nous tenir responsables. Nous nous engageons à bien faire les choses la prochaine fois et serons transparents sur la manière dont nous nous améliorerons à partir de maintenant. »
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.