« Obscène » : le nouvel outil d'IA de Grammarly propose des commentaires écrits d'universitaires décédés

La nouvelle fonctionnalité d'IA de Grammarly, qui offre des commentaires sur la rédaction du point de vue supposé d'« experts » reconnus, suscite les critiques des universitaires qui affirment que l'outil semble « ressusciter » les universitaires pour qu'ils examinent le travail des utilisateurs.

La fonction, appelée Expert Review, analyse les textes et génère des commentaires formulés du point de vue des universitaires, des journalistes et d'autres spécialistes spécifiques. De nombreux experts que l’outil d’IA prétend imiter ne sont plus en vie, une caractéristique qu’un historien médiéval de BlueSky a qualifiée de « macabre ».

Lancée en 2009 en tant qu'outil d'écriture et de grammaire assisté par l'IA, la société mère de Grammarly a changé son nom pour Superhuman en octobre pour refléter sa transition d'un assistant d'écriture unique à une suite d'agents de productivité basés sur l'IA, comprenant des outils de recherche, de planification, de courrier électronique et d'automatisation des flux de travail.

Grammarly a introduit la fonctionnalité Expert Review l'été dernier. Grâce à l'extension de navigateur Grammarly, les utilisateurs qui optent pour la version Superhuman Go peuvent sélectionner un expert et recevoir des commentaires générés par l'IA en fonction du domaine de ce chercheur ou de ses travaux publiés.

« Notre agent Expert Review examine le texte sur lequel l'utilisateur travaille, qu'il s'agisse d'un brief marketing ou d'un projet étudiant sur la biodiversité, et utilise notre LLM sous-jacent pour faire apparaître un contenu expert qui peut aider l'auteur du document à façonner son travail », a déclaré un porte-parole de Superhuman. Décrypter. « Les experts proposés dépendent du contenu du texte évalué. »

L'agent d'Expert Review, a expliqué le porte-parole, ne prétend pas avoir l'approbation ou l'implication directe de ces experts, mais propose plutôt « des suggestions inspirées par les travaux d'experts et guide les utilisateurs vers des voix influentes dont ils peuvent explorer plus en profondeur les travaux universitaires ».

« Les experts en revue d'experts apparaissent parce que leurs travaux publiés sont accessibles au public et largement cités », a-t-il déclaré.

Lors du test de la fonctionnalité pour cet article, les évaluateurs experts suggérés par l'application comprenaient Margaret Sullivan, chroniqueuse médiatique et ancienne rédactrice en chef du New York Times; Jack Shafer, ancien rédacteur médiatique principal chez Politique; et Lawrence Lessig, professeur à la Harvard Law School. D'autres options incluaient le chercheur en éthique de l'IA Timnit Gebru et Helen Nissenbaum, professeur de sciences de l'information à Cornell Tech.

Alors que cette fonctionnalité vise à aider les étudiants et les professionnels à améliorer leurs compétences rédactionnelles, Vanessa Heggie, professeur d'histoire à l'Université de Birmingham, se demande si les « évaluateurs » ont donné leur consentement avant que l'entreprise ne les inclue dans l'application.

« Je ne sais pas par où commencer, mais… Grammarly propose désormais une 'évaluation experte' de votre travail par des universitaires vivants et morts », a écrit Heggie sur LinkedIn. « Oui, morts, sans la permission explicite de quiconque, vous créez de petits LLM basés sur leur travail extrait et en utilisant leurs noms et réputations. Obscènes. »

Brielle Harbin, ancienne professeure agrégée de sciences politiques à l'Académie navale des États-Unis, a qualifié cela de « développement étrange et troublant ».

« Des décisions comme celle-ci, surtout lorsqu'elles sont prises sans contexte, sans consentement ou sans collaboration significative avec les enseignants, risquent d'approfondir le scepticisme à l'égard des outils d'IA dans l'enseignement supérieur », a-t-il écrit sur LinkedIn. « Ironiquement, les décisions visant à accélérer l'adoption pourraient finir par renforcer la résistance. La confiance et la collaboration comptent beaucoup en ce moment. »

Grammarly n'est que l'une des entreprises qui créent des programmes d'IA conçus pour imiter de vraies personnes.

En 2023, Meta a lancé une gamme de chatbots pour sa plateforme Meta AI construite autour des identités de célébrités, telles que Snoop Dogg, Tom Brady, Kendall Jenner et Naomi Osaka. La même année, la Khan Academy a lancé son tuteur d'IA Khanmigo, qui permet aux étudiants de simuler des conversations avec des personnages historiques, notamment le Premier ministre britannique Winston Churchill et l'espion de la guerre civile américaine et chef d'orchestre du chemin de fer clandestin Harriet Tubman.