Près de deux livres religieux sur trois en vente sur Amazon n’ont pas été écrits par des personnes, mais par une intelligence artificielle. C'est ce qui ressort d'une étude de la société de détection d'IA Originalité.aiqui a analysé plus de deux mille titres récemment publiés et découvert un large éventail de livres religieux écrits par l'IA beaucoup plus large qu'on pourrait l'imaginer. Les données ne concernent pas un genre de niche : elles parlent de spiritualité, de foi et de pratiques que des millions de lecteurs considèrent comme des guides pour leur vie quotidienne.
Points clés
- Originality.ai classé 1 272 livres sur 2 034 analysé, égal à 63%comme probablement écrit par AI dans 14 catégories religieuses et spirituelles.
- La catégorie Wicca, sorcellerie et paganisme présente le taux le plus élevé, avec la 78% de titres suspects.
- Ils suivent l'hindouisme pour 76% et le taoïsme al 74%.
- Le 53% des allégations vérifiables dans les livres de sorcellerie ont été signalées comme potentiellement fausses.
- Amazon s'appuie sur un système d'auto-déclaration des auteurs et, en parallèle, achète des livres physiques pour les scanner et entraîner ses modèles d'IA.
La plupart des livres religieux sur Amazon sont probablement écrits par l'IA
Le rapport, publié mercredi par Originality.ai, énumère un chiffre qui ne passera guère inaperçu : 63% des titres échantillonnés sur des thèmes religieux sont probablement générés par l’intelligence artificielle. Ce n’est pas une impression : derrière elle se cache une analyse systématique de milliers de pages, de descriptions et de biographies d’auteurs répartis en quatorze catégories de foi et de croyances.
Comment fonctionne le studio Originality.ai
Les chercheurs ont examiné des descriptions de livres, des biographies d'auteurs et des échantillons de textes, attribuant une note à chaque titre. Qui a dépassé le seuil de 50 points il a été classé comme « probablement IA ». L'auteur du rapport, Michel Fraimana expliqué que l'équipe a également procédé à des contrôles aléatoires sur les livres déclarés, en croisant les résultats automatiques avec une évaluation manuelle. Le modèle, précise-t-il, mesure une probabilité et ne fournit jamais une certitude absolue sur l'origine du texte.
Taux d'écriture de l'IA dans différentes catégories religieuses
Toutes les traditions ne sont pas touchées dans la même mesure. La catégorie Wicca, sorcellerie et paganisme est en tête du classement avec 78% des titres suspects, suivis de l'hindouisme (76 %) et du taoïsme (74 %). Le sikhisme, le bouddhisme, l’islam, le catholicisme, le protestantisme, le christianisme orthodoxe et le judaïsme se situent dans une fourchette intermédiaire, tandis que le mormonisme (42 %), l’athéisme (40 %) et le satanisme (22 %) ferment le classement avec des pourcentages nettement inférieurs. Cependant, les chercheurs ont averti que la taille des échantillons varie considérablement d’une catégorie à l’autre, ce qu’il convient de garder à l’esprit lors de la comparaison des chiffres.
Pourquoi la sorcellerie est-elle importante ? Fraiman a noté que le lecteur typique de ces titres recherche souvent des solutions pour s'auto-guérir, améliorer son bien-être mental ou se désintoxiquer des médicaments et produits chimiques courants. Ce sont des livres qui promettent des remèdes avec des cristaux curatifs, des herbes et un nettoyage énergétique sans avoir à se conformer à aucune norme scientifique, le terrain idéal pour un contenu généré rapidement et en masse.
Difficultés de vérification et faux positifs dans la détection de l'IA
Le problème le plus délicat qui ressort de l’étude n’est pas seulement la quantité de textes suspects, mais aussi leur fiabilité : dans les livres de sorcellerie analysés, 53 % des affirmations vérifiables ont été signalées comme potentiellement fausses. Lorsqu’un contenu spirituel dépourvu de contrôle scientifique se combine avec une origine probablement automatisée, le risque de diffusion d’informations trompeuses sur la santé et le bien-être devient réel.
Les limites des outils de détection d’écriture manuscrite de l’IA
Fraiman a insisté sur un point : le système d'Originality.ai indique une probabilité, pas une preuve. « Nous ne prétendons pas avec certitude que les livres sont définitivement écrits par l'IA », a-t-il déclaré, notant que le modèle n'estime qu'un seul degré de probabilité. Il s’agit d’une distinction loin d’être technique, car les outils de vérification de contenu IA ont déjà montré des marges d’erreur importantes dans d’autres contextes.
Cas de résultats mitigés dans la détection de l’IA
L’histoire récente offre des exemples qui appellent à la prudence. En octobre 2024, quatre détecteurs d'IA différents appliqués à la Déclaration d'indépendance des États-Unis ont produit des résultats opposés : ZeroGPT l'a évalué comme étant écrit à 97,93 % par l'IA, QuillBot l'a évalué comme entièrement humain et GPTZero l'a évalué à 89 % comme étant d'origine humaine. Plus récemment, en mars, la Cour suprême de Colombie a rejeté un acte juridique après qu'un détecteur l'a signalé comme étant généré par l'IA ; lorsqu'un avocat soumettait la décision de la Cour au même outil, le logiciel la classait comme IA à 93 %. Des épisodes qui expliquent pourquoi la vérification des textes écrits par l’IA reste aujourd’hui un terrain instable, utile pour s’orienter mais pas pour rendre des verdicts définitifs.
Amazon, le système d'honneur et les questions éthiques sur la formation aux données
Amazon n'a pas répondu à la demande de commentaires de Decrypt sur les résultats de l'étude. Selon Fraiman, la plateforme est consciente de l'ampleur de la diffusion des contenus écrits par l'IA dans son catalogue, mais s'appuie sur un système d'honneur simple qui laisse aux auteurs la responsabilité de déclarer eux-mêmes si une œuvre a été générée artificiellement. Originality.ai n'a pas partagé ses données avec Amazon avant leur publication, et Fraiman lui-même a admis qu'il n'avait aucune information sur le nombre d'auteurs déclarant réellement utiliser l'IA.
Le système d'auto-déclaration des auteurs
Ce manque de transparence publique est peut-être l’aspect le plus critique de l’histoire : sans données vérifiables sur le taux d’auto-déclaration, le nombre réel de livres religieux sur Amazon générés par l’IA pourrait être encore plus élevé que celui estimé par l’étude. Le système actuel repose sur la bonne foi des auteurs et non sur un contrôle systématique de la plateforme.
Des livres physiques numérisés pour entraîner l'intelligence artificielle
La question de la divulgation s’accompagne d’un autre front, tout aussi controversé : l’utilisation de livres physiques pour former des modèles d’IA. Une enquête publiée en août a retracé l'itinéraire d'une expédition de livres rares vers un centre Amazon de Las Vegas, où des ouvriers coupaient les reliures pour numériser les pages et les transformer en données de formation.
Amazon a confirmé acheter des livres via des canaux commerciaux pour cette opération, précisant que l'objectif est de « développer et améliorer les produits et services utilisés par les clients », sans mentionner explicitement la formation de modèles d'IA.
C’est une question qui concerne à la fois l’éthique de l’IA et la formation des données ainsi que le consentement des auteurs, souvent absent à toute étape du processus.
Entre livres fantômes dans les bibliothèques numériques et volumes rares détruits dans les centres de numérisation, le cas Amazon expose deux faces d’une même course à l’intelligence artificielle : d’un côté la production incontrôlée de contenus, de l’autre la faim insatiable de données pour l’entraîner. Il est difficile, pour le moment, de comprendre lequel des deux soulève les questions les plus urgentes pour celui qui lit, écrit ou publie un livre.
FAQ
Quelle est la fiabilité de la détection des livres religieux écrits par l’IA sur Amazon ?
Originality.ai utilise un système de notation qui indique une probabilité et non une certitude. Les chercheurs eux-mêmes préviennent que les résultats indiquent une origine probable de l’IA, et non une preuve définitive.
Quelle catégorie de livres religieux présente le pourcentage le plus élevé de titres probablement écrits par l’IA ?
La catégorie Wicca, sorcellerie et paganisme présentait le taux le plus élevé, avec 78 % des titres échantillonnés classés comme probablement écrits par l'IA.
Quels problèmes éthiques l’utilisation par Amazon de livres physiques pour entraîner l’IA soulève-t-elle ?
Amazon achète et scanne des livres physiques, même rares, pour entraîner ses modèles d'IA, puis les jette, un processus qui soulève des questions sur la destruction des œuvres originales et le manque de consentement des auteurs.
Amazon oblige-t-il les auteurs à déclarer si un livre a été écrit par une intelligence artificielle ?
Amazon utilise un système d'honneur dans lequel les auteurs eux-mêmes déclarent eux-mêmes l'utilisation de l'IA dans leurs écrits, mais il n'existe aucune donnée publique sur le nombre d'entre eux qui le font réellement.
Contenu créé avec l’aide de l’intelligence artificielle et de la révision éditoriale humaine.
Voir l’article original en italien
