Les livres Amazon générés par l’IA pourraient donner des conseils mortels

La prolifération de guides générés par l’IA et vendus sur Amazon pourrait avoir des conséquences mortelles, préviennent les experts. Des livres de cuisine aux guides de voyage, les auteurs humains avertissent les lecteurs que l’intelligence artificielle pourrait les induire en erreur.

La dernière mise en garde concernant la confiance aveugle dans les conseils de l’IA vient du monde sombre de la cueillette des champignons. La New York Mycological Society a récemment tiré la sonnette d’alarme sur les réseaux sociaux concernant les dangers posés par les livres de collection douteux créés à l’aide d’outils d’IA générative comme ChatGPT.

« Il existe des centaines de champignons vénéneux en Amérique du Nord et plusieurs sont mortels », a déclaré Sigrid Jakob, présidente de la New York Mycological Society, dans une interview accordée à 404 Media. « Ils peuvent ressembler à des espèces comestibles populaires. Une mauvaise description dans un livre peut amener quelqu’un à manger un champignon vénéneux. »

Une recherche sur Amazon a révélé de nombreux titres suspects tels que « The Ultimate Field Guide to Southwestern Mushroom Books » et « Wild Mushroom Cookbook for Beginners », qui ont tous deux été supprimés par la suite. Ces livres générés par l’IA suivent des tropes familiers, en commençant par de courtes vignettes fictives sur des amateurs amateurs qui sonnent faux.

Le contenu lui-même est plein d’inexactitudes et imite les modèles typiques du texte généré par l’IA, plutôt que de démontrer de véritables connaissances mycologiques, selon des outils d’analyse comme ZeroGPT.

Cependant, ces livres ont été commercialisés auprès des débutants en quête de nourriture qui ne peuvent pas faire la distinction entre les conseils dangereux fabriqués par l’IA et les sources fiables.

« Les livres écrits par des humains peuvent nécessiter des années de recherche et d’écriture », a déclaré Jakob.

Ce n’est pas la première fois… Et ce ne sera probablement pas la dernière

Les experts estiment que nous devons faire preuve de prudence avant de trop nous fier à l’IA, car elle peut facilement diffuser des informations erronées ou des conseils dangereux si elle n’est pas correctement surveillée. Une étude récente a révélé que les gens ont tendance à croire davantage à la désinformation générée par l’IA qu’aux mensonges créés par l’homme.

Les chercheurs ont demandé à un générateur de texte IA d’écrire de faux tweets contenant des informations erronées sur des sujets tels que les vaccins et la technologie 5G. Les participants à l’enquête ont ensuite été invités à distinguer les vrais tweets de ceux créés par l’IA.

Il est alarmant de constater que l’individu moyen n’est pas en mesure de déterminer de manière fiable si les tweets ont été écrits par un humain ou par une IA avancée comme GPT-3. L’exactitude du tweet n’a pas affecté la capacité des gens à en discerner la source.

« Comme nos résultats le démontrent, les grands modèles de langage actuellement disponibles peuvent déjà produire un texte impossible à distinguer du texte organique », ont déclaré les chercheurs.

Ce phénomène ne se limite pas aux guides douteux. Récemment, un autre cas est apparu dans lequel une application d’IA a donné des recommandations de recettes dangereuses aux clients.

Le supermarché néo-zélandais Pak ‘n’ Save a récemment lancé une application de planification de repas appelée « Savey Meal-Bot » qui utilise l’intelligence artificielle pour suggérer des recettes en fonction des ingrédients saisis par les utilisateurs.

Mais lorsque les gens apportaient des articles ménagers dangereux pour plaisanter, l’application proposait toujours de préparer des mélanges toxiques comme le « Mélange d’eau aromatique » et le « Méthanol Ecstasy ».

Bien que l’application ait été mise à jour pour bloquer les suggestions dangereuses, comme confirmé Décryptercela met en évidence les risques potentiels de l’intelligence artificielle lorsqu’elle est mise en œuvre de manière irresponsable.

Cependant, cette susceptibilité à la désinformation induite par l’intelligence artificielle n’est pas une surprise. Les LLM sont conçus pour créer du contenu basé sur les résultats les plus probables et logiques, et ont été formés sur d’énormes quantités de données pour obtenir des résultats incroyables. Par conséquent, les humains sont plus susceptibles de croire à l’intelligence artificielle car elle génère des choses qui imitent ce que nous considérons comme un bon résultat.

C’est pourquoi MidJourney crée une architecture belle mais peu pratique, et les LLM créent des guides sur les champignons intéressants mais mortels.

Même si les algorithmes créatifs peuvent améliorer les capacités humaines de nombreuses manières, la société ne peut pas se permettre de confier entièrement son jugement aux machines. L’intelligence artificielle manque de la sagesse et de la responsabilité qui découlent de l’expérience vécue.

La forêt virtuelle créée par les algorithmes de recherche peut sembler luxuriante et accueillante, mais sans guides humains connaissant le terrain, nous risquons de nous perdre en territoire dangereux.