Les principaux modèles linguistiques sont biaisés à l’encontre des locuteurs de dialectes en leur attribuant des stéréotypes négatifs. Des scientifiques allemands et américains sont arrivés à cette conclusion, écrit DW.
« Je pense que nous voyons des épithètes vraiment choquantes attribuées aux locuteurs de dialectes », a déclaré l'un des principaux auteurs de l'étude, Minh Duc Bui, dans un commentaire à la publication.
Une analyse de l’Université Johannes Gutenberg a révélé que dix modèles testés, dont ChatGPT-5 mini et Llama 3.1, décrivaient les locuteurs de dialectes allemands (bavarois, Cologne) comme « sans instruction », « ouvriers agricoles » et « enclins à la colère ».
Le biais s’est accru lorsqu’il a été explicitement demandé à l’IA d’utiliser un dialecte.
Autres cas
Les scientifiques enregistrent des problèmes similaires à l’échelle mondiale. Une étude de 2024 de l'UC Berkeley a comparé les réponses ChatGPT à différents dialectes anglais (indien, irlandais, nigérian).
Il s’est avéré que le chatbot répondait avec plus de stéréotypes, de contenu désobligeant et un ton condescendant par rapport à l’anglais américain ou britannique standard.
Emma Harvey, étudiante diplômée en informatique à Cornell, a qualifié le biais dialectal de « significatif et troublant ».
À l'été 2025, elle et ses collègues ont également découvert que l'assistant commercial IA d'Amazon, Rufus, donnait des réponses vagues, voire incorrectes, aux personnes écrivant en anglais afro-américain. S'il y avait des erreurs dans les requêtes, le modèle répondait grossièrement.
Un autre exemple clair des biais des réseaux de neurones est la situation d'un candidat indien qui s'est tourné vers ChatGPT pour vérifier son CV en anglais. En conséquence, le chatbot a changé son nom de famille en un nom associé à une caste supérieure.
« L'adoption massive de modèles linguistiques menace non seulement la préservation de préjugés enracinés, mais aussi leur renforcement à grande échelle. Au lieu d'éliminer les dommages, la technologie risque de les rendre systémiques », a déclaré Harvey.
Cependant, la crise ne se limite pas aux préjugés : certains modèles ne reconnaissent tout simplement pas les dialectes. Par exemple, en juillet, l'assistante IA du conseil municipal de Derby (Angleterre) n'a pas pu reconnaître le dialecte d'une présentatrice de radio lorsqu'elle a utilisé des mots comme mardy (« pleurnicheur ») et canard (« chéri ») en direct à l'antenne.
Ce qu'il faut faire?
Le problème ne vient pas des modèles d’IA eux-mêmes, mais plutôt de la manière dont ils apprennent. Les chatbots lisent des volumes gigantesques de textes sur Internet, sur la base desquels ils fournissent ensuite des réponses.
« La principale question est de savoir qui écrit ce texte. S'il présente des préjugés contre les locuteurs dialectaux, l'IA les copiera », a expliqué Caroline Holtermann de l'Université de Hambourg.
Dans le même temps, elle a souligné que la technologie présente un avantage :
« Contrairement aux humains, dans un système d'IA, les préjugés peuvent être détectés et 'désactivés'. Nous pouvons lutter activement contre de telles manifestations. »
Certains scientifiques suggèrent de créer des modèles personnalisés pour des dialectes spécifiques comme avantage. En août 2024, Acree AI a déjà introduit le modèle Arcee-Meraj, qui fonctionne avec plusieurs dialectes arabes.
Selon Holtermann, l'émergence de nouvelles technologies plus adaptées LLM nous permet de considérer l’IA « non pas comme un ennemi des dialectes, mais comme un outil imparfait qui peut être amélioré ».
Rappelons que les journalistes de The Economist ont mis en garde contre les risques des jouets IA pour le psychisme des enfants.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !
Voir l’article original en russe
