GLAAD affirme que l’IA fait défaut aux utilisateurs LGBTQ et prévient que le risque augmente

L'intelligence artificielle amplifie les préjugés anti-LGBTQ, la désinformation et la discrimination d'une manière qui peut affecter tout, des soins de santé et de l'emploi au logement et à la vie privée, selon un nouveau rapport de l'organisation de défense GLAAD.

Le rapport publié mercredi, intitulé « Construire pour tout le monde : un cadre pour la représentation et la sécurité des LGBTQ dans l'IA », affirme que la sécurité des LGBTQ devrait être traitée comme une exigence fondamentale du développement responsable de l'IA.

GLAAD prévient que l'IA formée sur des données biaisées ou incomplètes peut renforcer les stéréotypes, supprimer les voix LGBTQ, exposer les utilisateurs à des risques pour la vie privée et produire des résultats discriminatoires à mesure que la technologie s'intègre de plus en plus dans la vie quotidienne.

« L'IA est une question de droits civiques », a écrit Sarah Kate Ellis, présidente et directrice générale de GLAAD, dans le rapport. « La neutralité n'est plus une option. Pour construire une IA éthique, inclusive et responsable, les leaders technologiques doivent adopter de manière proactive des pratiques intentionnelles pour créer des produits sûrs. »

Les domaines de préoccupation incluent les données de formation biaisées, la désinformation anti-LGBTQ, les résultats discriminatoires des systèmes d'IA prédictifs, les échecs de modération de contenu et les risques pour la vie privée, arguant que les systèmes d'IA formés sur des informations incomplètes ou inexactes sur les personnes LGBTQ peuvent renforcer les stéréotypes.

Ellis a fait valoir que l’IA responsable est la meilleure pour les entreprises et constitue une exigence pour les entreprises d’IA à l’épreuve du temps. « Plus de 20 % de la génération Z est LGBTQ », a-t-il écrit. « Ce sont vos futurs salariés et consommateurs. »

Selon une étude réalisée en 2023 par la société d'investissement et de conseil LGBT Capital, le pouvoir d'achat mondial des personnes LGBTQ est de 4 700 milliards de dollars, et ce chiffre devrait atteindre 33 000 milliards de dollars d'ici 2030.

« Pour mettre les choses en perspective, si nous étions un pays, nous serions la quatrième économie mondiale », a écrit Ellis.

Le rapport intervient au milieu d’un débat en cours sur les préjugés dans l’IA. En mai, des chercheurs ont découvert que les principaux modèles d'IA favorisaient systématiquement le catholicisme tout en répondant moins favorablement aux Témoins de Jéhovah, à l'athéisme et à l'agnosticisme.

Plus tôt ce mois-ci, Devin Kim, ancien ingénieur de xAI, a poursuivi xAI et SpaceX, affirmant qu'il avait été licencié après avoir averti que Grok ne disposait pas de garanties adéquates contre la désinformation et les préjugés. Pendant ce temps, la société xAI d'Elon Musk mène une bataille juridique contre le Colorado au sujet d'une loi de l'État qui oblige les entreprises à évaluer et à réduire les risques de discrimination dans les systèmes d'IA utilisés pour les décisions en matière de logement, d'emploi et de prêt.

GLAAD affirme que les conséquences s’étendent au-delà des conversations avec les chatbots et les générateurs d’images.

« Bien que cela ne soit pas spécifique aux personnes LGBTQ, nous devrions également mentionner d'autres défis émergents à mesure que le développement et l'adoption de l'IA progressent », note l'étude. « Il peut s'agir d'hallucinations du modèle ou d'un comportement de flagornerie qui génère de la désinformation, même sur des sujets pertinents tels que la santé ou les élections. »

Selon l’étude, ces préoccupations deviennent plus importantes à mesure que les entreprises proposent des agents d’IA capables d’effectuer des tâches avec une supervision humaine limitée. GLAAD a averti que les agents autonomes pourraient hériter des préjugés existants et automatiser les résultats discriminatoires, tels que l'exclusion des prestataires de soins de santé affirmant la communauté LGBTQ des résultats de recherche ou la formulation d'hypothèses incorrectes sur l'identité des utilisateurs.

Pour éviter que ces risques ne s'enracinent davantage dans les systèmes d'IA, GLAAD a appelé les développeurs à améliorer la représentation LGBTQ dans les données de formation, à renforcer la protection de la vie privée, à maintenir une surveillance humaine des systèmes de modération et à travailler plus étroitement avec les organisations de défense. Le rapport appelle également à une plus grande responsabilité de l’industrie et à une plus grande surveillance réglementaire.

« Le fait de ne pas prendre en compte les expériences et les problèmes LGBTQ dans les données de formation, la conception des produits et la gouvernance peut non seulement nuire aux communautés marginalisées, mais également donner lieu à des produits inexacts et de moindre qualité qui peuvent saper la confiance des utilisateurs dans un contexte démographique croissant », note l'étude.