Le pape met en garde contre les menaces majeures liées à l’IA

Le pape Léon XIV publie sa première encyclique. Le document, intitulé Magnifica Humanitas, se concentre sur « la protection de la personne humaine à l’ère de l’intelligence artificielle ».

Bien que l’IA soit utilisée comme raison principale, Lev se concentre sur des problèmes beaucoup plus anciens et plus vastes : les inégalités, la guerre, l’érosion de la démocratie et la concentration du pouvoir entre les mains de ceux qui n’ont pas pour objectif de rendre l’humanité « grande ».

Le document de 200 pages a été dévoilé lors d'un événement au Vatican en présence du co-fondateur d'Anthropic, Chris Olah. Il soutient que la technologie créée et contrôlée par une élite restreinte ne peut pas, par définition, servir le bien commun.

« Lorsque ce pouvoir est concentré entre les mains de quelques-uns, il a tendance à devenir opaque et à échapper au contrôle du public. Il existe un risque accru de formes de développement déformées qui donnent naissance à de nouvelles dépendances, exclusions, manipulations et inégalités », indique l'encyclique.

Principaux risques de l’IA

Le pape Léon XIV affirme que, comme pour tout changement technologique majeur, l’IA tend à renforcer le pouvoir de ceux qui disposent déjà de ressources économiques, d’expertise et d’un accès aux données. Les élites peuvent user de leur influence pour « façonner les modèles d’information et de consommation, influencer les processus démocratiques et orienter la dynamique économique à leur propre avantage ».

Par ailleurs, Léon XIV a mis en garde contre l’identification de l’IA avec l’intelligence humaine. Selon lui, de tels systèmes sont capables d'imiter le langage, le comportement et les compétences analytiques, mais n'ont pas d'expérience, de corporéité, de conscience et de responsabilité des conséquences.

Le pape a identifié trois risques liés à l’utilisation personnelle de l’IA : la facilité d’obtenir des réponses, l’illusion d’objectivité et l’imitation de la communication humaine. Il prévient que les conversations basées sur l’IA peuvent créer une apparence d’affection, d’amitié ou d’amour, en particulier là où les humains manquent de véritables connexions.

Léon XIV a notamment appelé les États à ne pas déléguer entièrement aux algorithmes les décisions qui affectent l'emploi, le crédit, l'accès aux services publics et la réputation d'une personne. De tels systèmes semblent « neutres » mais peuvent en réalité perpétuer les préjugés des développeurs et exclure les groupes vulnérables sans un mécanisme d’appel clair, a-t-il déclaré.

Parmi les risques, Papa cite également le fardeau environnemental de l'IA : les grands modèles nécessitent des quantités importantes d'énergie, d'eau, de puissance de calcul, de centres de données et d'autres infrastructures.

Une section distincte est consacrée à l’utilisation militaire de l’intelligence artificielle. Léon XIV a déclaré que le jugement moral ne peut être réduit à un calcul et que les décisions mortelles ou irréversibles ne peuvent être déléguées à des systèmes automatisés opaques. Selon lui, l’IA peut rendre les conflits plus rapides, plus impersonnels et abaisser le seuil de recours à la violence.

Développement efficace

Le pape appelle à une orientation vers le développement LLM grâce à « des critères clairs et une réglementation efficace ». Les communautés qui seront touchées par la technologie doivent être impliquées.

Le pontife a également évoqué la nécessité de mettre fin à la course aux armements en matière d'IA – le désir de créer des algorithmes de plus en plus puissants et de vastes ensembles de données qui garantiront la domination politique et commerciale.

« Désarmer, c’est détruire la croyance selon laquelle la puissance technologique donne automatiquement le droit de gouverner », a-t-il déclaré.

Rappelons qu'en février, lors d'une réunion avec le clergé du diocèse romain, le pape Léon XIV avait appelé à « résister à la tentation de prêcher avec l'aide de l'intelligence artificielle ».