Le pape Léon publie la première encyclique sur l'IA et prévient que « la technologie n'est jamais neutre »

Pape Lion

Le document, Magnifica Humanitas (« L'humanité magnifique »), a été présenté le 25 mai dans la salle du Synode du Vatican. Le pape Léon l'a signé 10 jours plus tôt, le 15 mai, à l'occasion du 135e anniversaire de Rerum Novarum, l'encyclique du pape Léon XIII de 1891 sur les droits du travail qui est devenue le fondement de l'enseignement social catholique moderne.

Le pape Léon a toujours présenté l’IA comme le défi moral déterminant de son pontificat et a comparé les bouleversements sociaux à venir à ceux de la révolution industrielle.

L'encyclique couvre une multitude de sujets : l'IA en temps de guerre, la déshumanisation, la technocratie, le colonialisme des données, la sécurité des enfants en ligne, le chômage de masse, la désinformation, les armes autonomes et même le transhumanisme. Pourtant, l’argument qui les unit est simple : chaque algorithme reflète les priorités de ceux qui l’ont conçu, financé et déployé. Construire des systèmes qui prétendent le contraire n’élimine pas ce biais, il le cache simplement.

Les données appartiennent à tout le monde. Y compris le vôtre.

L’enseignement social catholique soutient depuis longtemps que les ressources naturelles de la Terre sont destinées à l’humanité toute entière et non à leurs propriétaires privés. León étend ce principe directement à l’économie numérique. Selon l’encyclique, les algorithmes, les plateformes et les données devraient être gouvernés comme des biens communs, et non enfermés derrière des murs commerciaux entre les mains de quelques entreprises.

« Les données sont le produit de nombreux collaborateurs et ne doivent pas être traitées comme quelque chose pouvant être vendu ou confié à quelques privilégiés », écrit le pape.

Le texte applique également la subsidiarité – le principe selon lequel les décisions doivent être prises au niveau le plus local possible – spécifiquement aux plateformes technologiques. L’encyclique appelle non seulement à une réglementation descendante, mais plaide également pour des algorithmes transparents, des audits communautaires indépendants et un véritable pouvoir juridique afin que les gens puissent contester les systèmes automatisés qui affectent leurs cotes de crédit, leurs demandes d’emploi ou leurs évaluations des risques devant les tribunaux. Sans une telle surveillance distribuée, affirme León, la gouvernance de l’IA devient une forme d’autoritarisme numérique qui réduit au silence les populations qu’elle prétend servir.

L’encyclique vise également le transhumanisme – l’idée selon laquelle les limitations et la vulnérabilité humaines sont des défauts qui doivent être éliminés. La réponse de León est que la finitude n'est pas une erreur. C’est ce qui rend possible l’empathie, le jugement moral et une véritable attention envers les autres. Les systèmes conçus pour optimiser cette finitude ne produisent pas un meilleur être humain, mais plutôt quelque chose qui filtre et exclut plus efficacement les plus vulnérables.

Le pape se garde bien d’anthropomorphiser la technologie. Les systèmes d’IA, note l’encyclique, « ne possèdent pas de corps, ils ne ressentent ni joie ni douleur ». Le texte souligne qu’il leur manque l’expérience vécue qui génère une véritable compréhension. Ils peuvent simuler l’empathie et produire un langage convaincant, mais ils ne comprennent pas ce qu’ils génèrent.

Cette distinction a des implications pratiques. Lorsqu’un algorithme prend des décisions d’embauche, fixe les conditions de crédit ou attribue un score de risque dans une salle d’audience, son apparente objectivité masque les choix faits par ses concepteurs. L'encyclique met spécifiquement en garde contre la délégation de décisions sensibles à des systèmes automatisés qui « ne connaissent ni compassion, ni miséricorde, ni pardon », et contre le fait de considérer le résultat comme neutre simplement parce qu'il a été produit par une machine.

L'anthropique était présent

La personne qui a partagé la scène avec León lundi a attiré autant d'attention que le document lui-même. Christopher Olah – co-fondateur d'Anthropic et directeur de son équipe de recherche en interprétabilité – a participé à la présentation de la salle du Synode aux côtés de deux cardinaux du Vatican et de quelques théologiens.

Comme Décrypter rapporté lorsque Léon a été élu, le pape a présenté l'IA comme la question morale centrale de son pontificat dès son premier discours aux cardinaux. L'encyclique de lundi est la version doctrinale formelle de cet engagement.

Olah a profité de l'occasion pour dire ouvertement ce que la plupart des dirigeants d'IA évitent : que tous les grands laboratoires « fonctionnent dans le cadre d'un ensemble d'incitations et de contraintes qui peuvent parfois entrer en conflit avec la bonne chose à faire », et que l'examen externe – de la part des gouvernements, des institutions religieuses et de la société civile – n'est pas facultatif. Il a également souligné que la suppression d'emplois due à l'IA constituait un risque à court terme qui, s'il était réalisé à grande échelle, créerait « un impératif moral aux proportions historiques ».

León avait déjà écrit la version la plus énergique de cet argument. « Une IA plus morale ne suffit pas », affirme l’encyclique, si la moralité qui la sous-tend est définie exclusivement par ceux qui contrôlent les données et la puissance de calcul. León a soulevé la même question directement avec les dirigeants de la Silicon Valley au Vatican en novembre 2025. Le Vatican a également approuvé le 16 mai la création d'une nouvelle commission interne sur l'IA, composée de sept départements, pour coordonner le travail de gouvernance de l'IA au sein du Saint-Siège à l'avenir.

Trezor Model T – Portefeuille Matériel de Crypto-Monnaie de Nouvelle Génération avec Écran Tactile Couleur LCD et USB-C, Stockez Votre Bitcoin, Ehereum, ERC20 et Plus en Toute Sécurité