La semaine dernière, des représentants d'Anthropic et d'OpenAI ont participé à une table ronde à New York avec des dirigeants de cinq traditions religieuses : le Conseil des rabbins de New York, la Société des temples hindous d'Amérique du Nord, l'Église de Jésus-Christ des Saints des Derniers Jours, la Coalition sikh d'Amérique et l'archidiocèse grec orthodoxe.
L’événement s’appelait « L’IA et la foi ». Il ne s'agit pas d'une initiative spontanée : il y a un mois, Anthropic avait déjà rencontré une quinzaine de responsables chrétiens ayant des objectifs similaires.
Ce qu’Anthropic recherche dans ces conversations, ce n’est pas une orientation liturgique. C’est quelque chose de plus ambitieux et de plus difficile : trouver des principes éthiques que votre modèle d’IA puisse appliquer dans des situations où il n’existe pas de règle écrite et où une mauvaise décision pourrait avoir de graves conséquences.
C'est ce qu'Anthropic appelle « la constitution de Claude », un ensemble de lignes directrices philosophiques conçues pour faire en sorte que le modèle agisse comme une personne ayant des valeurs parfaites lorsque les instructions explicites échouent.
Le problème, comme l’indique honnêtement l’article d’Associated Press, est que personne ne sait exactement quelles instructions spécifiques sont ressorties de ces réunions. Le rapport ne détaille pas ce que les chefs religieux ont dit à Anthropic. Et Gizmodo, qui a tenté d'obtenir une réponse de l'entreprise, n'a pas reçu de réponse.
L'éthique comme problème de conception
Rumman Chowdhury, PDG de l'ONG Humane Intelligence, propose dans l'article le diagnostic le plus direct de l'exercice : la Silicon Valley pensait que l'IA générative pouvait réaliser des principes éthiques universels. Il a découvert que ce n'était pas possible. Et maintenant, il essaie de résoudre le problème en se tournant vers la religion pour naviguer dans les zones grises morales.
C’est une critique qui mérite d’être prise au sérieux, notamment à l’intersection entre intelligence artificielle et finance.
La « Constitution Claude » n'est pas un document abstrait. Il s'agit de l'ensemble de valeurs avec lesquelles un modèle d'IA répond lorsqu'un utilisateur demande si une stratégie financière est correcte, si un protocole DeFi est digne de confiance ou si un instrument d'investissement est éthiquement acceptable. Ces questions n’ont pas de réponse neutre. Leurs réponses dépendent du cadre moral à partir duquel elles sont formulées.
Et c’est là que réside le nœud du problème : les traditions religieuses consultées par Anthropic ne convergent pas vers une réponse unique lorsqu’il s’agit d’argent.
Là où les traditions ne s'accordent pas
L'Islam interdit le riba, l'imposition d'intérêts sur les prêts, comme principe fondamental. La finance islamique existe précisément pour construire des instruments alternatifs aux modèles de crédit conventionnels.
Le judaïsme a une histoire complexe avec l’usure, avec des restrictions historiques qui variaient en fonction de la relation entre prêteur et débiteur. Le protestantisme calviniste, qui a façonné l’architecture morale du capitalisme financier occidental, a construit une légitimation de la performance sur le capital comme fruit du travail et de la discipline.
Il ne s’agit pas là de différences de nuances mineures. Il s’agit de différents systèmes de compréhension de la relation entre l’argent, le temps et la dette. Et tous ont été représentés, d’une manière ou d’une autre, dans les consultations menées par Anthropic.
Si Claude veut agir comme une personne aux valeurs parfaites dans les zones grises financières, la question à laquelle Anthropic n'a pas encore répondu publiquement est : parfait selon quelle tradition ?
La limite de la moyenne
Anthropic n'a pas l'intention d'incorporer une quelconque doctrine religieuse spécifique à Claude, ce qui est clairement mis en évidence dans la couverture. Selon le rapport lui-même, son objectif est de compiler ce que l’on pourrait appeler des vérités éthiques universelles : des principes qui transcendent les différences entre les traditions.
Mais cet objectif suppose que ces vérités supérieures existent et soient identifiables. La critique de Chowdhury pointe précisément vers cette hypothèse : croire qu’une éthique universelle peut être distillée à partir de systèmes moraux qui partent de différentes prémisses sur la nature humaine, la propriété et la justice n’est pas une recherche éthique, c’est un optimisme technique.
Pour les marchés financiers, pour l’écosystème crypto, pour tout utilisateur qui interagit avec des modèles d’IA dans des décisions où l’argent et la moralité se croisent, cette distinction est importante. Non pas parce qu’Anthropic agit de mauvaise foi, mais parce que le problème qu’il essaie de résoudre est véritablement difficile, et que les réponses qu’il a obtenues lors de ces tables rondes ne le résolvent probablement pas.
Ce que ces réunions révèlent, c’est que les grandes entreprises d’IA reconnaissent déjà que l’alignement éthique est un problème ouvert. C’est au moins un point de départ honnête.
-Nyrie
En rapport
Voir l’article original en espagnol
