Dimanche dernier, nous nous sommes concentrés ici sur la légion de philosophes professionnels, pour la plupart recrutés dans le pool de l'Université d'Oxford, partis travailler pour les grandes entreprises d'IA (intelligence artificielle). Mais ce sont aussi les dirigeants de ces entreprises eux-mêmes qui réfléchissent à voix haute, ils nous font part de leurs envies et de leurs doutes face à cette technologie. C'est ce que fait Dario Amodei, PDG d'Anthropic, à travers les essais qu'il publie sur son blog. Cette fois, le penseur ne vient pas d’Oxford, mais des universités de Princeton et Stanford, qui ne sont pas mauvaises non plus.
Une IA sans limites
Dans un premier essai, d'octobre 2024, cela surprend d'abord puisque, étant dirigeant d'une des grandes entreprises qui vendent le produit d'IA, il nous parle de ses risques. Il commence même par dire, sur un ton surpris, que nous sous-estimons les risques de la technologie. Aujourd’hui, derrière cela se cache l’élévation de l’IA en tant que technologie très puissante, qu’une gestion responsable peut conduire à un résultat positif.
Bien qu’il nous prévienne de la nécessité de séparer l’information de la propagande, sa position et sa présentation semblent avoir beaucoup de similitudes : la propagande. Il est vrai qu’il ne s’agit pas d’une propagande qui montre seulement les énormes avantages du produit, mais, étant un peu plus sophistiquée, elle se situe à ce que l’on pourrait considérer comme un méta-niveau : une propagande qui parle de la propagande que d’autres font du produit, en ajoutant d’autres caractéristiques, comme les risques, pour qu’elle puisse être classée comme propagande réflexive. De propagande prophétique et prometteuse, avec une rhétorique de science-fiction abondante et des feux d'artifice (sic), on passe ainsi à une propagande réflexive, à la rhétorique paternaliste.
Même s’il reconnaît que l’avenir est imprévisible, il suppose que la probabilité que certains risques dangereux se produisent peut être affrontée et évitée. Pour ce faire, il se concentre sur un nombre limité de domaines dans lesquels l’IA a de grandes implications : biologie et santé physique, neurosciences et santé mentale, développement économique et pauvreté, paix et gouvernance, travail et sens.
Une technologie qui a dépassé toutes les limites
Ce qui ressort de son argumentation, c’est la mise en valeur du pouvoir de la technologie. Une technologie qui a dépassé toutes les limites et qui n’en a pratiquement pas. Surtout dans sa rapidité de réponse. Tout au plus, les limites découlaient d'un monde physique ou d'interactions logicielles – pour l'instant – inévitables. Le problème, comme il le souligne, c’est lorsque la vie commence à être considérée comme un problème pour le développement de l’IA. C'est une question de rapidité, de temps dans les réponses ; mais c’est surtout une question d’ordre : donner la priorité à la vie ou à l’IA. Cela ressemble un peu à : « la bourse, la vie ou l’IA ».
Dans certaines facettes de notre vie, comme les découvertes scientifiques liées à la santé, l’accélération analytique que nous offre l’IA est la bienvenue. Quand on passe de là à prendre l’IA comme base de décisions qui conduisent à des expériences sociales, c’est autre chose. Ne soyons pas fous, même si Amodei annonce que la plupart des maladies mentales seront guéries par l'IA dans un délai relativement court. En tout cas, dans ce premier essai, il nous dessine un monde qui sera, dans cinq ou dix ans, meilleur que celui d’aujourd’hui. C’est abhorrer les prophètes, agir comme un prophète. Mais les prophètes « sont les autres ». Nous en resterons ici à la prophétie réflexive ou, si l’on veut, à la prédiction, où les risques semblent se dissoudre.
Le deuxième des essais est plus récent, datant de janvier de cette année 2026. Partant d'une citation de Carl Sagan, son argument central est que nous sommes dans l'adolescence d'une technologie, l'IA, dans laquelle elle nous est encore quelque chose d'étranger, comme un extraterrestre. Un extraterrestre avec qui nous sommes en contact et nous demandons des choses qui nous aident à nous guider : comment avez-vous fait pour atteindre un tel niveau de développement et maintenir votre civilisation en vie ? Revenons à la question des risques. Peut-être avec la conscience de sa place secondaire dans l’essai précédent, malgré ses avertissements préliminaires.
Les risques d’Amodei
Et cela renvoie aussi à la question des limites ; mais cette fois dans un sens différent. En fait, cela nous dit que la chose la plus constructive que nous puissions faire est de plaider en faveur de règles qui limitent notre utilisation du potentiel de l’IA. C’est-à-dire des limites humaines – sociales et politiques – pour l’illimité.
De quoi devons-nous nous soucier pour penser à des règles limitatives ? Amodei parle de cinq grands risques. Premièrement, le risque que l’IA fasse quelque chose que nous ne voulons pas. Il prévient qu’il existe déjà des comportements d’IA difficiles à prévoir ou à contrôler. Voici les règles, nous présentant le IA constitutionnelletels que : comprendre ce qui se passe à l'intérieur des modèles, détecter les comportements dangereux, former les modèles à être honnêtes et sûrs et vérifier qu'ils maintiennent ces comportements même lorsqu'ils sont très capables.
Le deuxième risque est qu’un être humain ou un groupe d’êtres humains puisse utiliser l’IA pour causer du tort (terrorisme, cyberattaque, formes de destruction massive). La règle est simple : empêcher certaines capacités dangereuses de l’IA de tomber entre les mains de méchants. Le troisième risque est étroitement lié au précédent, puisqu’il s’agit de que l’IA soit au service d’un dictateur ou d’une organisation qui concentre beaucoup de pouvoir. Autrement dit, les entités dotées de pouvoir concentreraient davantage de pouvoir. La démocratie apparaît comme une règle et une solution.
Chômage de masse
Le quatrième est le risque que l’IA conduise à un chômage de masse. Ici, la solution réside dans la répartition faite des richesses créées par l’IA. Le cinquième risque est le plus intéressant philosophiquement : des millions d’IA fonctionnant, avec une puissance extraordinaire, peuvent conduire à un changement à une telle vitesse qu’il nous serait pratiquement impossible d’en anticiper les conséquences.
Sa proposition n'est pas nouvelle : prudence, responsabilité et régulation. Proposition pour passer de l’adolescence de l’IA à sa maturité. Ne semble-t-il pas que ce que vous proposez soit en réalité un modèle de gestion défendu par votre entreprise ? Ce n'est pas de la propagande. C'est une propagande réfléchie.