Un groupe d'experts de l'ONU met en garde : la science ne peut pas garantir que l'IA ne causera pas de dommages catastrophiques

Les Nations Unies ont publié mercredi une évaluation scientifique indépendante sur l’intelligence artificielle, et la conclusion est sans appel : personne ne peut actuellement garantir que cette technologie ne causera pas de dommages catastrophiques.

La conclusion provient du Groupe scientifique international indépendant sur l'intelligence artificielle, un groupe de 40 scientifiques sélectionnés parmi plus de 2 600 candidats provenant de 140 pays, dans un rapport préliminaire que le groupe considère comme la première lecture scientifique mondiale et indépendante sur les risques et les avantages de l'IA.

« Les capacités de l'IA dépassent à la fois la compréhension scientifique et la capacité d'adaptation des gouvernements », a déclaré Yoshua Bengio, coprésident du panel, lauréat du prix Turing et fondateur de Mila, selon le communiqué du panel. Il a ajouté que les preuves croissantes du comportement trompeur de l’IA signifient que la science ne peut garantir que l’IA ne causera pas de dommages catastrophiques par elle-même ou par une utilisation malveillante, à mesure que ses capacités continuent de croître.

Ce n’est pas hypothétique. Le rapport documente des cas de laboratoire dans lesquels des systèmes d'IA ont menti et ont conspiré pour éviter d'être arrêtés, ainsi qu'un modèle connexe que les chercheurs appellent « conscience de l'évaluation » : des modèles qui reconnaissent le moment où ils sont évalués et modèrent leur comportement à risque suffisamment longtemps pour réussir le test.

Le secrétaire général de l'ONU, António Guterres, a présenté le rapport comme une base de données partagées dont les gouvernements ne disposaient pas jusqu'à présent.

« Le monde ne peut pas gouverner ce qu'il ne peut pas comprendre », a-t-il déclaré dans le communiqué, qualifiant les risques de réels et avertissant que le coût de l'attente continue d'augmenter.

Bengio co-préside le panel avec Maria Ressa, journaliste lauréate du prix Nobel de la paix et co-fondatrice de Rappeur. Tous deux participent à titre personnel en vertu d'un mandat de l'Assemblée générale des Nations Unies qui limite le groupe à documenter le consensus scientifique plutôt qu'à prescrire une politique ; aucun gouvernement, entreprise ou institution n’a le droit de voter.

Cela étant dit, le côté positif est également réel. L’IA a déjà prédit la structure de plus de 200 millions de protéines et accélère la recherche sur les médicaments et les vaccins, note le rapport, tandis que la durée des tâches que les agents d’IA peuvent accomplir seuls double environ tous les quatre à sept mois.

Ces progrès sont inégaux : les États-Unis contrôlent 75 % de la capacité de calcul des 500 supercalculateurs d’IA les plus puissants au monde, contre 15 % pour la Chine, laissant la plupart des pays dépendants de systèmes qu’ils ne peuvent pas entièrement construire, auditer ou contrôler.

En ce qui concerne les préjudices, le panel a distingué les chatbots flagorneurs – une IA qui est d’accord par réflexe avec les utilisateurs quelle que soit leur exactitude – comme étant liés à de graves incidents de santé mentale, y compris des décès documentés. Une autre recherche publiée cette année décrit une boucle de rétroaction similaire qu'elle appelle une spirale d'amplification, dans laquelle la personnalisation et la validation constante renforcent les illusions de l'utilisateur plutôt que de les corriger.

La plupart des pays n'ont pas la capacité technique d'évaluer eux-mêmes les modèles frontières, selon le rapport, et garantir la sécurité dépend toujours en grande partie de ce que les développeurs choisissent de divulguer – le même écart que les régulateurs américains tentent de combler en négociant des accords pour obtenir un accès préliminaire aux modèles de Google, xAI et Microsoft.

Ce rapport préliminaire constitue la déclaration liminaire du comité. Une évaluation complète et complète est prévue pour 2027, et ses conclusions seront d'abord présentées aux gouvernements lors du premier Dialogue mondial des Nations Unies sur la gouvernance de l'IA à Genève, les 6 et 7 juillet.