En résumé
- Les dirigeants mondiaux appellent à réglementer l’intelligence artificielle générative pour prévenir les risques existentiels.
- L’ONU publie un rapport sur l’intégrité des informations sur les plateformes numériques et met en garde contre les deepfakes dans les conflits.
- La première législation sur l’IA est adoptée au Parlement européen, alors que le PDG d’OpenAI défend les normes gouvernementales.
Les dangers de l’intelligence artificielle générative (IA) sont redevenus un sujet de discussion parmi les dirigeants mondiaux de haut niveau, alors que le Secrétaire général des Nations Unies (ONU) se joint à un chœur croissant de voix appelant à la réglementation de la technologie.
« Les sonnettes d’alarme concernant la dernière forme d’intelligence artificielle, l’IA générative, sont assourdissantes et plus fortes que les développeurs qui l’ont conçue », a déclaré António Guterres lors d’une conférence de presse lundi. « Les scientifiques et les experts ont appelé le monde à agir, déclarant que l’IA est une menace existentielle pour l’humanité à égalité avec le risque de guerre nucléaire. »
« Nous devons prendre ces avertissements au sérieux », a déclaré le secrétaire général de l’ONU.
Les commentaires de Guterres sont intervenus le jour même où l’ONU a publié un rapport, « Intégrité de l’information sur les plateformes numériques », qui soulignait la nécessité d’une utilisation responsable de l’IA et mettait en garde contre l’utilisation de deepfakes dans les zones de conflit.
Le Parlement européen a approuvé ce 14 juin ce qu’il décrit comme « la première législation sur l’IA au monde ».
Faire l’histoire en façonnant notre avenir.
C’est ce que le vote révolutionnaire d’aujourd’hui sur le tout premier #IA la législation est tout au sujet.
Il s’agit pour l’Europe de prendre la tête de l’innovation numérique. pic.twitter.com/jICNwcX9hy
— Roberta Metsola (@EP_President) 14 juin 2023
Alors que l’intelligence artificielle (IA) est une préoccupation essentielle pour Guterres, le secrétaire général a déclaré que l’avènement de l’IA ne devrait pas détourner l’attention des dommages que la technologie numérique cause déjà dans le monde, compte tenu de la montée des discours de haine et de la désinformation en ligne.
« La prolifération de la haine et des mensonges dans l’espace numérique cause désormais de graves dommages à l’échelle mondiale », a-t-il déclaré. « Il alimente les conflits, la mort et la destruction maintenant. Il menace la démocratie et les droits de l’homme maintenant. Il sape la santé publique et l’action climatique, maintenant. »
Guterres a déclaré qu’il créerait et nommerait des membres à un conseil consultatif sur l’IA qui gère les initiatives liées à l’IA. Le conseil comprendrait des experts en intelligence artificielle et des scientifiques des Nations Unies de l’Union internationale des télécommunications (UIT) et de l’Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO).
Le secrétaire général a également déclaré qu’il serait favorable à une agence d’intelligence artificielle sur le modèle de l’Agence internationale de l’énergie atomique.
Fondée en 1957, l’Agence internationale de l’énergie atomique (AIEA) est une agence des Nations Unies chargée de superviser les activités nucléaires mondiales.
« L’avantage de l’AIEA est qu’il s’agit d’une institution très solide basée sur la connaissance, et en même temps, bien que limitée, elle a certaines fonctions de régulation », a déclaré António Guterres. « Je pense donc que c’est un modèle qui pourrait être très intéressant. »
Le PDG d’OpenAI, Sam Altman, lors de son témoignage devant la commission judiciaire du Sénat américain, a appelé à la création d’un bureau gouvernemental chargé d’établir des normes pour le développement de l’IA.
« Je formerais une nouvelle agence qui autorise tout effort au-delà d’une certaine échelle de capacités, et qui peut révoquer cette licence et assurer le respect des règles de sécurité », a déclaré Altman, ajoutant que l’agence en question devrait exiger des audits indépendants de toute technologie d’IA.
En outre, le Secrétaire général a reconnu le manque d’investissement de l’ONU dans l’administration publique, ce qui signifie que toute action nécessiterait l’initiative des États membres et la bonne volonté des parties concernées.
« Aujourd’hui, nous sentons à quel point il est difficile pour les États et les organisations internationales de rivaliser scientifiquement et techniquement avec des plateformes qui, entre-temps, ont acquis un énorme potentiel et d’énormes connaissances », a déclaré António Guterres.
Suite à la sortie en mars du GPT-4 d’OpenAI, le Future of Life Institute a lancé une pétition en ligne pour interrompre pendant six mois la formation aux systèmes d’IA. Des géants de l’industrie technologique, dont le PDG de Tesla, Elon Musk, et le cofondateur d’Apple, Steve Wozniak, ont signé la lettre.