Les PDG d'OpenAI et de Microsoft rejoignent le US DHS AI Safety Board

Le Département américain de la Sécurité intérieure (DHS) a recruté un large groupe de leaders de l'industrie de l'IA pour créer le Conseil de sûreté et de sécurité de l'intelligence artificielle, a annoncé l'agence vendredi.

Le DHS affirme que la nouvelle agence jouera un rôle crucial en tirant parti de l'intelligence artificielle pour protéger les infrastructures vitales des États-Unis et atténuer les menaces liées à l'IA.

« L'intelligence artificielle est une technologie transformatrice qui peut faire progresser nos intérêts nationaux de manière sans précédent », a déclaré le secrétaire à la Sécurité intérieure, Alejandro Mayorkas, dans un communiqué préparé. « En même temps, cela présente des risques réels que nous pouvons atténuer en adoptant les meilleures pratiques et en prenant d’autres actions concrètes et étudiées. »

Le conseil d'administration sera dirigé par Mayorkas et comprendra plusieurs dirigeants de haut niveau dans le domaine de l'intelligence artificielle, tels que le PDG d'OpenAI Sam Altman, le président-directeur général de Microsoft Satya Nadella, le PDG d'Alphabet Sundar Pichai, le co-fondateur et PDG d'Anthropic Dario Amodei. , et le président-directeur général de NVIDIA, Jensen Huang.

« Je suis reconnaissant que des dirigeants aussi exceptionnels consacrent leur temps et leur expertise au conseil d'administration pour aider à garantir les infrastructures critiques de notre pays, les services vitaux sur lesquels les Américains comptent chaque jour, à se protéger efficacement contre les risques et à réaliser l'énorme potentiel. » de cette technologie transformatrice », a déclaré Mayorkas.

« La technologie de l'IA est capable d'apporter d'immenses avantages à la société si elle est déployée de manière responsable, c'est pourquoi nous préconisons des efforts pour tester la sécurité des systèmes d'IA de pointe afin d'atténuer les risques potentiels », a déclaré Amodei d'Anthropic dans un communiqué. simultané. « Nous sommes fiers de contribuer à l’étude des implications de l’IA dans la protection des infrastructures critiques avec d’autres leaders des secteurs public et privé.

« Le déploiement sûr de l'IA est essentiel pour sécuriser l'infrastructure qui alimente la société américaine, et nous pensons que la formation de ce conseil d'administration est une étape positive dans le renforcement de la sécurité nationale des États-Unis », a-t-il déclaré.

« L'intelligence artificielle est la technologie la plus transformatrice de notre époque, et nous devons garantir qu'elle est déployée de manière sûre et responsable », a ajouté Nadella de Microsoft. « Microsoft est honoré de participer à cet effort important et a hâte de partager nos apprentissages à ce jour et nos projets futurs. »

Parmi les autres membres du Conseil de sûreté et de sécurité de l'IA figurent Adam Selipsky, PDG d'Amazon Web Services, Arvind Krishna, président-directeur général d'IBM, et Fei Fei, codirecteur du Stanford Human-Centered AI Institute. -Fei Li et Maya Wiley, présidente et directrice générale de la Leadership Conference on Civil and Human Rights.

« Je suis honoré de rejoindre ce groupe de dirigeants interdisciplinaires pour guider cette technologie qui change le monde d'une manière responsable et centrée sur l'humain », a déclaré Li. « En fin de compte, l’IA est un outil puissant, et elle doit être développée et appliquée en comprenant comment elle aura un impact sur l’individu, la communauté et la société dans son ensemble. »

Le conseil tiendra sa première réunion trimestrielle début mai, selon le DHS, et sera immédiatement chargé de fournir des recommandations au secrétaire pour garantir l'adoption en toute sécurité de la technologie de l'IA dans les services essentiels. L’objectif est de créer un forum pour le DHS, « la communauté des infrastructures critiques », et les leaders de l’IA pour échanger des informations sur les risques de sécurité liés à l’IA.

L’intrusion rapide de l’intelligence artificielle dans le courant dominant en 2023 a poussé les dirigeants mondiaux à se démener pour élaborer des réglementations adaptées à cette nouvelle technologie. En janvier, le Forum économique mondial (WEF) a mis l’intelligence artificielle et l’informatique quantique parmi la liste des risques mondiaux les plus urgents.

À la suite de la publication d’un décret en octobre 2023, l’administration Biden a annoncé le lancement du US AI Safety Institute Consortium (AISIC), qui regroupe de nombreux noms rejoignant l’initiative du DHS.

Outre les problèmes de sécurité nationale, les développeurs d'IA tels que Google, Meta et OpenAI ont rejoint mardi des organisations à but non lucratif telles que Thorn et All Tech is Human, s'engageant à mettre en œuvre des garanties autour de leurs modèles d'IA respectifs. pour empêcher qu’ils soient utilisés pour créer du matériel pédopornographique (CSAM). CSAM a également fait l’objet d’une nouvelle lettre envoyée par la sénatrice Elizabeth Warren au DHS et au ministère de la Justice.

Edité par Ryan Ozawa.