Résumé :
- Les scientifiques de l'IA mettent en garde contre les conséquences potentiellement catastrophiques si les humains perdent le contrôle de l'IA
- Un système de surveillance mondial et des plans d’urgence sont nécessaires pour prévenir les risques liés à l’IA
- Trois processus clés proposés : préparation aux situations d’urgence, assurance de la sécurité et recherche indépendante
- Plus de 30 experts de différents pays ont signé la déclaration
- Des inquiétudes soulevées par le manque d’échanges scientifiques entre les superpuissances sur les menaces liées à l’IA
Des experts en intelligence artificielle (IA) du monde entier ont émis un avertissement sur les risques potentiels associés aux systèmes d’IA avancés.
Dans une déclaration publiée le 16 septembre 2024, plus de 30 scientifiques de divers pays, dont les États-Unis, le Canada, la Chine et le Royaume-Uni, ont appelé à la création d’un système de surveillance mondial pour prévenir d’éventuelles « conséquences catastrophiques » si les humains perdaient le contrôle de l’IA.
La déclaration, qui s’appuie sur les conclusions du Dialogue international sur la sécurité de l’IA à Venise, souligne la nécessité d’une coopération et d’une gouvernance internationales dans le développement de l’IA.
Les scientifiques soutiennent que la sécurité de l’IA doit être reconnue comme un bien public mondial, nécessitant des efforts collectifs pour faire face aux risques potentiels.
L’une des principales préoccupations évoquées dans la déclaration est la possibilité de perdre le contrôle humain sur les systèmes d’IA avancés ou de les utiliser à des fins malveillantes. Les experts avertissent que de tels scénarios pourraient avoir des conséquences désastreuses pour l’humanité.
Ils soulignent que les connaissances scientifiques nécessaires pour contrôler et protéger l’IA hautement avancée n’ont pas encore été développées, soulignant l’urgence de s’attaquer à ces problèmes.
Pour relever ces défis, les scientifiques proposent trois processus clés.
- Premièrement, ils appellent à la mise en place d’accords et d’institutions de préparation aux situations d’urgence. Il s’agirait de mettre en place des autorités dans chaque pays pour détecter et réagir aux incidents liés à l’IA et aux risques catastrophiques. Ces autorités nationales travailleraient ensuite ensemble pour créer un plan d’urgence mondial en cas d’incidents graves liés à l’IA.
- Le deuxième processus proposé est la mise en œuvre d’un cadre d’assurance de la sécurité. Cela obligerait les développeurs d’IA à fournir un dossier de sécurité très fiable avant de déployer des modèles dont les capacités dépassent les seuils spécifiés. Le cadre inclurait également une surveillance post-déploiement et des audits indépendants pour garantir une sécurité continue.
- Enfin, les experts plaident en faveur d’une recherche indépendante sur la sécurité et la vérification de l’IA à l’échelle mondiale. Cette recherche se concentrerait sur le développement de techniques permettant de vérifier rigoureusement les déclarations de sécurité formulées par les développeurs d’IA et potentiellement par d’autres pays. Pour garantir l’indépendance, la recherche serait menée à l’échelle mondiale et financée par un large éventail de gouvernements et de philanthropes.
Cette déclaration intervient à un moment où les échanges scientifiques entre les superpuissances se réduisent et où la méfiance entre les États-Unis et la Chine s’accroît. Les scientifiques estiment que ce manque de coopération rend plus difficile l’obtention d’un consensus sur les menaces liées à l’IA, ce qui souligne encore davantage la nécessité d’un dialogue et d’une collaboration à l’échelle mondiale.
Début septembre 2024, les États-Unis, l’Union européenne et le Royaume-Uni ont signé le premier traité international juridiquement contraignant sur l’IA. Cet accord accorde la priorité aux droits de l’homme et à la responsabilité dans la réglementation de l’IA. Cependant, certaines entreprises et dirigeants du secteur technologique ont exprimé leur inquiétude quant au fait qu’une réglementation excessive pourrait freiner l’innovation, en particulier dans l’Union européenne.
Le groupe d’experts en IA qui a signé la déclaration comprend des chercheurs d’institutions et d’universités de premier plan en matière d’IA, ainsi que plusieurs lauréats du prix Turing, considéré comme l’équivalent du prix Nobel en informatique.
Leur expertise collective donne un poids considérable aux préoccupations soulevées et aux recommandations formulées dans la déclaration.
Voir l’article original en anglais
