En résumé
- Malgré les inquiétudes exprimées par les leaders de l’industrie dans une lettre ouverte, une enquête menée auprès de plus de 2 700 experts en IA a révélé que seulement 5 % d’entre eux considèrent qu’il existe une forte probabilité d’extinction de l’humanité à cause de l’IA.
- En revanche, 61 % des Américains considèrent l’IA comme une menace pour l’humanité, selon une enquête d’août 2023.
- L’IA progresse, avec des prévisions optimistes sur les étapes créatives d’ici 10 ans, mais la sécurité de l’IA et les risques associés, tels que la désinformation et la surveillance, restent une préoccupation.
Malgré le coup de semonce entendu dans le monde entier, une lettre ouverte signée par des centaines de dirigeants de l’industrie déclarant que l’intelligence artificielle est une menace existentielle pour l’humanité, une nouvelle enquête menée auprès de plus de 2 700 experts en IA dresse un tableau moins sombre des perspectives d’avenir.
L’enquête complète sur les impacts de l’IA menée avec l’aide de chercheurs des universités d’Oxford, de Berkeley et de Bonn a interrogé les chercheurs en IA sur le rythme des progrès dans le domaine et l’impact potentiel des systèmes d’IA avancés.
Bien qu’un large éventail de points de vue aient été recueillis, seuls 5 % environ estiment qu’il existe une forte probabilité d’extinction de l’humanité à cause de l’IA.
Cela contraste fortement avec les sentiments du grand public.
Une enquête d’août 2023 a révélé que 61 % des Américains considèrent l’IA comme une menace pour l’humanité. Cette préoccupation a été partagée par les dirigeants de l’industrie qui ont signé une lettre du Center for AI Safety, affirmant que « l’atténuation du risque d’extinction de l’IA devrait être une priorité mondiale ».
Paul Christiano, ancien responsable de l’alignement chez OpenAI, estime qu’il y a 50 % de chances que l’IA se termine par une « catastrophe ». Beaucoup ont déclaré que l’IA constituait une menace comparable à une guerre nucléaire ou à une pandémie mondiale.
Malgré ces prédictions pessimistes largement évoquées, l’IA continue d’évoluer. Les entreprises se précipitent pour développer des systèmes plus avancés, et le PDG d’OpenAI, Sam Altman, plaide en faveur de réglementations et s’efforce de tester les limites de la technologie.
En termes de capacités de l’IA, de nombreux répondants prédisent que l’IA franchira des étapes créatives majeures d’ici 10 ans, comme le codage d’un site Web de paiement complet à partir de zéro ou la création de chansons impossibles à distinguer des succès actuels. Cependant, les délais ont été prolongés pour des défis tels que la démonstration de théorèmes mathématiques.
Pendant ce temps, la possibilité que l’intelligence artificielle de haut niveau (HLMI) devienne une réalité s’est rapprochée d’ici 13 ans, avec une chance de succès de 50 % prévue pour 2047.
De même, la Full Automation of Labor (FAOL) a avancé ses prévisions de 48 ans, jusqu’en 2116. C’est 13 ans plus tôt que dans une enquête similaire menée en 2022.
Les personnes interrogées étaient divisées quant à savoir si des progrès plus rapides ou plus lents profiteraient davantage à l’humanité.
Il est intéressant de noter que même si les systèmes d’IA de 2043 devraient être capables de trouver des moyens inattendus d’atteindre leurs objectifs, les chercheurs ont moins confiance dans la capacité humaine à expliquer de telles actions. Cette ambiguïté dans le fonctionnement de la prise de décision en matière d’IA met en évidence la nécessité de donner la priorité à la recherche sur la sécurité de l’IA, un sentiment partagé par 70 % des personnes interrogées.
Les avis diffèrent quant à savoir si l’on peut faire confiance à l’IA en 2028 pour expliquer son propre raisonnement.
Les risques tels que la désinformation, les inégalités et la surveillance de masse basée sur l’IA suscitent également de vives inquiétudes.
Bien que les chercheurs soient globalement prudemment optimistes, environ 40 % pensent qu’il existe une chance minime (et non nulle) d’extinction de l’humanité en raison de l’IA avancée. Ainsi, même si les robots tueurs ne sont pas imminents, l’étude de l’éthique et de la sécurité de l’IA reste essentielle.
Edité par Ryan Ozawa.