Le co-fondateur d’Ethereum, Vitalik Buterin, a exprimé ses inquiétudes quant au fait que le développement incontrôlé de l’IA pourrait dépasser les capacités humaines, la transformant potentiellement en la prochaine « espèce suprême » de la planète.
Buterin s’est penché sur les différences fondamentales entre l’IA et les autres inventions humaines, soulignant la nature unique et potentiellement dangereuse des capacités en évolution rapide de l’IA.
Buterin met en garde contre le fait que l’IA dépasse l’humanité
Dans un article de blog du 27 novembre, Buterin affirme que l’IA, en tant que nouvelle forme d’intelligence, diffère fondamentalement des inventions humaines précédentes telles que les médias sociaux ou l’imprimerie. Sa capacité à augmenter rapidement son intelligence présente un potentiel important pour surpasser les compétences cognitives humaines.
Ajoutant à l’urgence de son message, le co-fondateur d’Ethereum souligne que cette progression pourrait conduire à des scénarios dans lesquels l’IA superintelligente considère l’humanité comme une menace pour sa survie, mettant potentiellement fin à l’existence humaine.
Pour soutenir sa position, Buterin a fait référence à une enquête d’août 2022 impliquant plus de 4 270 chercheurs en apprentissage automatique. Cette enquête estime qu’il y a 5 à 10 % de chances que l’IA conduise à l’extinction de l’humanité.
Buterin se demande également si un monde doté d’IA hautement intelligentes nous satisferait, soulignant l’instabilité potentielle des résultats dans lesquels nous devenons des « animaux de compagnie ».
Risque IA 2 : un monde doté d’IA superintelligentes serait-il un monde dans lequel nous serions satisfaits de vivre ? Sur l’instabilité des résultats autres que le fait que nous soyons des animaux de compagnie et l’échec de la science-fiction à présenter des alternatives réalistes. pic.twitter.com/o9z8s6QAej
– vitalik.eth (@VitalikButerin) 27 novembre 2023
En outre, il souligne le danger que les IA permettent le totalitarisme en exploitant la technologie de surveillance, que les gouvernements autoritaires ont déjà exploitée pour réprimer l’opposition.
Buterin plaide pour les interfaces cerveau-ordinateur
Buterin souligne également que même si ces affirmations sont extrêmes, il existe des moyens permettant aux humains d’affirmer leur contrôle et d’assurer une direction bénéfique au développement de l’IA. Il préconise l’intégration des interfaces cerveau-ordinateur (BCI) pour atténuer les dangers.
Ces interfaces, qui établissent une voie de communication entre l’activité électrique du cerveau et les appareils externes comme les ordinateurs, pourraient raccourcir considérablement la boucle de communication entre les humains et les machines. Plus important encore, les BCI pourraient garantir que les humains conservent une action significative sur l’IA, réduisant ainsi le risque que l’IA agisse d’une manière non alignée sur les valeurs humaines.
La vision de Buterin va au-delà des simples mesures technologiques. Il appelle à une « intention humaine active » pour orienter le développement de l’IA vers le bénéfice de l’humanité. Cette approche contraste avec les progrès de l’IA uniquement axés sur le profit, qui ne correspondent pas toujours aux résultats les plus souhaitables pour la société humaine.
Nous sommes l’étoile la plus brillante. De nombreux bienfaits peuvent découler du progrès humain continu, jusque dans les étoiles et au-delà. Mais il y a de grandes croisées de chemins sur la route et nous devons choisir avec soin. Accélérez, mais accélérez prudemment et bien. pic.twitter.com/vxPlJWFVGq
– vitalik.eth (@VitalikButerin) 27 novembre 2023
En conclusion de ses réflexions, Buterin reste optimiste, affirmant que les humains sont l’étoile la plus brillante de l’univers, ayant développé une technologie qui a élargi le potentiel humain pendant des milliers d’années, avec l’espoir de poursuivre sur cette voie à l’avenir. Il envisageait un avenir où les inventions humaines, telles que les voyages spatiaux et la géo-ingénierie, préserveraient la beauté de la vie terrestre pendant des milliards d’années.
Binance Free 100 $ (Exclusif) : utilisez ce lien pour vous inscrire et recevoir 100 $ gratuits et 10 % de réduction sur les frais sur Binance Futures le premier mois (termes).
Voir l’article original en anglais
