Préparez-vous : l’IA pourrait provoquer l’extinction de l’humanité.
Le 30 mai, des centaines de leaders et de chercheurs de l’industrie de l’intelligence artificielle (IA), y compris des dirigeants de Microsoft, Google et OpenAI, ont lancé un sombre avertissement. Ils affirment que la technologie d’IA qu’ils développent pourrait un jour représenter un réel danger pour l’existence de l’humanité. Outre les horreurs des pandémies et des guerres nucléaires, ils considèrent l’IA comme un risque social d’une ampleur similaire.
Dans une lettre publiée par le Center for AI Safety, des spécialistes de l’intelligence artificielle ont proposé cette déclaration sans ambages : « Atténuer le risque d’extinction de l’IA devrait être une priorité mondiale avec d’autres risques sociétaux tels que les pandémies et la guerre nucléaire.
C’est ça, c’est ce qu’ils disent.
La déclaration présente l’intelligence artificielle comme une menace imminente, semblable à une catastrophe nucléaire ou à une pandémie mondiale. Mais les signataires et les sorciers de l’industrie technologique n’ont pas amplifié leur avertissement inquiétant.
Comment ce scénario apocalyptique est-il censé se produire ? Quand devrions-nous marquer nos calendriers pour la montée de nos dirigeants robots ? Pourquoi l’intelligence artificielle, invention de l’innovation humaine, se retournerait-elle contre ses créateurs ? Le silence de ces architectes de l’IA était stupéfiant.
En fait, ces leaders de l’industrie n’étaient pas plus informatifs qu’un chatbot avec une réponse prédéfinie. Dans le domaine des menaces mondiales, l’intelligence artificielle semble avoir soudainement sauté la file d’attente, dépassant le changement climatique, les conflits géopolitiques et même les invasions extraterrestres en termes de recherches par mots-clés sur Google.
Fait intéressant, les entreprises ont tendance à préconiser la réglementation lorsqu’elle correspond à leurs intérêts. Cela pourrait être interprété comme sa façon de dire : « Nous voulons participer à la création de ces règlements. C’est comme quand le renard demande de nouvelles règles dans le poulailler.
Il est également à noter que le PDG d’OpenAI, Sam Altman, a fait pression pour une réglementation aux États-Unis. Il a même menacé de quitter l’Europe si les politiciens du continent continuaient d’essayer de réglementer l’IA. « Nous allons essayer de livrer », a déclaré Altman lors d’un panel à l’University College de Londres. « Si nous pouvons livrer, nous le ferons. Et si nous ne pouvons pas, nous cesserons de fonctionner. »
Il est juste de dire qu’il a dû corriger sa position quelques jours plus tard, affirmant qu’OpenAI n’avait pas l’intention de quitter l’Europe. Ceci, bien sûr, est venu après qu’il ait eu l’occasion de parler aux régulateurs à ce sujet au cours d’une « semaine très productive ».
semaine très productive de conversations en europe sur la meilleure façon de réglementer l’IA ! nous sommes ravis de continuer à opérer ici et n’avons bien sûr pas l’intention de partir.
—Sam Altman (@sama) 26 mai 2023
L’IA est risquée, mais est-ce vraiment donc risqué?
Les dangers potentiels de l’intelligence artificielle ne sont pas passés inaperçus auprès des experts. Une lettre ouverte précédemment signée par 31 810 passionnés de technologie, dont Elon Musk, Steve Wozniak, Yuval Harari et Andrew Yang, appelait à une pause dans la formation de puissants modèles d’IA.
« Ces protocoles doivent garantir que les systèmes qui les suivent sont sécurisés au-delà de tout doute raisonnable », indique la lettre, précisant que « cela ne signifie pas une pause dans le développement de l’IA en général, mais simplement un revers dans la course dangereuse vers des imprévisibles de plus en plus grands ». des modèles de boîte noire avec des capacités émergentes. »
Le problème d’un possible AI Foom (dans lequel une IA devient capable d’améliorer ses propres systèmes, augmentant ses capacités au point de surpasser l’intelligence humaine) est discuté depuis des années. Cependant, le rythme rapide des changements d’aujourd’hui, associé à une large couverture médiatique, a attiré l’attention du monde entier sur le débat.
Cela a généré diverses opinions sur la façon dont l’IA aura un impact (pas seulement manger pourrait avoir un impact) l’avenir des interactions sociales.
Certains envisagent un âge utopique où l’IA et les humains interagissent en alignement, et où le progrès technologique règne en maître. D’autres pensent que l’humanité s’adaptera à l’IA, avec de nouveaux emplois créés autour de la technologie, similaires à la croissance de l’emploi qui a suivi l’invention de l’automobile. Cependant, d’autres soutiennent que l’IA a une chance importante de mûrir et de devenir incontrôlable, posant une menace réelle pour l’humanité.
Jusque-là, les affaires comme d’habitude dans le monde de l’IA. Alors gardez un œil sur votre ChatGPT, votre Bard ou votre Siri, car il se peut qu’ils ne soient qu’à une mise à jour logicielle de dominer le monde. Pour l’instant, cependant, il semble que la plus grande menace pour l’humanité ne soit pas nos propres inventions, mais plutôt notre talent illimité pour l’exagération.