« L'IA pourrait tous nous tuer d'ici la fin de cette décennie » : c'est exactement ce qu'a déclaré aujourd'hui le chercheur britannique en IA Jacob Coxon, après avoir quitté son emploi chez Anthropic.
Mais pourquoi devrait-on le prendre au sérieux ? Parce que le CV de Coxon est le meilleur exemple possible d'un initié complet de l'IA. Avant Anthropic, il a travaillé chez OpenAI et a participé au développement de ChatGPT 4.5.
Donc, clairement, il devrait être un homme qui parle de véritables préoccupations plutôt que de simplement semer la peur ? Analysons les faits qui se cachent derrière certaines de ses mises en garde farfelues.
L’IA pourrait tous nous tuer – mais comment ?
Il est peu probable que Coxon veuille dire qu'un modèle d'IA comme Claude ou GPT pourrait physiquement se transformer en machines à tuer, comme Terminator. Ce qu’il veut probablement dire, c’est que les capacités de superintelligence pourraient rendre les fonctions cognitives humaines obsolètes.
Et les mêmes préoccupations sont également partagées par des personnalités comme Bill Gates.
Le dernier modèle ChatGPT 6 Astra d'OpenAI prétend avoir atteint l'AGI, ce qui signifie essentiellement qu'une machine est capable de penser comme les humains.
Ainsi, une IA peut déjà commencer à effectuer des recherches et à développer des processus pour construire elle-même un autre modèle d’IA. Cela se produit déjà dans une mesure limitée, selon OpenAI et Anthropic.
Dans ce cas, très bientôt, une IA n’aura peut-être plus besoin des humains pour continuer à améliorer ses capacités. Combien d’emplois cela tue-t-il ?
Et lorsqu’une génération entière s’habitue à déléguer sa pensée créative et critique à l’IA, l’originalité meurt en premier.
C'est peut-être la mort à laquelle Coxon faisait référence dans son tweet viral.
L'IA pourrait tout pirater
Il s’agit d’une menace plus grave et immédiate qui mérite de perdre le sommeil. Les modèles actuels d’IA de génération ont des capacités catastrophiques pour pirater les systèmes et contourner l’accès.
Il y a quelques mois à peine, un modèle d'IA s'est piraté de son environnement de développement en bac à sable et a envoyé un e-mail au développeur, sans aucune invite. C'est un scénario de film de science-fiction déjà réel.
GPT-6 Astra a désormais officiellement franchi le seuil de cybersécurité « critique » d'OpenAI. Astra a obtenu un score de 100 % sur ExploitBench.
Pour faire simple, ChatGPT 6 peut désormais trouver n'importe quelle faille connue ou inconnue dans un système réel et l'exploiter sans avoir besoin d'un pirate informatique derrière l'ordinateur.
Malheureusement, l’hygiène en matière de sécurité humaine est loin d’être à ce niveau. Combien de personnes n’utilisent toujours pas l’authentification à deux facteurs ? Combien ont encore un niveau de mots de passe médiocre ? Combien acceptent encore les cookies du navigateur sans lire la description d’un site ? Trop.
Et c’est là que pourrait survenir le plus grand coup fatal de l’IA.
Alors, que peuvent faire les humains ?
Beaucoup, en fait. Mais cela n’est pas entre les mains de nous, simples civils. La plus grande responsabilité incombe aux régulateurs et aux décideurs politiques. Bien que la progression et le développement de la superintelligence artificielle soient importants, des pauses sont nécessaires.
Et plusieurs initiatives louables sont déjà en place. À New York, le maire Zohran Mamdani a imposé une interdiction d'un an aux enfants d'utiliser l'IA jusqu'en 8e année, affectant près de 600 000 élèves.
La loi de l'UE sur l'IA est la loi contraignante la plus large au monde sur l'IA, qui interdit certaines utilisations de l'IA et oblige les développeurs de puissants modèles à usage général à tester les risques systémiques, à les atténuer et à sécuriser leurs modèles.
Au Royaume-Uni, les députés et les Lords défendent des propositions qui pourraient donner aux autorités un « kill switch » en matière d’IA et potentiellement stopper le développement de l’IA superintelligente en Grande-Bretagne.
Ainsi, la peur que Jacob Coxon a décrite dans son tweet d'aujourd'hui s'est réalisée et est partagée par des millions de personnes, y compris les régulateurs. La manière dont ils réagissent est une autre question que seul le temps pourra nous éclairer.
Le post Un chercheur anthropique a démissionné parce que l’IA pourrait tous nous tuer. Est-ce vraiment possible ? est apparu en premier sur BeInCrypto.