AVERTISSEMENT PRÉLIMINAIRE : pour l'instant, personne ne sait grand-chose des derniers événements de Jacob Coxon qui a tiré la sonnette d'alarme. Il n'y a pas encore de confirmation de sa démission. Des mises à jour suivront si nécessaire.
Sur les réseaux sociaux, nous ne parlons de rien d'autre – et il ne pourrait en être autrement. Un chercheur de Anthropiquequi était responsable de l'alignement des modèles (et qui travaillait auparavant pour OpenAI) a annoncé publiquement sa démission, affirmant que les plus grandes entreprises du monde de l'IA n'en font pas assez pour éviter le pire des cas d'un avenir dominé par l'IA : l'anéantissement de l'humanité. Une déclaration qui intervient peu de temps après l’introduction en bourse d’Anthropic elle-même.
Offre
Le message a eu un énorme tirage : au moment de la rédaction, il avait dépassé les 30 millions de vues sur X et poussé aussi collègues pour sortir à l'air libre. Bien qu'il y ait déjà eu des alarmes dans ce sens – Anthropic avait déjà publié des rapports – elles n'ont jamais suscité ce type d'attention et n'ont jamais eu une diffusion et un consensus aussi large de la part des professionnels.
Le message de Jacob Coxon
Le message est très inquiétant. Démissionnez, les entreprises qui pilotent ce cycle de l’IA n’en font pas assez. Nous sommes confrontés à la technologie la plus dangereuse jamais créée, et elle pourrait tous nous anéantir d’ici la fin de la décennie.
S'il avait raison, nous n'aurions guère plus que trois ans à vivre avant l’apocalypse de l’IA qui pourrait rendre l’humanité – au mieux – similaire à ce que nous avons vu dans Matrice.
CE N'EST PAS LE PREMIER « TOUS ARRÊTENT »
En réalité, des appels similaires provenaient de la même entreprise. Dario Amodeile PDG du groupe, avait invité à plusieurs reprises les gouvernements à se saisir de la question et à évaluer la possibilité de ralentir le développement de ces technologies.
Une invitation que beaucoup avaient ignorée – la considérant comme une énième opération marketing imprudente – de celle qui a contribué à rendre ces technologies particulièrement informer à la population.
D'autres chercheurs viennent également le soutenir
En réalité, le problème s'est largement répandu également parce que d'autres sont arrivés Employés anthropiques ou d'autres entreprises impliquées dans le secteur AU pour soutenir la thèse.
Voici Evan Hubinger, également d'Anthropic, qui n'est cependant pas le seul à l'avoir rejoint. Des messages de même nature sont arrivés, accompagnés eux aussi de démentis et de minimisation.
Quoi qu'il en soit, à un mois (au maximum) de l'arrivée de l'introduction en bourse d'Anthropic, de nombreuses réflexions sont possibles. Est-ce un salarié mécontent qui a décidé d’exprimer ainsi son état d’agitation ? Sommes-nous vraiment à un pas de l’extinction ? Est-ce une pression politique ? À propos du marketing ? Ou l’humanité a-t-elle vraiment ouvert la boîte de Pandore ?
Voir l’article original en italien
