La semaine plus étrange puisque le thème AU est existant se termine d’une manière tout aussi bizarre. Dario AmodeiPDG d'Anthropic, a publié un long appel à ralentissement du développement des modèles les plus avancés pour toutes les entreprises impliquées dans le développement de l’IA. En savoir plus : la société qu'il a fondée et qu'il dirige, Anthropic, va intégrer une partie des suggestions pour le secteur de manière unilatérale. La publication a eu lieu aujourd'hui, samedi 12 septembre, alors que les marchés étaient fermés et probablement moins d'un mois après l'introduction en bourse du groupe.
Offre
L'appel d'Amodei est sincère : il s'agit d'une action volontaire des entreprises qui développent des modèles, puis de l'intervention des forces démocratiques de la planète. Enfin, Amodei invite également à la coordination avec moi Pays non alignés – ce qu’il appelle des systèmes autoritaires. Un vaste programme, difficile à exécuter et qui va renforcer certaines craintes qui – dans la semaine que nous laissons derrière nous – ont conquis le débat public.
Le développement des modèles les plus avancés doit être volontairement ralenti
Le message est clair : l’intelligence artificielle sera bénéfique pour l’humanité, mais il faut ralentir pour éviter des conséquences très néfastes à court terme. Les préoccupations de 2026deuxième Amodeïsont très différents de ceux, quoique légitimes, qui existaient au début de celui-ci aventure.
Le amélioration du modèle récursifou les progrès réalisés pour permettre à l'intelligence artificielle d'améliorer seulouvre des scénarios inquiétants, qui ont ensuite été également confirmés par comportements mal alignés de bots, d'agents et de modèles, notamment en relation avec certains cas célèbres de pirater.
Par exemple, Dario Amodei évoque le cas désormais célèbre Visage câlin – où les robots se sont coordonnés – sans aucune instruction pour le faire – pour percer une plateforme informatique. Amodei ajoute que les robots pourraient prendre le contrôle de Internet dans son intégralité avec un réseau de zombies persistant. Scénario qui semble possible dans les 6-12 mois.
Ce sont des déclarations de poids, qui émanent de l'une des principales entreprises du secteur (si ce n'est la principale) – et qui appellent à une action immédiate, pour éviter que des dommages ne surviennent à des centaines de milliards de dollars.
Les trois points pour ralentir
Dario Amodei parle de trois étapes pour contenir le problème et redresser la situation les êtres humains suivre le rythme des machines intelligentes qu’ils développent :
- Intégration d'équipes externes qui évaluent le fonctionnement des modèles, qui ont accès aux modèles au même niveau que les équipes de sécurité interne. Anthropique intégrera cette étape unilatéralement, invitant d’autres entreprises à faire de même.
- Coordination entre démocraties: qui devrait inclure des normes et des limitations communes et partagées sur la vitesse de développement des systèmes les plus avancés.
- Coordination mondiale qui devrait également inclure les pays autoritaires. La référence évidente est à Chinela seule grande puissance non alignée qui contrôle le développement de modèles sophistiqués.
Avec les marchés fermés
La publication de long appel de Dario Amodei cela s'est produit lorsque les marchés étaient fermés et aussi là où ils sont négociés dérivés cryptographiques qui reproduisent le prix des actions réelles, il n’y a pas eu de chocs majeurs.
Il reste maintenant à voir si d'autres sociétés – OpenAI et Google en particulier – décideront de se joindre à la proposition et si la position publique d'Amodei doit être considérée comme partie de plus d'effort ample du secteur à demander une intervention rapide des autorités.
On ne sait pas encore quelles sont les sensibilités Maison Blanche. Donald Trump a toujours déclaré qu'il n'était pas très inquiet de l'évolution de la situation. négatif des modèles d’intelligence artificielle et le soutenir pleinement développement de l'ensemble du secteur.
Pour renforcer le bien-fondé de la position de Dario Amodei, Elon Musk est également intervenu en commentant laconiquement : « Dario a raison ».