Anthropic vous demande de mettre en pause les modèles les plus avancés. Toutefois, une coordination presque impossible sera nécessaire.
Anthropique donne l'alarme et la demande arrêt au développement de modèles d’IA, car il y aurait le risque de voir les modèles échapper au contrôle humain. La demande est d'avoir une sorte de contrôle global coordonné, entre les entreprises et les gouvernements, qui permette de prendre des décisions également liées à la sécurité (et non, ce n'est pas la sécurité informatique).
En réalité, ce n'est pas la première fois qu'Anthropic publie des communiqués et des avertissements de ce type, qui sont ensuite aussitôt repris par les journaux – nous y compris – parce qu'ils sont d'un grand intérêt, d'une part, et d'autre part malheureusement parce que certaines préoccupations font vendre.
Qu’a vraiment dit Anthropic ?
Selon plusieurs journaux américains, Anthropic a demandé une pause mondiale dans le développement des modèles d’IA les plus avancés. La raison ? De tels modèles montrent des capacités inquiétantes d’auto-amélioration et pourraient s'échapper au contrôle humain.
En ralentissant, citent-ils entre guillemets, ça pourrait être une bonne chose.
Nous pensons qu’il serait bon que le monde ait la possibilité de ralentir ou de suspendre le développement de l’IA afin de permettre aux structures sociales et à la recherche d’alignement de suivre le rythme du développement de la technologie.
Anthropique ajoute ensuite :
Sans mécanisme de coordination, les entreprises et les gouvernements devront prendre des décisions difficiles en matière de sécurité tout en faisant face à la pression de leurs concurrents et de la géopolitique.
Tout le monde n'est pas d'accord : apparemment, un certain scepticisme a également émergé du côté de la Maison Blanche, avec certaines inquiétudes davantage liées à la volonté de ralentir les concurrents qu'à de réels problèmes de sécurité. Une lecture cynique qui est cependant relativement répandue également parmi les opérateurs du marché.
SpaceX sera le premier du secteur à entrer en bourse via une introduction en bourse, Anthropic devant arriver avec un certain retard, entre autres.
Il y a ensuite le problème géopolitique : même si l’on parle depuis un certain temps d’une coordination, au moins entre les États-Unis et la Chine, et même si cela a été en partie le sujet des discussions lors de la dernière visite de Trump à Pékin, il est très difficile d’en arriver au point.
Un ralentissement unilatéral des entreprises américaines n'est pas envisageable pour ces raisons, avec une pression supplémentaire venant du lancement de Ben trois introductions en bourseoù la plupart des grandes banques d’investissement américaines gagneront des commissions ahurissantes.
Dans quelle mesure est-il vrai ?
Rares sont ceux qui semblent y croire pour l’instant. Cependant, le rôle du incitations (de la cotation aux investissements, en passant par celles géopolitiques que nous avons décrites plus haut) pour que certaines alarmes ne soient pas prises au sérieux.
Des alarmes qui – bien que de différentes manières – ont constitué une partie importante du récit contrôlé par les mêmes entreprises dans le monde de l'IA.
Un récit qui a fait le thème AU très impopulaire auprès de la population – non seulement en raison des inquiétudes sur le sort de l'être humain – mais aussi sur le destin de l'individu, mis en danger par l'avancée de modèles capables de remplacer l'humain même dans des emplois spécialisés.
Voir l’article original en italien
