Il faut commencer par reconnaître que le concept de Modernité est complexe et plein de nuances. Il existe néanmoins deux aspects inhérents à la Modernité qui pourraient être acceptés par le plus grand nombre : son ambition de contrôle et sa confiance dans l’action de l’homme. Eh bien, les deux semblent radicalement transformés par le modèle d’intelligence artificielle Claude Mythos Preview. La mise en scène même de la proposition a été révolutionnaire à bien des égards. Une mise en scène qui peut être considérée comme un spectacle de nouvelle puissance technologique. Un moyen efficace d’attirer l’attention de la planète entière.
Claude Mythe et la fin de la Modernité
Désormais, c'est l'annonce qui certifie la fin de la Modernité, traversée par la maîtrise de l'homme et la confiance en l'homme. C'est l'annonce de l'entrée dans la cybertranslimitation. Ces limites ont été franchies. Dans l’article du Blockchain Observatory dans lequel les informations sur ce modèle d’IA ont été recueillies, il était clair : l’écosystème numérique a franchi le point de non-retour.
Nous reprenons la procédure de non-présentation du modèle Claude Mythos Preview. Anthropic, la société qui a créé ce modèle d'IA, a décidé de ne pas lancer publiquement le projet pour des raisons de capacité et de risque. Jusqu'à présent, les modèles qui n'étaient pas présentés en grande pompe dans la société étaient dus au fait qu'ils manquaient de finition finale, étant encore au stade de prototype ou en phase similaire.
Mythos, l'IA anthropique qui a déclenché l'alarme pour sa vitesse destructrice
Ici, Anthropic a affirmé que Mythos était déjà pleinement opérationnel. Dans cette opération et ce sont les alarmes qui ont accompagné l'annonce, il a été déclaré avoir découvert des milliers de vulnérabilités graves, notamment des failles dans les systèmes d'exploitation, les navigateurs et les projets open source. Des échecs qui n’ont pas été détectés depuis des décennies.
Le contrôle passe aux machines
Mythos n'avait même pas à s'inquiéter. Il les trouva en quelques secondes. Vous pouvez les trouver en quelques millisecondes et, plus important encore, cela nécessite des machines intelligentes capables de les réparer en quelques millisecondes. Vous ne pouvez pas attendre que l'expert technique se mette au travail et cela prend des heures, des jours, des semaines… Pendant ce temps, le système aurait pu être infiltré ou détruit. La réparation est urgente et le contrôle doit passer à des machines intelligentes qui détectent les pannes et les réparent en moins d'une seconde. Le contrôle passe aux machines.
Continuons avec la non-présentation du Mythe dans la société. Normalement, les entreprises annoncent la grande puissance de leur modèle et le commercialisent. Cependant, Anthropic a introduit le système mais a restreint l'accès à un groupe limité d'organisations au sein de son initiative Project Glasswing. Une telle forme d’annonce donne déjà l’impression que le modèle représente une avancée importante dans les capacités défensives et offensives de cybersécurité. Que les limites de la cybersécurité avaient été franchies. Qu’il y avait une cybertranslimitation. Autrement dit, ce qui est censé inciter à une autre forme de publicité est ce qui devient une publicité puissante sur la signification du produit annoncé.
La logique de la cybertranslimitation
Après l'annonce de la non-présentation, des reportages médiatiques énergiques et impressionnants ont fait état de la grande capacité de Mythos à adopter un comportement avancé dans des tâches de sécurité offensives. Bien que tous les détails restent inconnus, des rumeurs prétendent que Mythos aurait réussi à surmonter les restrictions destinées à le contenir. Le fait est que, qu’il ait ou non réalisé ce que l’on dit que Mythos a particulièrement réalisé, nous sommes dans la logique de la cybertranslimitation.
Le fait qu'elle soit capable de détecter des erreurs (humaines, bien que de moins en moins humaines) présentes depuis de nombreuses années ne signifie pas que la machine elle-même est sans erreur et qu'il n'y a plus d'erreurs dans ce qui a été analysé. La course au dépassement des machines sera déterminée par la situation but dans laquelle seront placés les vainqueurs : une machine intelligente sera supérieure à une autre si, en l'observant, elle trouve des défauts que la machine vaincue n'avait pas trouvé et, surtout, si elle trouve des défauts dans la machine observée elle-même. Mais c’est déjà une compétition entre machines, qui se construisent, se reconstruisent, s’améliorent et se surpassent.
La « machine humaine » a été dépassée
La « machine humaine » a été dépassée. Il est incapable de trouver des bugs à la vitesse de modèles comme Mythos. Pour trouver des erreurs dans d’autres machines, dans d’autres logiciels. Trouver des défauts dans la « machine humaine » elle-même. Conscients de notre translimitation, d'avoir été dépassés dans notre capacité de contrôle, de nombreuses questions se posent. Certains transférables à la vie quotidienne personnelle : allons-nous constamment consulter ces machines pour savoir quoi faire et décider quand elles pourront nous connaître si bien, qu'elles connaîtront nos erreurs avant que nous les commettions parce qu'elles connaissent notre capacité d'erreur ? Qui déciderait dans un tel cas : la machine intelligente ou l’humain ?
Revenons sur ce qu'a l'annonce du Mythe de certification de la fin de la Modernité, dans la mesure où l'exige le scénario Absolute Zero Trust. Il s’agit d’une maximisation du modèle Zero Trust, qui repose déjà sur le principe « ne jamais faire confiance, toujours vérifier ». L'absolutisation du zéro confiance signifie qu'aucun utilisateur, appareil, application, processus ou communication ne reçoit de confiance implicite à aucun moment.
Faire confiance, pas faire confiance
S'appuyer sur Absolute Zero Trust est le principe de non-confiance. Se méfier de tout, pour le remettre en question, est, paradoxalement, une manière de faire confiance. Faites confiance, pas confiance. Nous ne faisons confiance que par nécessité, disait le sociologue Niklas Luhmann. C’est renverser la situation : se méfier par nécessité. Si l'organisation, le système ou l'application veut survivre.
Dans le modèle Zero Trust traditionnel, chaque accès est authentifié et autorisé. Les privilèges appliqués sont minimes et cette confiance minimale est basée sur l'identité, le contexte, l'état de l'appareil et le risque. La confiance zéro absolue est un scénario dans lequel la confiance ne persiste jamais. Chaque action est validée en permanence. De plus, une authentification réussie il y a une minute ne garantit pas l'accès après cette heure. La grande menace réside dans la rapidité avec laquelle fonctionnent les machines de réplication d’identité, qui peuvent « prendre » l’identité de la personne authentifiée il y a une minute. En revanche, toutes les communications sont sujettes à vérification, que ce soit entre utilisateur et application, entre applications, entre services ou entre appareils.
La confiance zéro absolue implique une évaluation continue des risques. Un jugement constant sur l'état de sécurité de l'appareil, agissant en temps réel contre les menaces. Bien entendu, ce qui réagit en temps réel, c’est la machine intelligente elle-même. En revanche, et avec cet objectif de zéro confiance absolue, les systèmes sont un peu moins des systèmes. C'est-à-dire que ses éléments et ressources sont isolés au maximum pour limiter les mouvements latéraux d'un attaquant. Tout peut être compromis. Tout est suspect.
Un changement d'ère
Ce manque absolu de confiance a ses contreparties. Parmi ceux qui peuvent atteindre les utilisateurs, les performances sont initialement inférieures. En général, en ce qui concerne les systèmes informatiques, une détérioration de votre expérience en tant qu'utilisateur. Plus généralement, en tant que citoyen, l'attitude de méfiance constante envers tout. Plus généralement encore, la translimitation de la confiance. Un changement d'époque.