À quelle fréquence entendez-vous des prédictions sur la fin du monde, dans lesquelles le rôle principal est joué par l'intelligence artificielle toute-puissante ? Au moins une fois par semaine, un homme d'affaires ou une célébrité exprimera ses craintes quant à un avenir terrible sous son joug.
Bien sûr, une personnalité célèbre et de sombres prévisions sont la recette parfaite pour faire la une des journaux. Mais si les matériaux antérieurs fabriqués selon ce schéma reflétaient des progrès technologiques réels, parfois effrayants, cela ressemble de plus en plus souvent à un marketing vide de sens ou à une simple incompréhension de l'essence de ce qui se passe.
Pourquoi sommes-nous encore effrayés par les mauvais récits de « Terminator », si les chatbots modernes mentent souvent de manière flagrante et ne se souviennent pas de cinq lignes de dialogue ? Et surtout, qui pourrait en bénéficier ?
Pas impressionnant
Il convient de le noter d'emblée : les technologies de l'IA ont fait d'énormes progrès au cours de la dernière décennie. Les systèmes modernes nous ont appris à rédiger des textes cohérents, à reconnaître des modèles dans de grandes quantités de données et à créer du contenu visuel. Jusqu’à récemment, les machines ne pouvaient pas autant remplacer le travail humain.
Les perspectives de progrès sont intimidantes. Cependant, pour le moment, le développement de produits de masse s'est limité à parler de ce qu'on appelle l'intelligence artificielle générale et à la sortie de modèles de langage presque identiques (parfois les nouveaux produits s'avèrent encore pires que leurs prédécesseurs).
Ce que nous obtenons : un outil assistant formé pour effectuer des tâches simples avec du texte et parfois avec des images. Les gens l’ont adapté pour le vibecoding ou pour rédiger des posts pour les réseaux sociaux. Dans le même temps, le résultat obtenu nécessite souvent une double vérification – les réseaux de neurones ne sont pas capables d'effectuer un travail plus complexe.
Vous pouvez désormais demander à votre chatbot préféré de rédiger une thèse de doctorat sur le thème « X » : vous recevrez un texte difficile à comprendre avec des liens depuis la première ou la deuxième page du moteur de recherche. Pour améliorer le résultat, il est recommandé d'utiliser des invites étendues, mais il s'agit simplement d'un réglage encore plus fin du « langage machine » et d'une formation supplémentaire.
Avec l'utilisation continue de l'IA, chaque utilisateur se rend probablement compte des limites des modèles actuels. Tous les progrès se sont finalement réduits au volume des bases de données pour la formation et à la capacité des serveurs, et le facteur « intelligence » lui-même est passé au second plan.
Intelligence sans cerveau
Pour comprendre le contexte, nous devons expliquer le fonctionnement de l’IA. En bref, les grands modèles de langage des chatbots classiques fonctionnent comme ceci :
- Le texte saisi est divisé en jetons (parties de mots, symboles).
- Chaque jeton se voit attribuer un vecteur numérique.
- Le modèle analyse les relations entre les jetons et détermine quels mots sont les plus importants pour comprendre le contexte.
- Sur cette base LLM « prédit » chaque jeton suivant, générant la réponse.
Le modèle ne « prédit » pas à partir de rien. Pour ce faire, elle a suivi une formation préalable sur une énorme base de données, généralement issue de sources ouvertes sur Internet. C’est de là que le réseau de neurones puise toute son « intelligence ».
Les modèles linguistiques ne « comprennent » pas le texte au sens humain du terme, mais calculent plutôt des modèles statistiques. Tous les principaux chatbots modernes utilisent la même architecture de base avec le nom explicite « Transformer », qui fonctionne sur ce principe.
Bien sûr, il s’agit d’une comparaison approximative, mais LLM peut être qualifié de calculateur très puissant basé sur une grande base de données. Un outil puissant et nécessaire qui simplifie de nombreux aspects de nos vies, mais il est trop tôt pour attribuer une véritable intelligence à une telle technologie.
Les chatbots modernes ressemblent plus à une nouvelle itération de moteurs de recherche (bonjour, Gemini chez Google) qu'à un assistant omniscient de poche.
De plus, des questions demeurent quant à la fiabilité des réponses de l’IA. Après avoir consulté les statistiques d'hallucinations et de mensonges des réseaux de neurones, on ressent une forte envie de revenir au classique « Google ».
Bouh, tu as peur ?
La thèse principale des partisans de l’apocalypse est que « l’IA devient de plus en plus intelligente de façon exponentielle », de sorte que dès qu’elle dépassera l’intelligence humaine, l’espèce humaine disparaîtra.
L’IA moderne est certainement déjà en avance sur nous en termes de précision du traitement et de transformation des données. Par exemple, un réseau de neurones peut raconter Wikipédia de manière suffisamment détaillée. Mais c’est là que ses connaissances sont limitées. Plus précisément, le modèle ne pourra tout simplement pas les utiliser à des « fins personnelles », puisqu'il ne sait pas comment le faire et qu'il n'a pas une telle tâche.
De plus, on sait déjà que l’intelligence artificielle ne comprend pas le monde qui nous entoure. Les lois de la physique pour l’IA sont une forêt sombre.
L'ensemble du développement des modèles linguistiques a été réduit à élargir la gamme de prévisions (token devinering). Cependant, l’IA approche rapidement des limites de l’apprentissage textuel, et la nécessité de créer une intelligence « spatiale » se fait de plus en plus entendre.
Mais si les faiblesses de la technologie elle-même peuvent encore être identifiées et que des travaux dans ces directions sont déjà en cours, des questions plus complexes restent alors ouvertes.
Même pour l’humanité, de nombreux aspects de la structure cérébrale restent un mystère. Que dire de la recréation d’une structure aussi complexe dans l’environnement numérique ?
En outre, un autre obstacle presque insurmontable pour l’IA est la créativité – la capacité de créer quelque chose de nouveau. Les LLM sont techniquement incapables de dépasser leurs limites architecturales car leur travail repose sur le traitement de données préexistantes.
Ainsi, le sort futur de l’IA dépend directement des informations que l’humanité y met, et pour l’instant, tous les supports de formation sont exclusivement axés sur le bénéfice des personnes.
Pour être honnête, il convient de mentionner Elon Musk et son Grok. À un moment donné, les utilisateurs ont remarqué le parti pris du chatbot et sa tendance à surestimer les capacités du milliardaire. Le signal est assez alarmant d’un point de vue éthique, mais il est peu probable qu’un potentiel « neuroIlon » puisse nuire physiquement à l’humanité.
Il se trouve que les applications d’intelligence artificielle ont pour seul but d’obéir aux demandes de l’utilisateur. Un chatbot n’a ni volonté ni désir propre, et il est peu probable que le paradigme change dans un avenir prévisible.
Anatomie de la peur
Et pourquoi avons-nous encore peur de cette même IA, qui s’est avérée n’être pas une invention très « intelligente » ? Les réponses fondamentales se trouvent en surface.
Outre le manque de compréhension de la technologie, la raison la plus simple est l’avidité pour l’argent ou la popularité.
Passons au cas de l'un des « prophètes de la fin du monde » – Eliezer Yudkowsky. Le chercheur en IA et co-auteur de If Anybody Builds It, Everyone Dies met en garde depuis les années 2000 contre une IA superintelligente qui serait dénuée de valeurs humaines.
La « superintelligence » n’est pas encore visible, comme l’admet souvent Yudkowsky lui-même. Mais cela ne l'empêche pas de faire de grandes déclarations sur les podcasts et de vendre des livres.
Le célèbre physicien et « parrain de l’IA » Geoffrey Hinton a également exprimé des craintes quasi apocalyptiques. Il estime qu’il y a 10 à 20 % de chances que cette technologie conduise à l’extinction de l’humanité au cours des 30 prochaines années.
Selon Hinton, à mesure que les capacités augmentent, la stratégie consistant à « garder l’intelligence artificielle sous contrôle » pourrait ne plus fonctionner, et les systèmes d’agents s’efforceront de survivre et d’étendre le contrôle.
Dans ce cas, il n’est pas tout à fait clair qui et à quelles fins sera en mesure de donner aux réseaux de neurones la « volonté de vivre ». Hinton continue de travailler dans le domaine de la formation des réseaux de neurones et a été nominé pour un prix Nobel en 2024 pour ses réalisations dans ce sens. Début 2026, il est devenu le deuxième scientifique de l'histoire après le cybernéticien Yoshua Bengio à atteindre 1 million de citations.
Étonnamment, les prévisions du co-fondateur de Google Brain, Andrew Ng, semblent plus terre-à-terre. Il a qualifié l’intelligence artificielle de technologie « très limitée » et s’est dit convaincu que les algorithmes ne seront pas en mesure de remplacer les humains dans un avenir prévisible.
De toute évidence, il existe des prévisionnistes au langage acéré et bruyant dans tous les domaines. De plus, leur existence dans l'industrie de l'IA peut être justifiée par le grand amour des gens pour la science-fiction. Qui ne veut pas se chatouiller les nerfs avec des histoires dans l'esprit de Philip K. Dick ou de Robert Sheckley, à la seule différence que l'intrigue se déroule dans la réalité actuelle.
Dans un tel environnement, les déclarations des grandes entreprises, qui semblent mettre en garde avec désinvolture contre une menace pour l’emploi et prédire le développement rapide de l’IA, suscitent davantage de questions. Alors que la seconde thèse explique en grande partie la nécessité de réduire les coûts, la première pousse involontairement vers des interprétations plus complotistes.
Ainsi, l’une des plus grandes entreprises au monde, Amazon, a licencié plus de 30 000 salariés au cours des six derniers mois. La direction cite des plans d'optimisation et l'impact de l'automatisation, y compris l'introduction de l'IA.
Le développement des robots d'entrepôt n'a pas été annulé. Cependant, les mauvaises langues considèrent que le problème est beaucoup plus prosaïque : la mauvaise gestion des ressources humaines pendant la pandémie de COVID-19 est à l'origine des purges massives dans les entreprises.
Amazon est loin d’être le seul exemple. Les entreprises d’IA de la Silicon Valley continuent d’augmenter leurs effectifs et de louer de nouveaux espaces.
Dans le même temps, en 2023, presque toutes ces mêmes entreprises ont signé un document de l'organisation Center for AI Safety sur le ralentissement du développement de la technologie – l'intelligence artificielle étant censée présenter des «risques existentiels» comparables aux pandémies et aux guerres nucléaires.
Au fil du temps, la lettre a été oubliée, les travaux en direction se sont poursuivis, mais aucune menace visible n'est apparue.
Du point de vue des entreprises, à l’heure où l’on parle d’une bulle gonflée de l’IA, faire appel au changement technologique semble une explication plus pratique pour les entreprises que d’admettre des erreurs structurelles dans la gestion des ressources humaines. Cependant, de telles déclarations créent une fausse image de ce qui se passe et détournent l’attention des vrais problèmes : la désinformation et les deepfakes.
L’intelligence artificielle ne vole pas d’emplois, elle change l’approche même du travail, la simplifiant d’une certaine manière. Bien qu’une étude étroite de Harvard montre que l’IA, au contraire, complique et ralentit parfois les processus au sein d’une entreprise.
La technologie pénétrera certainement dans tous les domaines de notre vie : l’éducation, la science, le commerce, la politique. Mais sous quelle forme il y sera présent ne sera déterminé que par les gens eux-mêmes. Jusqu'à ce que les réseaux de neurones aient le droit de voter.
Inaccessible pour nous
La discussion ci-dessus portait sur l’IA accessible au public, telle que les chatbots et les « machines à dessiner » génératives. Bien entendu, des développements plus graves se déroulent à huis clos.
Parmi les relativement simples : LLM du domaine de la médecine ou de l'archéologie. Les premiers, par exemple, aident à synthétiser de nouvelles protéines, et les seconds aident à déchiffrer des documents anciens qui ne se prêtent pas à l'analyse traditionnelle.
Cependant, les résultats de ces recherches, tests et lancements doivent être surveillés au moyen de rapports internes difficiles à trouver ou de publications dans des médias hautement spécialisés, de sorte que le degré de sensibilisation à leur sujet est proche de zéro. Même s’il est probable que ce soit le domaine dans lequel les plus grandes avancées sont actuellement réalisées.
Il est probable que la « machine apocalyptique de l’IA » n’apparaîtra pas, même dans les laboratoires fermés. Tous ces modèles sont hautement spécialisés et ne peuvent donc faire que ce qui leur est demandé.
Toutes les craintes d’une intelligence artificielle hors de contrôle ne sont que le reflet de nos propres peurs : qu’il s’agisse de perdre un emploi ou de questions éthiques plus complexes. Mais tandis que nous, les humains, façonnons l’avenir de la technologie, en fixant des orientations et des objectifs, l’IA reste un outil et non une entité distincte dotée d’une volonté propre.
Il est juste de parler de risques potentiels. C'est dans la nature humaine d'inventer des théories apocalyptiques. Cependant, de telles choses doivent toujours être abordées avec une dose de scepticisme, voire d’ironie. Si nous disposons d’un bouton d’arrêt à portée de main, notre monde ne sera menacé par aucune superintelligence numérique.
Vassili Smirnov
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !
Voir l’article original en russe
