Michael Casey : L'IA manque de véritable intention, l'industrie est confrontée à la fois à une bulle et à des progrès rapides, ainsi qu'à l'émergence d'une technologie de « preuve de contrôle »

Points clés à retenir

• Les agents d’IA ne sont pas capables de penser véritablement ; ils génèrent du langage de manière probabiliste et sans intention.
• L’industrie de l’IA connaît simultanément une bulle et des progrès rapides.
• Le développement de l’IA est parallèle à la composabilité observée dans DeFi, créant de nouvelles opportunités.
• Les erreurs humaines et les limites sont souvent révélées lors du déploiement de nouvelles technologies.
• Les changements géopolitiques auront probablement un impact sur la stabilité économique mondiale.
• Les progrès de l’IA affectent considérablement les marchés du travail et les structures économiques.
• Une nouvelle catégorie technologique, la « preuve de contrôle », fait son apparition en raison des exigences réglementaires.
• L’IA souveraine devrait responsabiliser les individus plutôt que d’être contrôlée par les gouvernements.
• Les modèles d’IA remplacent les emplois de premier échelon, ralentissant ainsi l’embauche dans les domaines vulnérables.
• L’intégration de l’IA dans l’économie peut créer un environnement chaotique et déstabilisant.
• Les limites de l’IA dans la gestion des cas extrêmes présentent des risques pour les entreprises qui en dépendent pour des tâches critiques.
• Le véritable risque de l’IA réside dans son anthropomorphisation, conduisant à de mauvaises prises de décision.
• Les machines peuvent effectuer des tâches mais ne peuvent pas reproduire les expériences subjectives humaines.
• L’économie du futur sera caractérisée par des milliards d’agents et de robots IA.
• Dans une économie posthumaine, l’intelligence artificielle peut servir d’unité d’échange.

Présentation de l'invité

Michael Casey est président de DAIS Global. Il a auparavant occupé le poste de directeur du contenu chez CoinDesk, où il a construit une salle de rédaction primée et présidé la conférence annuelle Consensus. Il est l’auteur de The Age of Cryptocurrency, qui examine comment le Bitcoin et la monnaie numérique remettent en question l’ordre économique mondial.

La distinction entre la pensée humaine et les réponses générées par l'IA

• Les agents d’IA génèrent du langage de manière probabiliste sans intention réelle. –Michael Casey
• « Ils ne pensent pas que ce soit une bonne chose, ils proposent probablement un langage à partager entre eux. » –Michael Casey
• Comprendre le comportement de l’IA nécessite de reconnaître le manque d’intention dans la communication de l’IA.
• L’idée fausse concernant la capacité de l’IA à penser comme les humains est très répandue.
• Le manque d’intention de l’IA la différencie de la conscience humaine.
• « L'intention est une chose très consciente. » –Michael Casey
• L’aspect logique des opérations de l’IA exclut la possibilité d’une intention.
• Reconnaître les limites de l’IA est crucial pour un développement et un déploiement responsables.

L’état actuel du développement de l’IA et de la spéculation sur le marché

• L’industrie de l’IA connaît simultanément une bulle et des progrès rapides. –Michael Casey
• « Je pense que nous sommes à la fois dans une bulle et dans une situation qui évolue vraiment très rapidement. » –Michael Casey
• La spéculation boursière accompagne souvent les avancées technologiques.
• Le battage médiatique autour de l’IA peut masquer les véritables progrès.
• Comprendre les nuances du développement de l’IA aide à évaluer son potentiel.
• Les parallèles entre l’IA et la DeFi mettent en évidence le rythme rapide de l’innovation.
• « Cela semble quelque peu familier aux crypto-monnaies, car nous l'avons vu avec la composabilité de DeFi. » –Michael Casey
• Les progrès de l’IA créent de nouvelles opportunités similaires à celles de l’espace crypto.

L’impact de l’IA sur les marchés du travail et les structures économiques

• Les progrès de l’IA affectent considérablement les marchés du travail et les structures économiques. –Michael Casey
• « Si je pense seulement au nombre d'emplois qui ont probablement déjà été affectés par l'IA. » –Michael Casey
• Le recrutement de débutants dans les domaines vulnérables ralentit en raison des capacités de l'IA.
• « Dans les domaines que nous savons particulièrement vulnérables aux grands modèles linguistiques… vous semblez constater un ralentissement. » –Michael Casey
• L’intégration de l’IA dans l’économie peut créer un environnement chaotique et déstabilisant.
• « C'est juste une image chaotique très désorientante, très déstabilisante. » –Michael Casey
• Les emplois nécessitant une véritable connexion humaine et de l’empathie seront plus résilients à l’automatisation.
• « Cultiver les compétences humaines, cultiver l'empathie et une véritable connexion humaine. » –Michael Casey

L’émergence de la technologie de « preuve de contrôle »

• Une nouvelle catégorie de technologie appelée « preuve de contrôle » va émerger rapidement. –Michael Casey
• « Nous pensons que cela viendra très rapidement grâce aux demandes des responsables de la conformité et des conseils d'administration. » –Michael Casey
• Cette technologie répond au besoin des entreprises et des gouvernements de garantir que les agents d’IA opèrent en leur nom.
• « Comment savons-nous que cet agent agit réellement en mon nom ? » –Michael Casey
• La cryptographie et les blockchains fournissent une preuve de contrôle sur les systèmes d'IA.
• « Ce qui est bien avec la cryptographie et les blockchains, c'est qu'elles vous en donnent la preuve. » –Michael Casey
• Comprendre la gouvernance de l’IA est crucial pour les futurs cadres réglementaires.
• La demande de contrôle dans les systèmes d’IA est motivée par les besoins réglementaires.

Le rôle de la souveraineté et de l’autonomisation individuelle dans la gouvernance de l’IA

• L’IA souveraine devrait responsabiliser les individus plutôt que de créer des systèmes fermés contrôlés par les gouvernements. –Michael Casey
• « Je pense qu'en fin de compte, qu'il s'agisse d'une personne ou d'une entreprise… nous exigerons ces systèmes de contrôle. » –Michael Casey
• Le concept de souveraineté dans l’IA doit être localisé plutôt que défini par les États-nations.
• « Je dis que que ce soit nous ou les robots, nous devons définir la souveraineté de cette manière localisée. » –Michael Casey
• Des mécanismes doivent être en place pour garantir le contrôle humain sur les agents d’IA.
• « Il doit y avoir un moyen par lequel la relation humaine et l’autorité sur ce que font ces choses sont définies et comprises. » –Michael Casey
• Les implications de la gouvernance de l’IA sur l’autonomie individuelle sont importantes.
• L’autonomisation individuelle en matière de technologie est un aspect essentiel du développement de l’IA.

Les implications sociétales de l’intégration de l’IA

• L’intégration de l’IA dans l’économie créera un environnement chaotique et déstabilisant. –Michael Casey
• « C'est juste une image chaotique très désorientante, très déstabilisante. » –Michael Casey
• Il y aura une réaction négative contre les technologies de l’IA à mesure qu’elles seront davantage intégrées dans l’économie.
• « Je pense qu'il y aura des réactions négatives contre ce genre de choses. » –Michael Casey
• Les limites actuelles de l’IA présentent des risques pour les entreprises qui en dépendent pour des tâches critiques.
• « Il y a encore un énorme fossé… vous voudrez vous assurer que ces… cas marginaux seront également résolus. » –Michael Casey
• Comprendre les limites de l'IA est crucial pour les applications critiques.
• La réponse sociétale à l’intégration de l’IA est une tendance importante à surveiller.

L’avenir du travail dans une économie posthumaine

• L’économie posthumaine sera caractérisée par des agents d’IA et des robots assumant des rôles traditionnellement occupés par les humains. –Michael Casey
• « L'économie posthumaine est une idée que j'ai présentée dans une série d'essais l'année dernière. » –Michael Casey
• Les humains ne deviendront pas obsolètes mais joueront des rôles différents dans cette économie.
• « Je dois souligner que cela ne veut pas dire que je pense qu'il n'y aura pas d'échange de valeurs entre les gens. » –Michael Casey
• Le futur paysage professionnel verra moins de postes de travail axés sur le savoir en entreprise et davantage d’opérateurs indépendants.
• « Je pense qu'il y aura moins d'emplois de type travail du savoir en entreprise et qu'il y aura plus de personnes travaillant en tant qu'opérateurs indépendants. » –Michael Casey
• Les emplois qui nécessitent une véritable connexion humaine et de l’empathie seront plus résilients à l’automatisation.
• La nature évolutive du travail est influencée par les changements technologiques.

L'évolution de la monnaie dans une économie posthumaine

• Dans une économie posthumaine, les concepts traditionnels de monnaie deviendront obsolètes. –Michael Casey
• « Qu'est-ce que l'argent dans cette économie posthumaine ? C'est en réalité l'intelligence artificielle elle-même. » –Michael Casey
• L’économie du futur pourrait s’appuyer sur un nouveau jeton représentant l’intelligence artificielle.
• « Les gens essaient de construire la première ébauche d’architecture de ce type de ce que j’appelle l’économie posthumaine. » –Michael Casey
• Différentes formes de monnaie rempliront des fonctions distinctes, le Bitcoin agissant comme une réserve de valeur.
• « J'imagine une sorte d'économie future où Bitcoin est une sorte de mémoire civilisationnelle. » –Michael Casey
• Le rôle de la monnaie dans la facilitation des échanges évoluera avec les progrès de l’IA.
• Le concept d’argent est en train d’être redéfini dans le contexte de l’IA avancée.

Les implications de l’IA et de l’automatisation sur les systèmes économiques

• L’économie future pourrait passer d’un échange de valeurs traditionnel à un système dans lequel l’abondance créée par l’IA réduirait le besoin de transactions économiques entre humains. –Michael Casey
• « Si vous disposez d’une abondance autonome… la question ne tourne plus autour de la rareté matérielle. » –Michael Casey
• L’avantage concurrentiel des systèmes d’IA et d’apprentissage automatique nécessite une forme d’échange économique.
• « Ces machines sont en fait construites grâce à leur… structure de récompense symbolique pour rivaliser sur les résultats. » –Michael Casey
• L’énergie continuera d’être une contrainte pour l’IA et les systèmes robotiques.
• « Je pense aussi que l’énergie va… continuer à être une contrainte. » –Michael Casey
• Comprendre la relation entre les systèmes d’IA et les incitations économiques est crucial.
• Les implications de l’IA sur les interactions économiques sont importantes.

L’importance de l’interaction humaine dans l’économie du futur

• La véritable valeur humaine vient des interactions sociales collaboratives plutôt que des échanges transactionnels. –Michael Casey
• « La véritable valeur humaine vient de la manière dont nous élaborons en collaboration une conviction sociale. » –Michael Casey
• Se concentrer sur l'interaction sociale sera essentiel pour créer des expériences significatives.
• « Si vous pouvez réfléchir au sens et à la valeur qui découlent de cette construction d’interaction humaine. » –Michael Casey
• Les machines ne peuvent pas reproduire la capacité humaine d’empathie et de collaboration.
• « Ce n'est pas seulement le fait que je suis une personne capable de comprendre et de faire preuve d'empathie. » –Michael Casey
• Le concept d’emploi devient obsolète à mesure que nous passons à une économie à la demande.
• « L’emploi fait lui-même partie du problème. » –Michael Casey
• L’évolution du rôle de la technologie dans les interactions humaines constitue une tendance cruciale.