Entretien avec Daron Acemoglu – Frank Pagano

Les technologies exponentielles changeront notre monde, pour toujours. C'est notre opinion, en tant qu'optimistes de la technologie.

Il est toujours bon de faire un bilan de santé, ou au moins d’écouter le point de vue opposé. Nous avons contacté Daron Acemoglu, professeur d’économie au Massachusetts Institute of Technology (MIT), auteur à succès, conférencier de renommée mondiale et lauréat de plusieurs prix prestigieux, dont la médaille John Bates Clark 2005, décernée tous les deux ans au meilleur économiste américain de moins de 40 ans par l’American Economic Association. Son CV est impressionnant, et Acemoglu est aujourd’hui l’un des économistes les plus cités au monde.

C'est l'échange avec le Maître.

Quelles technologies exponentielles changeront notre monde, selon vous, d’ici 2030 – parmi la Blockchain, l’IA, l’informatique spatiale, le quantique ?

C’est difficile à dire. Toutes ces technologies sont très en vogue. Reste à savoir quelles technologies prospéreront et trouveront des applications efficaces. Je ne pense pas que la blockchain ait le potentiel de se généraliser, sauf dans quelques applications restreintes. L’IA est une autre histoire. Bien que la plupart de ce qui est écrit et dit sur l’IA soit exagéré, il ne fait aucun doute que l’IA progresse rapidement et est mise en œuvre dans de nombreux secteurs. Sur cette seule base, je m’attends à ce qu’elle ait un impact sur de nombreux secteurs de l’économie, notamment les médias sociaux, les communications et la gestion des ressources humaines. Reste à savoir si elle pourra pénétrer d’autres secteurs, tels que la finance, le droit, l’éducation et la santé. Plus important encore, même si elle devait être largement utilisée dans des secteurs tels que l’éducation et la santé, il y a une grande différence entre une bonne et une mauvaise utilisation. Par exemple, il est facile de déployer ChatGPT auprès de millions d’étudiants et de les encourager à apprendre grâce au chatbot plutôt qu’à leurs professeurs. Il est beaucoup plus difficile de s’assurer qu’ils apprennent le bon contenu et qu’ils apprennent efficacement.

L’IA est le domaine du plausible, mais pas encore du rentable. Quel modèle économique pour rendre la technologie de l’IA financièrement viable pour tous ?

Je dirais les choses différemment. À l’heure actuelle, le seul domaine où l’IA peut être utilisée de manière rentable est celui des médias sociaux et des activités de recherche, et même les profits peuvent provenir d’utilisations manipulatrices (fausses informations, collecte d’informations à grande échelle, violation du droit d’auteur, etc.). La question clé est de savoir si nous pouvons trouver une orientation socialement bénéfique pour l’IA, dans laquelle la technologie remplacée serait utilisée pour fournir de meilleures informations aux humains afin qu’ils puissent prendre de meilleures décisions et devenir capables d’effectuer des tâches plus sophistiquées. Ce n’est pas clair et malheureusement ce n’est pas le domaine qui intéresse beaucoup l’industrie.

Je ne vois pas la transformation technologique et culturelle de la société et de l’économie se produire sans une remise en question de nos droits de propriété. Autrement dit, je dois être propriétaire de mes données médicales ou de mon agence numérique et être rémunéré pour cela, si l’IA ou d’autres piles technologiques utilisent ces (mes) données pour apprendre et servir la société dans son ensemble avec de meilleurs produits et services. Pensez-vous que cela se produira ? Meta, Alphabet ou Microsoft, par exemple, peuvent-ils accepter le fait qu’ils devront payer plus de parties prenantes qu’aujourd’hui ? Est-ce une illusion ?

Absolument. Les données sont un intrant essentiel pour l’IA, et il n’existe actuellement aucun marché pour les données, aucun droit de propriété sur les données et aucune incitation pour les individus à créer des données de haute qualité. C’est à la fois injuste (les données des individus sont volées) et improductif (les modèles d’IA sont formés sur des données de mauvaise qualité, ce qui contribue aux hallucinations et à d’autres problèmes dans les modèles disponibles). La solution doit impliquer des marchés de données et des droits de propriété des données. Mais c’est délicat, car les droits de propriété individuels ne fonctionneront pas. Des milliards de personnes produisent des données précieuses, mais les transactions avec des milliards de personnes seraient extrêmement coûteuses. Plus généralement, de nombreuses personnes produisent des données hautement substituables (tout le monde peut reconnaître un chat, donc les plateformes peuvent opposer un groupe d’utilisateurs à un autre pour faire baisser le prix des données). Nous avons donc besoin d’une nouvelle infrastructure pour les marchés de données avec une propriété collective des données, par exemple, de la même manière que la Writers Guild of America sert d’intermédiaire pour protéger les droits des artistes créatifs et induire un type de propriété collective.

Pensez-vous que le système financier et bancaire acceptera un jour les crypto-monnaies, voire même simplement le bitcoin ? Quel est votre avis sur l'avenir du système financier, qui devrait être ouvert à tous et où les frais financiers devraient devenir une marchandise, c'est-à-dire nuls ?

J’espère que non. Les cryptomonnaies sont précieuses à l’heure actuelle pour trois raisons simples : elles permettent des activités illicites ; elles sont très prisées car si l’une d’entre elles devenait largement acceptée, l’entreprise qui en serait responsable deviendrait fabuleusement riche ; et de nombreuses cryptomonnaies ont un effet de bulle, les investisseurs crédules étant parfois encouragés à payer des valorisations excessives pour certaines devises. Aucune de ces sources de valorisation n’est bénéfique socialement. Je pense que les cryptomonnaies pourraient être utiles dans certaines circonstances très précises, mais elles devraient être fortement réglementées.

Pensez-vous que le développement durable a été mal commercialisé jusqu'à présent ? Ne devrions-nous pas plutôt parler d'une transformation totale de la technologie et du marketing du monde, où le monde serait géré de manière plus efficace ? Les défenseurs du développement durable devraient-ils considérer la technologie comme le seul moyen de rendre ce monde moins gourmand en ressources et moins biaisé, et cesser de parler de l'ESG comme d'un élément distinct de notre liste de choses à faire ?

Les critères ESG sont un mélange de nombreux éléments différents et très mal définis. Pour l’instant, ils permettent simplement aux gestionnaires de faire ce qu’ils veulent. Les investisseurs qui se soucient du bien social doivent jouer un rôle important dans l’économie de marché au XXIe siècle. Par exemple, je pense que la pression des investisseurs sur les entreprises du secteur des combustibles fossiles pourrait être très efficace. Mais cela nécessite un ensemble de lignes directrices très claires avec des indicateurs mesurables. Dans le cas des émissions de carbone, nous pouvons le faire. Je préférerais donc abandonner les critères ESG et me concentrer sur le carbone et peut-être sur d’autres questions importantes, telles que les pratiques de travail (par exemple, si les entreprises créent des environnements très dangereux pour les travailleurs ou exercent une pression coercitive sur leurs employés).

La loi européenne sur l’IA semble être la seule réglementation ayant une certaine portée à l’échelle mondiale. Sommes-nous en train d’assister à un monde où les droits des individus seront sacrifiés au nom du progrès, si l’on prend le cas des États-Unis et de la Chine ? Qui fixe les lignes directrices sur ce que l’IA doit faire ?

Oui, absolument, c’est le véritable danger et il est peu probable que la Chine joue un rôle de leader dans ce domaine. Le gouvernement chinois est le plus grand collecteur de données au monde. Le Parti communiste chinois ne s’intéressera probablement pas à la protection des droits individuels, et l’évolution de l’industrie technologique en Chine au cours des deux dernières décennies a créé une culture où la collecte et la surveillance intrusives de données sont devenues la norme. Les régulateurs américains sont toujours très soumis aux caprices et aux désirs de l’industrie technologique. Jusqu’à présent, le leadership dans la lutte contre les pratiques abusives dans l’IA et dans l’industrie technologique en général doit venir de l’Europe. Cela ne peut durer que si l’Europe elle-même devient un acteur majeur de l’IA, et cela ne semble pas être facile. On espère qu’à mesure que le pendule politique américain oscillera en faveur d’une réglementation plus stricte et d’une moindre influence des entreprises technologiques sur la politique, l’Europe commencera à devenir un innovateur, et pas seulement un régulateur, dans l’IA.

Êtes-vous optimiste ou pessimiste quant à l’avenir du monde ?

Ni l’un ni l’autre. On peut utiliser l’IA dans un but pro-travailleurs. On peut utiliser l’IA pour soutenir la démocratie et améliorer la communication. On peut utiliser l’IA d’une manière qui soit compatible avec les droits individuels, la vie privée et l’autonomie individuelle. Mais non, nous n’allons pas dans cette direction. Donc, si je pense qu’il n’y aura pas de réorientation majeure de la technologie et pas de changements majeurs dans les institutions aux États-Unis et ailleurs, je serais très pessimiste. Mais je garde l’espoir qu’il est possible pour nous de changer de cap, de maîtriser les géants de la technologie et de commencer à investir dans une IA qui soit bonne pour les gens (et ce faisant, d’abandonner nos rêves fous d’intelligence générale de l’IA et de nous défaire de notre foi continue dans les géants de la technologie).