En résumé
- Le président de la SEC, Gensler, a mis en garde contre le « lavage de l’IA » sur les marchés financiers, le comparant au « greenwashing » des pratiques ESG.
- Gensler a exprimé ses inquiétudes concernant la falsification du marché et la fraude liée à l’IA, appelant à un débat mondial entre les régulateurs.
- En outre, il a souligné les risques de biais et de conflits d’intérêts liés aux données de formation à l’IA en finance, et a mis en garde contre le recours à des ensembles de données centralisés.
Gary Gensler, le président controversé de la Securities and Exchange Commission (SEC) des États-Unis, a une fois de plus mis en garde contre l’intelligence artificielle et contre la manière dont ses progrès rapides pourraient affecter les marchés financiers.
« Il ne devrait pas y avoir de greenwashing, et il ne devrait pas y avoir de lavage de l’IA, je ne sais pas comment le dire autrement », a déclaré Gensler mercredi, lors de l’événement sur l’IA « Balancing Innovation and Regulator » organisé par Messager à Washington, DC « Si vous collectez des fonds auprès du public, si vous offrez et vendez des titres, vous êtes soumis aux lois sur les valeurs mobilières et vous devez fournir une information complète, juste et véridique, et les investisseurs peuvent décider. »
Le greenwashing consiste à faire des déclarations exagérées ou fausses sur les pratiques environnementales, sociales et de gouvernance, également connues sous le nom d’ESG, pour rendre un projet plus attractif. La SEC a déjà averti que l’écoblanchiment peut détourner les investisseurs des risques réels, des récompenses et du prix d’un actif.
Gensler a déclaré que l’enthousiasme autour de l’IA transforme la technologie en une distraction similaire.
« Nous sommes préoccupés par la falsification des marchés et la fraude dans ce dossier macro », […] « Je pense que cela nécessite vraiment beaucoup de discussions, non seulement parmi les régulateurs financiers d’ici, mais partout dans le monde », a déclaré Gensler.
Bien que l’IA générative puisse imiter les modèles de parole et le style d’écriture d’un humain avec une complexité surprenante, il a souligné qu’il y a un humain derrière la machine qui doit répondre des crimes financiers commis par le chatbot.
« Permettez-moi simplement de dire que la fraude est une fraude, et s’il y a un humain qui utilise un modèle qui escroque le public, cet humain, en fonction des faits, aura probablement de nos nouvelles », a déclaré Gensler. « L’intelligence artificielle telle que nous la connaissons aujourd’hui implique toujours des humains. »
Il a reconnu, en plaisantant, que l’implication humaine n’est pas toujours le cas.
« Je ne sais pas quand nous arriverons à l’époque de Sarah Connor », a-t-il déclaré, faisant référence au personnage emblématique joué par Linda Hamilton dans la franchise cinématographique Terminator. « Mais il y a des humains qui mettent en œuvre ce modèle d’IA et définissent ce qu’on appelle des hyperparamètres, donc il y a toujours des humains qui sont responsables de cette IA. »
Gensler s’est concentré sur les risques liés à l’utilisation de l’IA dans la finance, soulignant la possibilité pour les développeurs d’inclure des préjugés personnels et des conflits d’intérêts dans les données de formation. Gensler a également souligné les dangers de s’appuyer sur des ensembles de données uniformes ou centralisés, qui, selon lui, pourraient conduire à une instabilité du marché en raison d’un manque de diversité dans la prise de décision.
« Si une grande partie du marché repose sur un seul ensemble de données, sur les données hypothécaires, […] l’effet néfaste pourrait nous amener à tomber d’une falaise par inadvertance », a ajouté Gensler.
Bien que le nombre de développeurs d’IA et les investissements importants dans ce domaine continuent de croître, Gensler a souligné que nous verrons éventuellement des données moins fragmentées à mesure que le nombre de modèles d’IA se réduira à trois acteurs dominants.
« Cela se produit généralement au début d’une technologie », a déclaré Gensler. « Nous allons donc probablement nous retrouver, en raison de l’économie des réseaux, avec trois de ces fondements ou modèles dominants sur lesquels pratiquement tout le monde s’appuie… c’est une chaîne d’approvisionnement en IA. »
« Si vous n’y avez pas réfléchi, si vous êtes une startup fintech, une banque communautaire, un petit gestionnaire d’actifs, vous ne pouvez pas construire de grands modèles, vous devez vous appuyer sur le modèle de quelqu’un d’autre », a-t-il ajouté.
En septembre, Gensler a ajouté son nom à la liste croissante de responsables gouvernementaux préoccupés par l’impact négatif de l’IA générative, en se concentrant spécifiquement sur les deepfakes générés par l’IA. Témoignant devant la commission sénatoriale des banques, Gensler a averti que les deepfakes d’IA posaient un risque pour les marchés financiers, soulignant un cas dans lequel un deepfake d’IA du président de la SEC avait tenté de manipuler le marché boursier américain.
« Je pense que nous avons de bonnes lois, mais ces nouvelles technologies vont remettre en question ces lois », a déclaré Gensler. « Si vous utilisez l’IA et faites des deepfakes sur le marché, cela représente un risque réel pour les marchés. »
Edité par Ryan Ozawa.sd