L'investissement croissant dans les agents de l'IA suggère un avenir d'une automatisation généralisée, potentiellement encore plus transformatrice que la révolution industrielle. Comme pour toute innovation technologique, les agents de l'IA sont tenus de faire face à des problèmes dans leur développement. L'amélioration continue sera essentielle pour une utilisation responsable et la réalisation du plein potentiel des agents de l'IA.
Au consensus Hong Kong, Beincrypto a interviewé Andrei Gratchev, associé directeur chez DWF Labs, sur les principaux défis auxquels les agents de l'IA sont confrontés à l'adoption de masse et à ce que pourrait ressembler à l'utilisation généralisée.
Les secteurs technologiques traditionnels et Web3 adoptent l'IA
À ce stade, il est sûr de dire que l'adoption de l'intelligence artificielle (IA) sera bientôt inévitable. Les géants de la technologie, notamment Meta, Amazon, Alphabet et Microsoft, ont déjà annoncé son intention d'investir jusqu'à 320 milliards de dollars dans l'IA et les centres de données en 2025.
Au cours de sa première semaine au pouvoir, le président américain Trump a annoncé que Stargate, une nouvelle coentreprise privée, axée sur le développement du centre de données de l'IA. L'entreprise, composée d'Openai, de Softbank et d'Oracle, prévoit de construire jusqu'à 20 grands centres de données d'IA à travers les États-Unis.
L'investissement initial est estimé à 100 milliards de dollars et les plans d'expansion pourraient porter le total à 500 milliards de dollars d'ici 2029.
Les projets Web3 font également des investissements similaires dans l'IA. En décembre, DWF Labs, une principale société de capital-risque de crypto, a lancé un fonds d'agent d'IA de 20 millions de dollars pour accélérer l'innovation dans les technologies autonomes de l'IA.
Plus tôt ce mois-ci, la Fondation proche, qui soutient le protocole proche, a également annoncé son propre fonds de 20 millions de dollars axé sur la mise à l'échelle du développement d'agents entièrement autonomes et vérifiables fondés sur une technologie proche.
« L'histoire montre que tout ce qui peut être automatisé sera automatisé, et certainement certains processus de vie commerciaux et normaux seront dépassés par les agents de l'IA », a déclaré Grachev à Beincrypto.
Mais à mesure que le développement de l'IA accélère, le potentiel de son utilisation abusive devient une préoccupation croissante.
Utilisation malveillante des agents d'IA
Dans Web3, les agents de l'IA deviennent déjà rapidement courant. Ils offrent diverses capacités, de l'analyse du marché au trading de cryptographie autonome.
Cependant, leur intégration croissante présente également des défis critiques. L'utilisation abusive des acteurs malveillants est une préoccupation majeure, englobant des scénarios allant des simples campagnes de phishing aux attaques sophistiquées des ransomwares.
La disponibilité généralisée de l'IA générative depuis la fin de 2022 a fondamentalement changé la création de contenu tout en attirant des acteurs malveillants cherchant à exploiter la technologie. Cette démocratisation du pouvoir de calcul a amélioré les capacités de l'adversaire et potentiellement réduit la barrière à l'entrée pour des acteurs de menace moins sophistiqués.
Selon un rapport d'attribution, les contrefaçons numériques des documents numériques facilités par les outils d'IA sont désormais plus nombreux que les contrefaçons physiques, avec une augmentation de 244% d'une année à l'autre en 2024. En attendant, Deepfakes a représenté 40% de toute la fraude biométrique.
«Il est déjà utilisé pour les escroqueries. Il est utilisé pour les appels vidéo lors de la déformation des gens et dénouèrent leur voix », a déclaré Gratchev.
Des exemples de ce type d'exploitation ont déjà fait la une des journaux. Plus tôt ce mois-ci, un travailleur financier d'une entreprise multinationale de Hong Kong a été amené à autoriser un paiement de 25 millions de dollars aux fraudeurs utilisant DeepFake Technology.
Le travailleur a assisté à un appel vidéo avec des individus qu'il croyait être des collègues, notamment le directeur des finances de la société. Malgré l'hésitation initiale, le travailleur a procédé au paiement après que les autres participants sont apparus et ont semblé authentiques, selon les rapports. Il a été découvert plus tard que tous les participants étaient des fabrications Deepfake.
De l'adoption précoce à l'acceptation générale
Grachev pense que de telles utilisations malveillantes sont inévitables. Il note que le développement technologique s'accompagne souvent d'erreurs initiales, qui diminuent à mesure que la technologie mûrit. Grachev a donné deux exemples distincts pour prouver son point: les premières étapes du World Wide Web et du Bitcoin.
«Nous devons nous rappeler qu'Internet a commencé à partir des sites pornographiques. C'était comme le premier Bitcoin, qui a commencé à partir des trafiquants de drogue et s'est ensuite amélioré », a-t-il déclaré.
Plusieurs rapports se rangent du côté de Grachev. Ils suggèrent que l'industrie du divertissement pour adultes a joué un rôle crucial dans l'adoption et le développement précoces d'Internet. Au-delà de la fourniture d'une base de consommateurs, il a été le pionnier des technologies comme les magnétoscopes, le streaming vidéo, la réalité virtuelle et toute forme de communication.
Le porno a agi comme un outil d'intégration. L'industrie du divertissement pour adultes a historiquement motivé l'adoption des consommateurs de nouvelles technologies.
Son adoption précoce et son application des innovations, en particulier lorsqu'ils répondent avec succès aux demandes de son public, conduit souvent à une adoption plus large.
«Cela a commencé avec du plaisir, mais amusant à bord de beaucoup de gens. Ensuite, vous pouvez construire quelque chose sur ce public », a déclaré Grachev.
Au fil du temps, des garanties ont également été mises en place pour limiter la fréquence et l'accessibilité des divertissements pour adultes. Quoi qu'il en soit, c'est toujours l'un des nombreux services fournis par Internet aujourd'hui.
Le voyage de Bitcoin de Darknet à la perturbation
L'évolution du bitcoin reflète étroitement les premiers cas d'utilisation d'Internet. L'adoption précoce de Bitcoin était considérablement associée aux marchés de DarkNet et aux activités illicites, notamment le trafic de drogue, la fraude et le blanchiment d'argent. Sa nature pseudonyme et la facilité des transferts de fonds mondiaux l'ont rendu attrayant pour les criminels.
Malgré son utilisation continue dans les activités criminelles, Bitcoin a trouvé de nombreuses applications légitimes. La technologie de la blockchain qui sous-tend les crypto-monnaies fournit des solutions pour des problèmes réels et perturbe les systèmes financiers traditionnels.
Bien qu'ils soient toujours des industries très naissantes, les applications de crypto-monnaie et de blockchain continueront d'évoluer. Selon Garchev, la même chose se produira avec l'emploi progressif de la technologie de l'IA. Pour lui, les erreurs doivent être accueillies pour apprendre d'eux et s'adapter en conséquence.
«Nous devons toujours nous rappeler que la fraude se produit d'abord, puis les gens commencent à réfléchir à la façon de l'empêcher. Bien sûr, cela se produira, mais c'est un processus normal, c'est une courbe d'apprentissage », a déclaré Grachev.
Cependant, la connaissance de ces situations se produira à l'avenir soulève également des questions sur qui devrait être tenu responsable.
Préoccupations de responsabilité
La détermination de la responsabilité lorsque des préjudices se produisent en raison des actions d'un agent est un problème juridique et éthique complexe. La question de savoir comment se soucier de l'IA responsable se pose inévitablement.
La complexité des systèmes d'IA crée des défis pour déterminer la responsabilité de préjudice. Leur nature de «boîte noire», leur comportement imprévisible et leurs capacités d'apprentissage continu rendent difficile l'application d'idées typiques sur qui est en faute lorsque quelque chose ne va pas.
En outre, l'implication de plusieurs parties dans le développement et le déploiement de l'IA complique les évaluations de responsabilité, ce qui rend difficile la détermination de la culpabilité des défaillances de l'IA.
La responsabilité pourrait incomber au fabricant pour la conception ou les défauts de production, le développeur de logiciels pour les problèmes avec le code ou l'utilisateur pour ne pas suivre les instructions, installer des mises à jour ou maintenir la sécurité.
«Je pense que tout le truc est trop nouveau, et je pense que nous devrions pouvoir en tirer des leçons. Nous devrions pouvoir arrêter certains agents de l'IA si cela est nécessaire. Mais de mon point de vue, s'il n'y avait pas de mauvaise intention de le faire, personne en est responsable parce que vous êtes quelque chose de vraiment nouveau », a déclaré Grachev à Beincrypto.
Cependant, selon lui, ces situations doivent être soigneusement gérées pour éviter un impact sur l'innovation continue.
«Si vous blâmez cet entrepreneur, cela tuerait des innovations parce que les gens auraient peur. Mais si cela fonctionne dans le mauvais sens, non, cela pourrait éventuellement fonctionner. Nous devons avoir un moyen de l'arrêter, d'apprendre, d'améliorer et de réapprendre », a ajouté Grachev.
La ligne fine, cependant, reste mince comme un rasoir, en particulier dans des scénarios plus extrêmes.
Aborder les problèmes de confiance pour l'adoption responsable de l'IA
Une peur commune lors de la discussion de l'avenir de l'intelligence artificielle concerne les situations dans lesquelles les agents de l'IA deviennent plus puissants que les humains.
«Il y a beaucoup de films à ce sujet. Si nous parlons, disons, des contrôles de police ou gouvernementaux, ou d'une armée dans une sorte de guerre, l'automatisation est bien sûr comme une grande peur. Certaines choses peuvent être automatisées à un niveau aussi important où ils peuvent blesser les humains », a déclaré Gratchev.
Lorsqu'on lui a demandé si un scénario comme celui-ci pouvait se produire, Gratchev a dit que, en théorie, cela pouvait. Quoi qu'il en soit, il a admis qu'il ne pouvait pas savoir ce qui se passerait à l'avenir.
Cependant, des situations comme celles-ci sont emblématiques des problèmes de confiance fondamentaux entre les humains et l'intelligence artificielle. Grachev dit que la meilleure façon d'aborder ce problème est d'exposer les humains aux cas d'utilisation où l'IA peut réellement être utile.
«L'IA peut être difficile à croire pour les gens. C'est pourquoi cela devrait commencer par quelque chose de simple, car la confiance à l'agent d'IA ne sera pas construite lorsque quelqu'un explique qu'il est digne de confiance. Les gens devraient s'habituer à l'utiliser. Par exemple, si vous parlez de crypto, vous pouvez lancer un mème, disons sur pompe.fun, mais pourquoi ne pas le lancer par message vocal? Avec les agents de l'IA, envoyez simplement un message vocal qui dit «Veuillez lancer ceci et cela» et il est lancé. Et puis l'étape suivante [would be] Faire confiance à l'agent avec des décisions plus importantes », a-t-il déclaré.
En fin de compte, le voyage vers l'adoption généralisée de l'IA sera sans aucun doute marquée par des progrès remarquables et des défis imprévus.
L'équilibrage de l'innovation et la mise en œuvre responsable dans ce secteur en développement sera crucial pour façonner un avenir où l'IA profite à toute l'humanité.
Clause de non-responsabilité
Suivant les directives du projet Trust, cet article de fonctionnement présente des opinions et des perspectives d'experts ou de particuliers de l'industrie. Beincrypto est dédié aux rapports transparents, mais les opinions exprimées dans cet article ne reflètent pas nécessairement celles de Beincrypto ou de son personnel. Les lecteurs doivent vérifier les informations de manière indépendante et consulter un professionnel avant de prendre des décisions en fonction de ce contenu. Veuillez noter que nos termes et conditions, notre politique de confidentialité et nos clauses de non-responsabilité ont été mis à jour.