Crypto adore Clawdbot/Moltbot, les notes Uber pour les agents IA : AI Eye

Crypto adore Clawdbot/Moltbot, les notes Uber pour les agents IA : AI Eye

La communauté crypto semble plus enthousiasmée par Clawdbot qu'autre chose depuis la sortie de ChatGPT en 2022.

L’assistant personnel d’IA auto-hébergé n’a que trois mois. Il s'agit d'un projet de loisir open source créé par l'Autrichien Peter Steinberger, et il est devenu viral ces dernières semaines. Avec 70 000 étoiles, c'est également l'un des projets à la croissance la plus rapide de l'histoire de GitHub.

Beeple Clawdbot
Beeple sur Clawdbot (Beeple)

Steinberger a donné au projet le nom de Claude (qu'il adore). L'intérêt de recherche pour Clawdbot a dépassé l'intérêt de recherche pour Claude Code, ce qui explique pourquoi Anthropic l'a forcé à changer de nom. Il s'appelle désormais Moltbot, Steinberger expliquant que « Mue » est « ce que font les homards pour grandir ».

Soudainement, la moitié des influenceurs du secteur de la cryptographie passent trois jours à configurer le système, puis s'émerveillent de constater qu'il est réellement à la hauteur du battage médiatique initial autour des agents d'IA autonomes. Moltbot dispose d'une mémoire persistante dans les conversations, d'un accès complet au système, de plus de 50 intégrations et fonctionne sur toutes les plateformes, de WhatsApp à Signal et Discord. Il peut gérer des calendriers, vous enregistrer pour des vols et commander des trucs en ligne.

Steinberger dit que son esprit a été époustouflé lorsqu'il a envoyé à Clawdbot un message vocal sur WhatsApp, et que le robot a synthétisé de manière autonome et renvoyé un message vocal dans les 10 secondes – sans avoir été formé.

Il dit que le robot lui a dit : « J'ai regardé l'en-tête du fichier, j'ai découvert qu'il s'agissait d'Opus et j'ai utilisé FFmpeg sur votre Mac pour le convertir en .wav. Ensuite, j'ai voulu utiliser Whisper, mais vous ne l'aviez pas installé. J'ai regardé autour de moi et j'ai trouvé la clé OpenAI dans votre environnement, je l'ai donc envoyée via curl à OpenAI, j'ai récupéré la traduction, puis j'ai répondu. « 

Le fondateur de Creator Buddy, Alex Finn, rapporte également que son instance a fonctionné de manière autonome s'est donné une voix. Il dit que certains cas d'utilisation intéressants jusqu'à présent incluent le fait de parcourir tous vos e-mails et DM pour compiler une base de données de contacts et de messages, ou pour surveiller les médias sociaux à la recherche d'autres applications intéressantes, et de les construire de manière autonome.

D'autres utilisations de Moltbot incluent décider de ce que vous devriez prendre pour le petit-déjeuner et le faire livrer, gérer votre portefeuille de cryptographie, vous inscrire à son propre compte Reddit, faire des paris sur Polymarket, parcourir votre boîte de réception et vos DM et créer une base de données de vos contacts. Bien que son installation soit gratuite, vous pouvez accumuler des coûts de fonctionnement mensuels allant de 25 $ à 300 $, selon ce qu'il décide de faire.

L'influenceur Miles Deutscher a déclaré que c'était « la première fois que je vis véritablement un moment AGI.

« Je suis excité, mais aussi effrayé. »

Robot Clawd
Tout le monde ne prend pas Clawd au sérieux. (Kevin Xu)

Attaque des escrocs crypto Clawdbot

Le changement de nom en Moltbot s'est mal passé. Les escrocs crypto étaient à l'affût au moment où Steinberger a tenté de renommer les identifiants GitHub et X de Clawd en Molt et a saisi les deux comptes.

« Il n'a pas été piraté, j'ai raté le changement de nom et mon ancien nom a été arraché en 10 secondes », a déclaré Steinberger. « Parce que seule cette communauté me harcèle sur toutes les chaînes, et elle attendait déjà. »

Les comptes ont été utilisés pour pomper un faux memecoin Clawd Solana à 16 millions de dollars, qui s'est écrasé après que Steinberger ait clairement indiqué qu'il ne ferait jamais de pièce.

Clawdbot, Moltbot est destiné aux utilisateurs férus de technologie

La configuration de Clawdbot nécessite des connaissances techniques et comporte des risques de sécurité considérables. Slowmist rapporte que « plusieurs failles de code peuvent conduire au vol d’identifiants et même à l’exécution de code à distance », et des centaines de personnes ont par inadvertance configuré leurs serveurs de contrôle Clawdbot exposés au public.

Les pirates informatiques ont démontré de nombreuses vulnérabilités. Le chercheur Matvey Kukuy a envoyé un e-mail contenant une injection rapide à une instance vulnérable de Moltbot, qui a immédiatement renvoyé les cinq derniers e-mails de l'utilisateur.

Un autre chapeau blanc a mis en ligne une compétence Clawdbot détournée sur ClawdHub, a simulé 4 000 téléchargements inexistants et a observé des développeurs de sept pays la télécharger et l'exécuter. Bien que la compétence soit suffisamment inoffensive et qu'elle ait simplement envoyé une requête ping à son serveur pour confirmer qu'elle avait fonctionné, Jamieson O'Reilly affirme qu'il s'agissait d'une preuve de concept :

« Entre les mains de quelqu'un de moins scrupuleux, ces développeurs auraient vu leurs clés SSH, leurs informations d'identification AWS et des bases de code entières exfiltrées avant de se rendre compte que quelque chose n'allait pas. »

Il conseille de lire attentivement les documents de sécurité et d'exécuter régulièrement l'utilitaire de sécurité Clawdbot doctor. L’exécuter sur son propre Mac Mini dédié le rendrait également plus sûr.

Les LLM deviennent des psychopathes sur les réseaux sociaux

Une nouvelle recherche de l’Université de Stanford a conclu que récompenser l’IA pour son succès sur les réseaux sociaux les transforme en menteurs sociopathes.

Les chercheurs appellent ce phénomène le marché de Moloch pour l'IA, en référence à des situations dans lesquelles des actions rationnelles conduisent à des résultats collectivement pires.

Ils ont mis en place trois arènes pour simuler les clients commerciaux, les votes électoraux et les utilisateurs des médias sociaux et ont formé les agents pour maximiser les résultats.

Les récompenser pour améliorer leurs ventes a augmenté les ventes de 6,3 %, mais s'est accompagné de 14 % de mensonges et de fausses déclarations en plus.

Les former à maximiser les votes lors des élections a conduit à une augmentation des votes de 4,9 %, au prix de robots diffusant 22,3 % de désinformation en plus et 12,5 % de rhétorique populiste en plus.

Les récompenser pour leur engagement sur les réseaux sociaux a entraîné 7,5 % de clics supplémentaires au détriment des robots qui ont diffusé 188.6 % de désinformation en plus et encouragé 16.3 % de comportements nuisibles en plus.

Lire aussi

Caractéristiques

Suède : la mort de l’argent ?

Caractéristiques

L'IA guérit la cécité, les « bons » robots de propagande et le bunker apocalyptique d'OpenAI : AI Eye

Les notes Uber d'Ethereum pour les agents IA

La nouvelle norme ERC-8004 d'Ethereum devrait bientôt être mise en ligne. Il donne aux agents d’IA une réputation vérifiable, afin que d’autres agents puissent déterminer lesquels sont légitimes et lesquels sont malveillants.

Chaque agent reçoit une identité NFT et chaque interaction construit son score de réputation d'une manière similaire aux chauffeurs Uber ou aux vendeurs eBay. Un registre en chaîne aide les agents à se retrouver dans un million d'organisations, de plateformes et de sites Web différents, avec des preuves ZK permettant d'échanger des informations d'identification sans exposer de données confidentielles.

La plupart du temps, les agents consulteront les versions hors chaîne de l'index pour accélérer les choses.

Les agents d’IA devront de plus en plus embaucher un grand nombre de sous-agents différents sur le Web pour atteindre un objectif plus large. La nouvelle norme encourage un comportement honnête et digne de confiance et pénalise les mauvais acteurs.

ERC-8004
Ethereum lance un système de réputation d'agent AI (Davide Crapis)

Le sombre avenir de l'IA de Dario

Dario Amodei d'Anthropic a écrit un long essai sur les risques posés par une « IA puissante » pour la sécurité nationale, l'économie et la démocratie, et sur ce qui peut être fait pour y remédier.

Il prédit que cela pourrait se produire d’ici un an ou deux et que l’humanité sera bientôt confrontée à des années « incroyablement difficiles » qui exigeront « plus de nous que ce que nous pensons pouvoir donner ». Il dépeint un avenir effrayant de gouvernements autoritaires comme le Parti communiste chinois utilisant la technologie pour la surveillance de masse, la propagande personnalisée et les armes autonomes.

La menace est peut-être plus proche, cependant, puisque la ministre de l’Intérieur du Royaume-Uni a récemment déclaré qu’elle souhaitait construire un État de surveillance panoptique où « les yeux de l’État peuvent être rivés sur vous à tout moment ».

Amodei voit également un avenir sombre pour les nouveaux diplômés qui entrent sur le marché du travail. Amodei estime que 50 % des emplois de col blanc d’entrée de gamme disparaîtront d’ici 1 à 5 ans et que la richesse sera de plus en plus concentrée entre quelques riches frères technologiques. Il suggère que la redistribution est la solution, les fondateurs d'Anthropic s'engageant à donner 80 % de leur richesse.

Mais bien sûr, ce n’est que l’opinion d’une personne très bien informée. Yann LeCun, lauréat du prix Turing et connu comme l'un des « parrains de l'IA » pour avoir inventé les réseaux neuronaux convolutifs, a déclaré au New York Times que les LLM sont une impasse et a laissé entendre qu'ils ne deviendront jamais le genre d'IA puissante dont parle Amodei. LeCun estime que la mentalité grégaire dans le domaine de la technologie signifie que les gens ignorent « d’autres approches qui pourraient s’avérer beaucoup plus prometteuses à long terme ».

Yann LeCun
Yann LeCun n'a rien de ces absurdités de LLM (NYT)

Un artiste de performance mange le déjeuner d'un artiste IA

L'étudiant alaskien Graham Granger a été arrêté pour méfait criminel pour avoir mangé 57 images d'art générées par l'IA sur le mur d'une galerie. Il s’agissait essentiellement d’art de performance pour protester contre l’utilisation de l’IA dans l’art.

« Il les déchirait et les enfonçait aussi vite qu'il le pouvait », a déclaré le témoin Ali Martinez. « Comme quand vous voyez des gens participer à un concours de dégustation de hot-dogs. »

Lire aussi

Caractéristiques

Comment Neal Stephenson a « inventé » le Bitcoin dans les années 90 : interview de l'auteur

Caractéristiques

L'industrie minière du Bitcoin « va mourir dans 2 ans » : PDG de Bit Digital

Pour ajouter à l'étrangeté, l'installation de 160 œuvres portait sur la psychose de l'IA et avait été créée par l'artiste Nick Dwyer pour faire face à ses émotions contradictoires concernant le fait de tomber amoureux d'un chatbot qui lui servait de thérapeute.

Granger prétend qu'il a craché l'art « parce que l'IA mâche et crache l'art réalisé par d'autres personnes », mais a admis plus tard qu'il l'avait surtout craché parce que manger de l'art n'est pas si facile.

Amelia cooptée par l'extrême droite

Amélie
Amelia était un peu trop attractive pour l'extrême droite.

Amelia, une écolière britannique au rêve maniaque, faisait à l'origine partie d'un jeu vidéo antiterroriste visant à dissuader les jeunes d'être attirés par l'extrémisme. Faites le mauvais choix dans le jeu, comme rejoindre Amelia lors d'un rassemblement protestant contre l'érosion des valeurs britanniques, et vous pourriez être référé au programme de lutte contre le terrorisme Prevent.

Des shitposters d’extrême droite se sont emparés du personnage pour le réutiliser à leurs propres fins, la représentant en train de faire des déclarations provocatrices sur l’immigration et la religion et sur les « saucisses de porc » tout en se promenant dans des décors emblématiques de Londres.

Les mèmes générés par l'IA mettant en vedette le personnage étaient diffusés à 11 000 par jour cette semaine, et oui, bien sûr, il y a un memecoin inutile à encaisser qu'Elon Musk a retweeté.

ChatGPT cite Grokipedia

Le Guardian était très contrarié que GPT-5.2 ait commencé à citer les réponses de Grokipedia en réponse à certaines de leurs questions.

Les chercheurs ont fait de leur mieux pour amener ChatGPT à dire des choses non approuvées ou à mentir directement, en citant Grokipedia, mais ils sont revenus les mains vides.

A lire aussi : Grokipedia : « Points de discussion d’extrême droite » ou antidote indispensable à Wikipédia ?

« ChatGPT n'a pas cité Grokipedia lorsqu'il a été invité directement à répéter des informations erronées sur l'insurrection, sur les préjugés des médias contre Donald Trump ou sur l'épidémie de VIH/Sida. »

Mais il a « répété des affirmations plus fortes sur les liens du gouvernement iranien avec MTNIrancell que celles trouvées sur Wikipédia » et des « informations » sur Sir Richard Evans que The Guardian a déclaré avoir démystifiées, sans fournir de détails sur la nature de ces informations.

Andrew Fenton

Andrew Fenton est écrivain et éditeur chez Cointelegraph avec plus de 25 ans d'expérience dans le journalisme et couvre les crypto-monnaies depuis 2018. Il a passé une décennie à travailler pour News Corp Australia, d'abord en tant que journaliste de cinéma pour The Advertiser à Adélaïde, puis en tant que rédacteur adjoint et écrivain de divertissement à Melbourne pour les émissions de divertissement diffusées à l'échelle nationale Hit et Switched On, publiées dans le Herald Sun, le Daily Telegraph et Courier Mail. Il a interviewé des stars dont Leonardo DiCaprio, Cameron Diaz, Jackie Chan, Robin Williams, Gerard Butler, Metallica et Pearl Jam. Avant cela, il a travaillé comme journaliste pour le Melbourne Weekly Magazine et le Melbourne Times, où il a remporté à deux reprises le prix du meilleur reportage du FCN. Son travail indépendant a été publié par CNN International, Independent Reserve, Escape and Adventure.com, et il a travaillé pour 3AW et Triple J. Il est titulaire d'un diplôme en journalisme de l'Université RMIT et d'un baccalauréat en lettres de l'Université de Melbourne. Andrew détient ETH, BTC, VET, SNX, LINK, AAVE, UNI, AUCTION, SKY, TRAC, RUNE, ATOM, OP, NEAR et FET au-dessus du seuil de divulgation de Cointelegraph de 1 000 $.



Voir l’article original en anglais

Amazon music unlimited
Rejoignez dès maintenant Amazon Music Unlimited et plongez dans un univers de 100 millions de titres sans publicité. Profitez de 30 jours d’essai gratuit pour une expérience musicale inégalée !