L'agent IA OpenClaw est devenu incontrôlable et a supprimé l'e-mail du chercheur Meta

L'agent IA OpenClaw est devenu incontrôlable et a supprimé l'e-mail du chercheur Meta

Summer Yue, chercheuse en sécurité chez Meta AI, a chargé l'agent d'IA OpenClaw de vérifier sa boîte de réception débordante et de suggérer ce qui devrait être supprimé et ce qui devrait être archivé. Le robot a commencé à tout supprimer à une vitesse fulgurante.

La jeune fille a déclaré que l'assistante avait ignoré les ordres du téléphone pour s'arrêter.

«J'ai dû courir sur mon Mac mini comme si je désamorçais une bombe», a-t-elle écrit.

Yue a joint des captures d'écran des commandes d'arrêt ignorées.

Le Mac mini, l'ordinateur bon marché d'Apple, est récemment devenu l'appareil préféré de nombreux utilisateurs pour exécuter OpenClaw.

Les utilisateurs de X se sont demandé : si un chercheur en sécurité de l’IA rencontrait un problème similaire, quelles seraient les chances pour les gens ordinaires ? On lui a demandé si elle testait des restrictions de protection ou si elle avait commis une erreur.

« Pour être honnête, c'est une erreur de débutant », a répondu Yue.

Un employé de Meta avait déjà testé l'agent sur d'autres équipements. Il a gagné sa confiance, alors elle a laissé l'assistant entrer dans le vrai bureau de poste.

Interdiction de la cryptomonnaie

OpenClaw (anciennement Clawdbot) est un service open source devenu populaire fin janvier. Il vous permet de créer des agents IA qui s'exécutent localement sur l'appareil de l'utilisateur.

En février, la startup OpenAI a invité le fondateur d'OpenClaw, Peter Steinberger, à diriger les agents personnels d'IA. Dans le même temps, l'entrepreneur a été accusé d'avoir refusé de lancer le token du projet.

Dans une interview avec Lex Friedman, Steinberger a expliqué comment il avait été attaqué dans la communauté crypto. À un moment donné, le développeur allait supprimer le projet.

Il n’est pas intéressé par l’émission ou la promotion du jeton, mais les utilisateurs le réclament activement. Les gens ont créé un actif numérique et ont commencé à exiger que Steinberger le reconnaisse, reçoive des commissions et le développe. Ils ont spammé Discord et X.

En conséquence, il a été accusé de ne pas avoir pompé le jeton. Dans le même temps, des caméras cryptographiques ont tenté de pirater le Github du développeur, et lors du changement de marque du projet, tous les noms d'utilisateur ont été rapidement interceptés pour promouvoir de nouveaux actifs numériques.

Par la suite, le créateur d'OpenClaw a interdit toute mention de Bitcoin ou de cryptomonnaies dans le serveur Discord du projet. Il a bloqué l'un des utilisateurs pour avoir enfreint une règle.

« Nous avons des règles de serveur strictes que vous avez acceptées lors de votre entrée. L'interdiction totale de mentionner les crypto-monnaies en fait partie », a écrit le développeur.

Il a déclaré que c’était l’intimidation de la communauté crypto qui l’avait forcé à introduire une modération stricte. Certains utilisateurs ont tenté de les dissuader d’une politique aussi stricte, mais en vain.

Certains utilisateurs ont exprimé l'opinion que les crypto-monnaies constituent le meilleur cas d'utilisation pour les paiements parmi les agents d'IA comme OpenClaw :

« Construisez-vous un projet open source décentralisé basé sur Visa ? »

Rappelons qu'en janvier des experts avaient mis en garde contre les dangers liés à l'utilisation de l'assistant IA Clawdbot. Il peut avoir involontairement divulgué des informations personnelles et API-clés.

Abonnez-vous à ForkLog sur les réseaux sociaux

Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE

Newsletters ForkLog : restez à l’écoute de l’industrie Bitcoin !



Voir l’article original en russe