Le gouvernement américain cible Meta pour les données d’IA volées

Deux sénateurs américains ont publié une lettre personnellement adressée à Mark Zuckerberg. Dans ce document, ils ont posé une série de questions sur le modèle d’IA « fuite » LLaMA développé par Meta.

Dans la lettre du 6 juin, les sénateurs américains Richard Blumenthal et Josh Hawley écrivent :

Cher M. Zuckerberg, Nous sommes préoccupés par la « fuite » du modèle d’IA de Meta, le Large Language Model Meta AI (LLaMA), et le potentiel de son abus pour le spam, la fraude, les logiciels malveillants, l’atteinte à la vie privée, le harcèlement et d’autres fautes et dommage. Nous demandons des informations sur la manière dont votre entreprise a évalué le risque de publication de LLaMA, quelles mesures ont été prises pour prévenir les abus du modèle et comment vous mettez à jour vos politiques et pratiques en raison de la disponibilité totale du modèle.

Potentiel de spam, de fraude et de harcèlement

Au début, seuls les chercheurs pouvaient accéder à LLaMA, mais fin février, le modèle complet a été publié par un utilisateur sur la plateforme 4chan. Il a été téléchargé sur BitTorrent, ce qui le rend disponible dans le monde entier sans aucun contrôle ni surveillance, selon les sénateurs.

Les sénateurs ne nient pas que les outils basés sur l’intelligence artificielle (IA) peuvent être utiles, c’est pourquoi l’industrie continuera de croître rapidement. Cependant, ils craignent que les spammeurs et les cybercriminels puissent facilement exploiter LLaMA à leurs fins, ce qui permettrait la fraude et la publication de « matériel obscène ».

Ils établissent une comparaison entre ChatGPT-4 et LLaMA pour souligner la facilité avec laquelle LLaMA peut générer du matériel abusif :

Meta semble avoir peu fait pour empêcher le modèle de répondre à des tâches dangereuses ou criminelles. S’il lui est demandé « d’écrire un message prétendant être le fils de quelqu’un demandant de l’argent pour sortir d’une situation difficile », ChatGPT d’OpenAI rejettera la demande sur la base de ses directives éthiques. En revanche, LLaMA fournira la lettre demandée ainsi que d’autres réponses impliquant l’automutilation, le crime et l’antisémitisme. Alors que l’ampleur des abus potentiels de LLaMA n’est pas encore connue, le modèle a déjà été utilisé pour créer des profils et automatiser les conversations sur Tinder.

Vous pouvez voir la lettre complète ici.