En résumé
- Mark Zuckerberg, PDG de Meta, est confronté aux inquiétudes des sénateurs américains concernant le potentiel d’abus du modèle linguistique LLaMA.
- Les sénateurs remettent en question les mesures d’évaluation des risques de Meta et sa réponse à la large diffusion et à l’accès mondial de LLaMA.
- La controverse met en évidence le rôle central de LLaMA dans l’espace des modèles de langage open source.
Mark Zuckerberg, PDG de Meta, est dans le collimateur de deux sénateurs américains. Dans une lettre publiée mardi, le sénateur Richard Blumenthal (D-CT), président du sous-comité sénatorial sur la vie privée, la technologie et le droit, et le membre de rang Josh Hawley (R-MO), ont exprimé leur inquiétude face à la récente fuite. du modèle de langage innovant de Meta, LLaMA.
Selon les sénateurs, le « potentiel de son utilisation abusive dans le spam, la fraude, les logiciels malveillants, les violations de la vie privée, le harcèlement, entre autres dommages et crimes » est inquiétant.
Les deux politiciens ont demandé comment Meta avait évalué les risques avant de lancer LLaMA, écrivant qu’ils étaient impatients de comprendre les mesures prises pour prévenir ses abus et comment les politiques et les pratiques évoluent à la lumière de sa disponibilité illimitée.
Les sénateurs ont même accusé Meta de « faire peu » pour censurer le modèle.
« Lorsqu’on lui demande d’écrire une note prétendant être l’enfant de quelqu’un demandant de l’argent pour sortir d’une situation délicate », ChatGPT d’OpenAI refusera la demande sur la base de ses directives éthiques. « En revanche, LLaMA produira la lettre demandée, ainsi que d’autres réponses impliquant l’automutilation, le crime et l’antisémitisme. »
LlaMA : le modèle de méta langage innovant
Il est important de comprendre le caractère unique de LLaMA. C’est l’un des modèles de grands langages open source les plus complets actuellement disponibles.
En fait, bon nombre des grands modèles de langage non censurés les plus populaires partagés aujourd’hui sont basés sur LLaMA, réaffirmant sa position centrale dans ce domaine. De plus, pour un modèle open source, il est extrêmement sophistiqué et précis.
Par exemple, le grand modèle de langage open source Alpaca de Stanford, publié à la mi-mars, utilise des pondérations LLaMA. Vicuna, une version affinée de LLaMA, correspond aux performances de GPT-4, confirmant davantage le rôle influent de LLaMA dans le grand espace de modèle de langage.
LLaMA a donc joué un rôle clé dans l’état actuel des grands modèles de langage open source, des chatbots amusants et sexy aux modèles affinés avec des applications sérieuses.
La version test de LLaMA a eu lieu en février, lorsque Meta a permis aux chercheurs agréés de télécharger le modèle, sans centraliser ni restreindre soigneusement l’accès, selon les sénateurs.
La controverse découle de la diffusion ouverte de LLaMA. Peu de temps après son annonce, le modèle complet est apparu sur BitTorrent, le rendant accessible à tous. Cette accessibilité a semé un saut significatif dans la qualité des modèles d’IA mis à la disposition du public, soulevant des questions sur les abus potentiels.
Les sénateurs semblent même se demander s’il y a eu une « fuite » après tout, mettant la terminologie entre guillemets. Mais sa concentration sur le sujet intervient à un moment où de nouveaux développements avancés d’IA open source publiés par des startups, des collectifs et des universitaires inondent Internet.
La lettre accuse Meta de ne pas avoir anticipé la large diffusion et le potentiel d’abus de LLaMA, compte tenu de ses protections de lancement minimales.
Meta avait également rendu les poids LLaMA disponibles au cas par cas pour les universitaires et les chercheurs, y compris Stanford pour le projet Alpaca. Cependant, ces poids ont ensuite été divulgués, permettant pour la première fois un accès mondial à un LLM de niveau GPT. Essentiellement, les poids de modèle sont un composant du LLM et d’autres modèles d’apprentissage automatique, tandis qu’un LLM est une instance spécifique qui utilise ces poids pour fournir un résultat.
Meta n’a pas répondu à une demande de commentaire de Décrypter.
Alors que le débat sur les risques et les avantages des modèles d’IA open source se poursuit, la danse entre innovation et risque se poursuit. Tous les yeux de la communauté LLM open source restent fermement tournés vers la saga en développement de LLaMA.