Le PDG d'Anthropic, Dario Amodei, a déclaré que la société ne soutenait pas l'interdiction des modèles à poids ouvert en tant que classe, mais pensait qu'une surveillance stricte de leur développement était nécessaire.
Il a proposé de renforcer le contrôle de la fourniture de copeaux à la Chine, de mettre un terme à la distillation illégale et d'introduire des tests de sécurité obligatoires pour les puissants LLM.
Le 24 juillet, 25 entreprises, dont Nvidia, Microsoft, Meta, Andreessen Horowitz, Hugging Face, IBM et Dell, ont publié une lettre ouverte aux autorités américaines les appelant à ne pas imposer de restrictions sur les modèles à poids ouvert.
L'attention de la communauté a été attirée sur le fait qu'OpenAI, Anthropic et Alphabet ne figuraient pas parmi les signataires de la pétition. La position de ce dernier a été immédiatement clarifiée par le patron de Google DeepMind, Demis Hassabis :
« Un écosystème ouvert robuste et sécurisé est essentiel pour que le monde puisse bénéficier de l'IA. Nous avons toujours soutenu et contribué activement à l'open source et à la science. »
Il a rappelé la famille de LLM ouverts Gemma lancée par l'entreprise, qui ont été téléchargés plus de 300 millions de fois au total. Son tweet a été republié par le PDG de Google, Sundar Pichai.
Amodei a souligné dans l’article qu’Anthropic « n’a jamais préconisé l’interdiction des modèles à poids ouvert ». Il a déclaré que les LLM avec des pondérations ouvertes et sans opportunités risquées fonctionnent pour le bien public et profitent aux entreprises, aux développeurs et aux chercheurs.
Il a décrit deux scénarios comme principaux risques. La première est si le Parti communiste chinois ou d’autres gouvernements autoritaires se procurent des modèles plus puissants que les modèles américains et les utilisent pour la suprématie militaire ou la répression. La seconde est si les réseaux neuronaux avancés deviennent un outil pour les cybermenaces, les attaques biologiques ou présentent de graves problèmes. Alignement de l'IA.
Selon Amodei, l'interdiction de l'utilisation de modèles chinois à poids ouvert par les entreprises américaines ne couvre aucune de ces menaces. Une telle décision réduirait la pression concurrentielle sur les développeurs américains plutôt que de gêner les attaquants potentiels.
Au lieu d’interdictions, le responsable d’Anthropic a identifié trois mesures :
- Limiter la fourniture à la Chine de puces et d'équipements puissants pour leur production, et exercer une pression plus forte sur les systèmes de contrebande et de contournement.
- Arrêter la distillation industrielle : Amodei l'a qualifié d'alternative informatiquement plus efficace à l'apprentissage à partir de zéro et a suggéré que cela pourrait réduire l'écart entre les LLM avancés chinois et les américains de quelques mois à seulement six mois.
- Introduire des tests de sécurité obligatoires pour tous les modèles suffisamment puissants, qu'ils aient ou non des poids ouverts.
Il a également critiqué l’idée selon laquelle les modèles à poids ouvert contribuent automatiquement davantage à la défense qu’à l’attaque. Amodei a cité comme exemple les menaces biologiques, dans lesquelles il pense que les attaquants peuvent avoir un avantage.
Rappelons que les journalistes de WAJ ont enregistré un certain nombre de cas où des chatbots d'OpenAI, Anthropic, Google et xAI ont donné des conseils sur la production de poisons et d'armes biologiques. Certains cas comprenaient des instructions détaillées étape par étape.
Voir l’article original en russe
