Deux des sociétés d'IA les plus puissantes ont fait quelque chose de rare dans le secteur technologique : elles ont demandé au gouvernement de réglementer une industrie dans laquelle elles n'opèrent pas. OpenAI et Anthropic ont cosigné une lettre exhortant le Congrès américain à imposer de nouvelles règles plus strictes aux régulation de l’ADN synthétique par l’IAnon pas pour limiter leurs modèles, mais pour empêcher ces modèles d'aider quelqu'un à synthétiser une arme biologique.
Cette décision se démarque pour une raison simple. Sam Altman et Dario Amodei dirigent des entreprises qui se livrent une concurrence féroce pour attirer les talents, la puissance de calcul, les capitaux et les clients. Pourtant, ils ont signé la même lettre, et c’est important car cela montre à quel point les deux sociétés prennent le risque au sérieux. En pratique, leur accord est le signe que la menace dépasse la théorie.
Les dirigeants d’IA exhortent le Congrès à réglementer la vente d’ADN synthétique
La lettre se concentre sur la chaîne d'approvisionnement en ADN synthétique, le réseau commercial de fournisseurs qui produisent des séquences génétiques personnalisées pour la recherche, la médecine et la biologie industrielle. Actuellement, toute personne disposant de suffisamment d’argent et d’une adresse de livraison peut commander de l’ADN synthétisé auprès d’un nombre croissant de fournisseurs. Parallèlement, le processus devient de plus en plus automatisé et plus accessible.
Ce qui préoccupe OpenAI et Anthropic, c'est ce qui se passe lorsque de puissants modèles de langage entrent dans ce flux de travail. L’IA peut aider un utilisateur à comprendre des processus biologiques complexes, à résoudre des problèmes de synthèse, à évaluer des agents pathogènes dangereux et à identifier des séquences présentant des caractéristiques spécifiques. Pour cette raison, la combinaison d’une IA accessible et d’une synthèse d’ADN accessible crée une voie qui n’existait pas de manière significative il y a cinq ans.
La lettre ne demande pas au Congrès de limiter directement les modèles d’IA. Au lieu de cela, il cible le goulot d'étranglement physique : le moment où une commande de synthèse quitte l'usine d'un fournisseur.
Règles proposées pour les fournisseurs de synthèse d’ADN et d’ARN
Le cadre décrit dans la lettre est spécifique et opérationnel. Il ne s’agit pas d’un appel général à « davantage de surveillance ». Au lieu de cela, il définit trois exigences concrètes pour les fournisseurs de synthèse d’ADN et d’ARN.
Contrôle obligatoire contre les bases de données de séquences dangereuses
Chaque ordre de synthèse doit être vérifié par rapport aux bases de données établies de séquences dangereuses connues avant son exécution. En pratique, les fournisseurs devraient faire passer chaque séquence demandée à travers un filtre de biosécurité pour vérifier si elle ressemble ou correspond au matériel génétique lié à des agents, toxines ou autres menaces biologiques sélectionnés.
Vérification client pour les commandes de synthèse d'ADN
La vérification du client passerait de facultative à obligatoire. Actuellement, les fournisseurs de résumés varient considérablement dans la manière dont ils contrôlent qui passe une commande. Dans le cadre proposé de conformité pour la synthèse de l'ADNce processus de vérification serait standardisé et rendu obligatoire dans toute l’industrie.
Évaluations complètes des risques avant l’expédition
Avant l’expédition de toute commande, les fournisseurs doivent effectuer des évaluations complètes des risques au niveau de chaque commande. Cela signifie examiner non seulement la séquence elle-même, mais également le contexte de la demande, y compris qui commande, l'objectif déclaré et si l'ensemble des détails soulève des signaux d'alarme qui nécessitent un examen plus approfondi ou un refus.
Ensemble, ces mesures pousseraient l’industrie de la synthèse d’ADN de pratiques largement autoréglementées à un système de conformité mandaté par le gouvernement fédéral.
Pourquoi OpenAI et Anthropic voient un risque lié aux armes biologiques dans l'IA
La pression en faveur d’une réglementation ne découle pas d’une vague préoccupation. OpenAI mène des exercices internes d'équipe rouge depuis début 2024 pour tester si ses grands modèles de langage pourraient fournir une aide significative à quelqu'un qui évalue les menaces biologiques. Les résultats étaient suffisamment préoccupants pour convaincre l’entreprise que les normes volontaires de l’industrie ne suffisaient plus.
Ce point est important car le red-teaming sert à tester un système dans des conditions défavorables. En d’autres termes, il s’agit de savoir quel pourrait être le pire scénario d’abus. Les évaluations internes d'OpenAI ont fait apparaître des scénarios de risque crédibles liés aux armes biologiques, et ces conclusions ont contribué à façonner l'argument en faveur d'une réglementation.
Dario Amodei a également parlé ouvertement des risques biologiques liés à l'IA. Les recherches d'Anthropic ont mis en évidence le potentiel des grands modèles de langage pour apporter une « amélioration » significative – un terme de biosécurité désignant une assistance qui aide quelqu'un à se rapprocher d'une capacité dangereuse qu'il ne pourrait pas atteindre par lui-même – aux personnes essayant de naviguer dans des processus biologiques complexes. En conséquence, la co-signature du même document par Amodei et Sam Altman représente un rare moment de consensus dans l'industrie.
Cet alignement entre concurrents envoie un message au Congrès. Lorsque les deux principaux laboratoires d’IA s’accordent sur le fait qu’une menace est suffisamment grave pour nécessiter une intervention gouvernementale, l’argument en faveur de l’inaction s’affaiblit.
Ce que la réglementation de l’ADN synthétique par l’IA pourrait signifier pour les marchés biotechnologiques
Si elle est adoptée, la proposition pourrait remodeler plusieurs marchés à la fois, mais pas de la même manière.
Pour les entreprises de synthèse d’ADN, les systèmes de contrôle, les outils de vérification des clients et les évaluations des risques au niveau des commandes entraîneraient des coûts réels. Les petits fournisseurs avec de faibles marges pourraient avoir des difficultés particulières à satisfaire à de telles exigences de conformité. En conséquence, le marché pourrait se consolider, les grandes entreprises disposant déjà d’infrastructures de conformité devant leurs concurrents plus petits. Les nouveaux arrivants seraient également confrontés à des obstacles plus élevés.
Dans le même temps, la proposition pourrait créer un vent favorable pour un autre groupe d’entreprises. Les entreprises de technologie de biosécurité, en particulier celles qui développent des plateformes d’analyse de séquences, des bases de données sur les menaces biologiques et des outils de dépistage, pourraient connaître une demande plus forte si la réglementation fédérale créait un besoin formel pour leurs produits. En ce sens, le respect obligatoire de la synthèse de l’ADN pourrait ouvrir un nouveau marché pour les investissements dans les technologies de biosécurité.
La situation est plus complexe pour la science décentralisée. Plusieurs projets DeSci basés sur la blockchain se situent à l'intersection de l'IA et de la recherche biologique, offrant des plateformes ouvertes pour le partage de données génomiques, la découverte de médicaments et des outils de biologie synthétique. Cependant, le dépistage obligatoire au niveau de la synthèse de l’ADN pourrait créer des frictions pour les flux de travail en libre accès qui dépendent d’une transition fluide entre les différentes phases de recherche. Les projets construits autour d’un accès sans autorisation aux données biologiques devront peut-être être repensés pour prendre en compte des points de contrôle de conformité pour lesquels ils n’étaient pas destinés.
Le contexte politique plus large est également important. Cette initiative s’inscrit dans la dynamique politique plus large de l’IA de 2026 en matière de surveillance des technologies à double usage. Le chevauchement entre la biologie synthétique et l’IA en fait l’un des exemples les plus clairs de risque de double usage : une technologie essentielle à la légitimité de la science mais potentiellement catastrophique entre de mauvaises mains. Dans ce contexte, la lettre OpenAI-Anthropic s’inscrit dans un débat plus large sur la question de savoir où fixer la limite.
Que le Congrès agisse rapidement, lentement ou pas du tout déterminera si la lettre deviendra une étape importante en matière de politique publique ou une note de bas de page dans l’histoire. Des infrastructures de contrôle, des systèmes de vérification et des protocoles d’évaluation des risques existent déjà dans certains secteurs de l’industrie. La question ouverte est de savoir si ces mesures deviendront juridiquement obligatoires, universellement appliquées et appliquées de manière cohérente.
FAQ
Pourquoi OpenAI et Anthropic réclament-ils une régulation de la vente d’ADN synthétique ?
Les deux sociétés affirment que les modèles d’IA peuvent apporter une aide significative aux personnes qui évaluent et développent potentiellement des menaces biologiques. Combinée à l’accessibilité de la synthèse commerciale de l’ADN, cette capacité, disent-ils, crée un risque sérieux de biosécurité que les normes volontaires de l’industrie ne peuvent à elles seules gérer. Leur lettre au Congrès américain appelle à une intervention fédérale dans la chaîne d'approvisionnement de synthèse.
Quelles mesures réglementaires spécifiques sont proposées dans la lettre ?
La lettre propose trois exigences principales : un examen obligatoire de toutes les commandes de synthèse d'ADN et d'ARN par rapport à des bases de données de séquences connues pour être dangereuses, une vérification obligatoire du client pour chaque commande de synthèse et des évaluations complètes des risques pour chaque commande avant expédition.
Comment l’IA a-t-elle démontré les risques potentiels en contribuant au développement d’armes biologiques ?
OpenAI a déclaré avoir commencé des exercices internes d'équipe rouge au début de 2024 pour tester si ses grands modèles de langage pouvaient fournir une aide significative à quelqu'un qui évalue les menaces biologiques. De tels exercices ont produit des résultats suffisamment sérieux pour pousser l’entreprise vers une action réglementaire au lieu de s’appuyer uniquement sur l’autoréglementation.
Quel impact la réglementation pourrait-elle avoir sur les entreprises de biotechnologie et les marchés technologiques ?
Les coûts de conformité pourraient entraîner une plus grande concentration parmi les fournisseurs de synthèse d’ADN, en particulier parmi les petites entreprises. Parallèlement, les entreprises axées sur l'analyse de séquences, les systèmes de dépistage et les bases de données sur les menaces biologiques pourraient en bénéficier si les réglementations fédérales créaient une demande plus large pour leurs outils.
Comment ces réglementations pourraient-elles affecter les projets scientifiques décentralisés impliquant la biologie synthétique ?
Les projets DeSci basés sur la blockchain et qui reposent sur le partage ouvert de données biologiques et d'outils de biologie synthétique pourraient être confrontés à de nouvelles frictions. Un contrôle obligatoire au niveau de la synthèse de l’ADN pourrait les obliger à ajouter des étapes de conformité aux flux de travail conçus autour d’un accès ouvert et sans autorisation.
Voir l’article original en italien
