Anthropic affirme que ses préoccupations en matière d'IA se concentrent sur les utilisations abusives, notamment les cyberattaques et les menaces biologiques, plutôt que sur l'interdiction des modèles ouverts.
Les chiffres de la cryptographie avertissent que le contrôle du gouvernement sur ce que les systèmes d'IA peuvent savoir ou discuter pourrait créer un dangereux précédent, après qu'Erik Voorhees a soutenu sur X le 28 juillet que les États ne devraient pas décider quelles formes de renseignement sont « sûres ».
Le message a atterri au milieu d'un nouveau débat sur le degré de surveillance que les entreprises d'IA devraient accepter, un débat qui a repris après qu'Anthropic ait exposé sa propre position sur les modèles à pondération ouverte.
Erik Voorhees met en garde contre le contrôle étatique des connaissances en IA
Voorhees, défenseur de longue date du Bitcoin et fondateur de l'échange cryptographique ShapeShift, a publié son commentaire après qu'Anthropic a publié une déclaration du PDG Dario Amodei repoussant les affirmations selon lesquelles le géant de l'IA préconisait l'interdiction des modèles chinois à poids ouvert.
Amodei a insisté sur le fait que son entreprise « n’a jamais préconisé l’interdiction des modèles à poids ouvert » et a soutenu que de tels systèmes peuvent apporter de la valeur aux développeurs, aux entreprises et aux chercheurs lorsqu’ils ne disposent pas de capacités dangereuses.
Selon l'exécutif, les principales préoccupations d'Anthropic concernaient les gouvernements autoritaires développant une IA avancée à des fins militaires ou de surveillance, ainsi que la possibilité d'une utilisation abusive dans le cadre de cyberattaques ou de menaces biologiques. La société a déclaré qu'elle soutenait les restrictions sur l'accès aux puces avancées et les mesures contre la distillation à l'échelle industrielle, ainsi que les tests de sécurité pour les systèmes d'IA hautement performants.
The Information a récemment rapporté que l’administration Trump était en train de finaliser un cadre permettant aux entreprises d’IA de soumettre volontairement leurs modèles les plus avancés au gouvernement pour tests.
Mais Voorhees n’était pas d’accord, affirmant que permettre aux gouvernements de définir des connaissances acceptables en matière d’IA pourrait aller au-delà de son objectif initial. Dans son message, il a parcouru une progression hypothétique commençant par une règle apparemment raisonnable interdisant de discuter des armes biologiques, puis des armes dangereuses en général, puis de tout ce qui est contraire à la santé et à la sécurité publiques, puis de tout ce qui compromet la solvabilité financière, et se termine par l'interdiction du cryptage non approuvé et l'exigence que l'IA ne fasse pas obstacle aux ordres du gouvernement.
Vous aimerez peut-être aussi :
« La civilisation ne doit pas permettre à l’État de déterminer quel type de renseignement est « sûr » », a-t-il écrit, ajoutant que seuls les États-Unis ont le caractère culturel nécessaire pour résister à ce résultat au fil du temps, et s’ils échouent, alors « ils ne seront préservés nulle part ».
David Schwartz, directeur technique émérite de Ripple, a répondu au message de Voorhees par « Oui, ceci. Exactement cela », montrant son soutien à l'argument. Bird, membre de la communauté XRP, a également répondu en demandant : « Dès que quelqu'un décide quelles connaissances sont « sûres », où s'arrête-t-il ?
Le débat sur la sécurité de l’IA s’étend au-delà des modèles ouverts
La même tension quant à savoir qui contrôle l'IA est apparue plus tôt ce mois-ci lorsque Demis Hassabis, PDG de Google DeepMind, a proposé un organisme soutenu par le gouvernement fédéral pour tester et certifier les modèles frontières avant leur sortie, une idée que Sam Altman d'OpenAI a qualifiée de « réfléchie » et que Satya Nadella de Microsoft a saluée comme un moyen d'empêcher tout modèle de causer de graves dommages.
Cependant, le PDG de Coinbase, Brian Armstrong, a rejeté l'idée, arguant qu'un nouvel organisme ajouterait simplement un autre processus d'approbation en plus des régulateurs existants. « Pourquoi concevoir une réglementation autour d'un problème hypothétique », a-t-il déclaré, soulignant les lois déjà existantes en matière de fraude, de responsabilité délictuelle et de protection des consommateurs comme étant une couverture suffisante pour tout préjudice pouvant être causé par un modèle.
OFFRE LIMITÉE pour les lecteurs de CryptoPotato chez Bybit : utilisez ce lien pour vous inscrire et ouvrir une position GRATUITE de 500 $ sur n'importe quelle pièce !