En résumé
- Anthropic a supprimé un engagement fondamental de sa politique de mise à l'échelle responsable qui empêchait la formation de l'IA sans garanties de sécurité.
- Le directeur scientifique Jared Kaplan a justifié ce changement en soulignant qu'une pause n'aurait pas de sens compte tenu de l'avancée de concurrents tels qu'OpenAI et Google.
- Les analystes ont indiqué que ce tournant reflète une pression politique et concurrentielle, et non une tentative d'obtenir des contrats avec le Pentagone.
Anthropic a supprimé un engagement fondamental en matière de sécurité de sa politique de mise à l'échelle responsable, selon un rapport de TEMPS. Les changements assouplissent un engagement qui empêchait auparavant le développeur de Claude de former des systèmes d'IA avancés sans garanties de sécurité en place.
Cette décision redéfinit la façon dont l'entreprise se positionne dans la course à l'IA face à ses rivaux OpenAI, Google et xAI. Anthropic s'est longtemps présenté comme l'un des laboratoires les plus axés sur la sécurité du secteur, mais dans le cadre de la politique révisée, il ne promet plus d'arrêter la formation si les mesures d'atténuation des risques ne sont pas entièrement en place.
« Nous avons pensé que cela n'aiderait personne si nous arrêtions de former des modèles d'IA », a déclaré Jared Kaplan, directeur scientifique d'Anthropic. TEMPS. « Avec les progrès rapides de l'IA, nous n'avons pas vraiment pensé qu'il était logique pour nous de prendre des engagements unilatéraux… si nos concurrents avancent à toute vitesse. »
Le changement intervient alors qu'Anthropic est impliqué dans un différend public avec le secrétaire américain à la Défense, Pete Hegseth, pour avoir refusé d'accorder au Pentagone un accès complet à Claude, devenant ainsi le seul grand laboratoire d'IA parmi Google, xAI, Meta et OpenAI à adopter cette position.
Edward Geist, chercheur principal en politiques à la RAND Corporation, a noté que l'accent mis auparavant sur la « sécurité de l'IA » émanait d'une communauté intellectuelle spécifique qui a précédé les grands modèles linguistiques actuels.
« Il y a quelques années, il y avait le domaine de la sécurité de l'IA », a déclaré Geist. Décrypter. « La sécurité de l'IA était associée à un ensemble particulier de points de vue qui ont émergé de la communauté des personnes soucieuses d'une IA puissante avant que nous ayons ces LLM. »
Geist a déclaré que les premiers défenseurs de la sécurité de l’IA travaillaient à partir d’une vision très différente de ce à quoi ressemblerait l’intelligence artificielle avancée.
« Ils ont fini par conceptualiser le problème d'une manière qui, à certains égards, imaginait quelque chose de qualitativement différent de ces LLM actuels, pour le meilleur ou pour le pire », a ajouté Geist.
Geist a également indiqué que le changement de langage envoie un signal aux investisseurs et aux décideurs politiques.
« C'est en partie un signal adressé à divers publics, selon lequel bon nombre de ces entreprises veulent donner l'impression qu'elles ne se freinent pas dans la concurrence économique en raison de préoccupations concernant la « sécurité de l'IA » », a-t-il déclaré, ajoutant que la terminologie elle-même change pour suivre l'air du temps.
Anthropic n'est pas le seul à réviser son langage de sécurité.
Qu’est-ce qui définit la sécurité dans l’IA ?
Un récent rapport de l'organisation de presse à but non lucratif La conversation a souligné comment OpenAI a également modifié son énoncé de mission dans son dossier IRS 2024, en supprimant le mot « en toute sécurité ».
La déclaration précédente de l'entreprise promettait de développer une IA à usage général qui « bénéficierait à l'humanité en toute sécurité, sans condition de générer un retour financier ». La version mise à jour indique désormais comme objectif « de garantir que l’intelligence artificielle générale profite à l’ensemble de l’humanité ».
« Le problème avec le terme sécurité de l'IA est que personne ne semble savoir exactement ce que cela signifie », a déclaré Geist. « Même si le terme sécurité de l'IA a également fait l'objet de débats. »
La nouvelle politique d'Anthropic met l'accent sur des mesures de transparence telles que la publication de « feuilles de route pour la sécurité des frontières » et de rapports réguliers sur les risques, et note qu'elle retardera le développement si elle estime qu'il existe un risque important de catastrophe.
Les changements de politique d'Anthropic et d'OpenAI surviennent alors que les entreprises cherchent à renforcer leur position commerciale.
Plus tôt ce mois-ci, Anthropic a annoncé avoir levé 30 milliards de dollars pour une valorisation d'environ 380 milliards de dollars. En parallèle, OpenAI finalise une levée de fonds soutenue par Amazon, Microsoft et Nvidia qui pourrait atteindre 100 milliards de dollars.
Anthropic et OpenAI, ainsi que Google et xAI, ont remporté des contrats gouvernementaux lucratifs avec le ministère américain de la Défense. Cependant, pour Anthropic, le contrat semble être mis en doute, car le Pentagone réfléchit à l'opportunité de rompre les liens avec la société d'IA suite à des plaintes en matière d'accès.
Alors que les capitaux affluent dans le secteur et que la concurrence géopolitique s’intensifie, Hamza Chaudhry, responsable de l’IA et de la sécurité nationale au Future of Life Institute, a déclaré que le changement de politique reflète l’évolution de la dynamique politique plutôt qu’une tentative de gagner des affaires avec le Pentagone.
« Si tel était le cas, ils se seraient simplement pliés à ce que le Pentagone a dit il y a une semaine », a déclaré Chaudhry. Décrypter. « Dario [Amodei] « il ne se serait pas présenté pour nous rencontrer. »
Au lieu de cela, Chaudhry a déclaré que la réécriture reflète un tournant dans la façon dont les entreprises d’IA parlent du risque alors que la pression politique et les enjeux concurrentiels augmentent.
« Anthropic dit maintenant : 'Écoutez, nous ne pouvons pas continuer à parler de sécurité, nous ne pouvons pas faire une pause inconditionnelle, et nous allons plaider pour une réglementation beaucoup plus légère' », a-t-il déclaré.
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.