Le PDG de la société d'IA Anthropic, Dario Amodei, a répondu au ministère de la Défense des États-Unis et à la Maison Blanche, en ordonnant aux sous-traitants militaires de la défense qui font affaire avec le ministère de la Défense de cesser d'utiliser les produits d'Anthropic.
Anthropic s'est opposé à l'utilisation de ses modèles d'IA pour la surveillance intérieure de masse et à des armes entièrement autonomes pouvant tirer sans aucune intervention humaine, a déclaré samedi Amodei à CBS News.
Il a ajouté qu'Anthropic acceptait tous les cas d'utilisation proposés par le gouvernement américain pour ses modèles d'IA, à l'exception de la surveillance et des plates-formes d'armes entièrement autonomes. Il a dit :
« Ce sont des choses qui sont fondamentales pour les Américains : le droit de ne pas être espionné par le gouvernement, le droit pour nos officiers militaires de prendre eux-mêmes des décisions concernant la guerre et de ne pas la confier entièrement à une machine. »
La décision du ministère de la Défense de qualifier Anthropic de « risque pour la chaîne d'approvisionnement », ce qui signifie que les sous-traitants militaires ne peuvent pas utiliser les produits d'Anthropic dans le cadre de contrats de défense, est « sans précédent » et « punitive », a-t-il ajouté.
Amodei a précisé plus tard qu'il n'était pas opposé au développement d'armes entièrement automatisées si les armées étrangères commençaient à les utiliser à l'avenir, mais que l'IA n'était pas encore suffisamment fiable pour fonctionner de manière autonome dans un contexte militaire.
La loi n’a pas suivi le développement rapide du secteur de l’IA, a déclaré Amodei, appelant le Congrès américain à adopter des « garde-fous » pour empêcher l’utilisation de l’IA dans les programmes nationaux de surveillance de masse.
En rapport: Anthropic dit avoir été la cible d'attaques massives par distillation
OpenAI remporte un contrat de défense après que les responsables américains ont qualifié Anthropic de risque pour la chaîne d'approvisionnement
Vendredi, le « secrétaire à la Guerre » américain Pete Hegseth a annoncé que l’Anthropie constituait un « risque de chaîne d’approvisionnement pour la sécurité nationale ».
« À compter d'aujourd'hui, aucun entrepreneur, fournisseur ou partenaire qui fait des affaires avec l'armée américaine ne peut mener une quelconque activité commerciale avec Anthropic », a-t-il déclaré.
Quelques heures plus tard, la société rivale d’IA OpenAI a accepté un contrat avec le ministère américain de la Défense pour déployer ses modèles d’IA sur les réseaux militaires.
L'annonce de l'accord par le PDG d'OpenAI, Sam Altman, a suscité des réactions négatives en ligne de la part de critiques, qui ont cité l'IA utilisée pour la surveillance nationale de masse et portant atteinte à la vie privée des individus comme une ligne rouge.
Revue: Des drones « Slaughterbot » en Ukraine, MechaHitler devient un waifu sexy : AI Eye
Voir l’article original en anglais
