Anthropic restreint l’utilisation du chatbot IA « Claude » dans les activités politiques

Si Joe Biden souhaite qu’un chatbot IA intelligent et précis réponde à ses questions, sa campagne devra être plus approfondie puisqu’il ne pourra pas utiliser Claude, le concurrent ChatGPT d’Anthropic, a annoncé aujourd’hui la société.

« Nous n’autorisons pas les candidats à utiliser Claude pour créer des chatbots qui peuvent prétendre être eux, et nous n’autorisons personne à utiliser Claude pour des campagnes politiques ciblées », a annoncé la société. Les violations de cette politique donneront lieu à des avertissements et finalement à la suspension de l’accès aux services Anthropic.

L’expression publique par Anthropic de sa politique d’« utilisation abusive des élections » intervient à un moment où le potentiel de l’intelligence artificielle à générer en masse des informations, des images et des vidéos fausses et trompeuses suscite l’alarme dans le monde entier.

Meta a mis en œuvre des règles l’automne dernier pour restreindre l’utilisation de ses outils d’IA en politique, et OpenAI a des politiques similaires.

Anthropic a déclaré que ses politiques de protection se répartissent en trois catégories principales : développer et appliquer des politiques liées aux questions électorales, évaluer et tester des modèles contre une utilisation abusive potentielle et diriger les utilisateurs vers des informations de vote précises.

La politique d’utilisation acceptable d’Anthropic – que tous les utilisateurs acceptent apparemment avant d’accéder à Claude – interdit l’utilisation de ses outils d’IA pour des campagnes politiques et des efforts de lobbying. La société a déclaré qu’il y aurait des avertissements et des suspensions de service pour les contrevenants, avec un processus d’examen humain.

L’entreprise effectue également des « tests d’intrusion » rigoureux sur ses systèmes – des tentatives agressives et coordonnées de la part de partenaires connus pour « jailbreaker » ou utiliser Claude à des fins néfastes.

« Nous testons la façon dont notre système répond aux invites qui violent notre politique d’utilisation acceptable, [por ejemplo] des invites qui sollicitent des informations sur les tactiques de suppression des électeurs », explique Anthropic. De plus, la société a déclaré avoir développé une série de tests pour garantir la « parité politique » – une représentation comparative entre les candidats et les enjeux.

Anthropic s’est associé à TurboVote aux États-Unis pour aider les électeurs avec des informations fiables au lieu d’utiliser son outil d’IA générative.

« Si un utilisateur basé aux États-Unis demande des informations sur le vote, une notification contextuelle apparaîtra offrant à l’utilisateur la possibilité d’être redirigé vers TurboVote, une ressource de l’organisation non partisane Democracy Works », a expliqué Anthropic, une solution qui sera mise en œuvre  » dans les semaines à venir » – avec l’intention d’ajouter prochainement des mesures similaires dans d’autres pays.

Comme Décrypter Signalé précédemment, OpenAI, la société derrière ChatGPT, prend des mesures similaires, redirigeant les utilisateurs vers le site Web non partisan CanIVote.org.

Les initiatives d’Anthropic s’alignent sur un mouvement plus large au sein de l’industrie technologique visant à relever les défis que l’intelligence artificielle pose aux processus démocratiques. Par exemple, la Federal Communications Commission des États-Unis a récemment interdit l’utilisation de fausses voix générées par l’IA dans les appels automatisés, une décision qui souligne l’urgence de réglementer l’application de l’IA dans l’arène politique.

À l’instar de Facebook, Microsoft a annoncé des initiatives visant à lutter contre les publicités politiques trompeuses générées par l’IA, en introduisant des « informations d’identification de contenu en tant que service » et en lançant un centre de communications électorales.

Selon les candidats créant eux-mêmes des versions IA, OpenAI a déjà dû répondre à un cas d’utilisation spécifique. La société a suspendu le compte d’un développeur après avoir découvert qu’elle avait créé un robot imitant le candidat à la présidentielle Dean Phillips. Cette décision a été prise après que Public Citizen, une organisation à but non lucratif, a déposé une pétition concernant l’utilisation abusive de l’IA dans les campagnes politiques, demandant au régulateur d’interdire l’IA générative dans les campagnes politiques.

Anthropic a refusé de commenter davantage et OpenAI n’a pas répondu à une question. Décrypter.