L’IA peut-elle rendre les matchs « Call of Duty » moins toxiques ?

Les développeurs de jeux recherchent des moyens de lutter contre les propos abusifs en ligne, et la franchise de tir très populaire Call of Duty est connue parmi les joueurs pour ses joueurs toxiques, comme le réaffirme une étude de 2022. Aujourd’hui, Activision essaie d’en faire plus, avec l’aide de l’intelligence artificielle.

Call of Duty se tourne vers l’intelligence artificielle pour modérer les conversations vocales dans sa communauté de jeux en ligne avec la sortie d’une nouvelle fonctionnalité appelée ToxMod, a annoncé Activision mercredi. La fonctionnalité, développée en collaboration avec la startup d’IA basée à Boston Modulate, est désormais disponible en Amérique du Nord dans les jeux Call of Duty : Modern Warfare II et Call of Duty : Warzone.

ToxMod utilise l’intelligence artificielle pour identifier et prendre des mesures contre les discours toxiques, notamment les propos nuisibles, les discours de haine, les propos discriminatoires et le harcèlement, le tout en temps réel. Il s’étendra à l’échelle mondiale (hors Asie) à partir du 10 novembre avec le lancement du dernier titre de Call of Duty, Modern Warfare III.

« Ce nouveau développement renforcera les systèmes de modération en cours dirigés par l’équipe anti-toxicité de Call of Duty, qui incluent un filtrage de texte en 14 langues pour le texte du jeu (chat et noms d’utilisateur), ainsi qu’un solide système de plaintes des joueurs dans le jeu », a déclaré Activision dans un communiqué.

Décrypter Activision a été contacté pour des commentaires et des détails supplémentaires sur la nouvelle fonctionnalité, mais un représentant n’a pas fourni plus d’informations. Module n’a pas immédiatement répondu aux questions de Décrypter.

Le monde du jeu vidéo n’est pas étranger aux comportements toxiques. Activision a affirmé que depuis la sortie de Call of Duty : Modern Warfare II en novembre dernier, plus d’un million de comptes ont été bannis pour violation du code de conduite de la franchise de jeux. L’éditeur a déclaré que ses outils de filtrage existants ont eu un « impact positif » en réduisant les discours abusifs.

« 20 % des joueurs n’ont plus commis d’infractions après avoir reçu un premier avertissement », a indiqué Activision dans un communiqué. « Ceux qui ont commis des violations répétées ont été sanctionnés sur leurs comptes, y compris, mais sans s’y limiter, des restrictions de fonctionnalités (telles que des interdictions de chat vocal et textuel) et des restrictions de compte temporaires. »

Malgré la mise en œuvre de la nouvelle fonctionnalité IA, Activision a demandé aux joueurs de Call of Duty de continuer à signaler les comportements perturbateurs.

« Ce type d’engagement de nos joueurs envers le jeu et la communauté est extrêmement important, et nous sommes reconnaissants envers notre communauté pour ses efforts dans la lutte contre les comportements perturbateurs », a déclaré Activision.