Attention à votre bouche ! L’outil d’IA « Call of Duty » punit des millions de joueurs toxiques

Le géant du jeu Activision a révélé les premiers résultats de son outil de modération d’IA pour Call of Duty lancé l’année dernière, notamment plus de 2 millions de comptes qui ont reçu « une action dans le jeu via un chat vocal perturbateur ».  » depuis la mise en œuvre de ToxMod en août.

Activision a présenté l’outil en version bêta avant la sortie de Call of Duty : Modern Warfare III l’automne dernier et l’a progressivement étendu à l’échelle mondiale. La société a déclaré que ToxMod pouvait identifier les commentaires « perturbateurs » dans 14 langues dans les jeux Call of Duty : Modern Warfare II, Modern Warfare III et Call of Duty : Warzone.

« Pour les comportements perturbateurs détectés par notre modération vocale, seul 1 utilisateur sur 5 a signalé ce comportement, ce qui montre une tendance malheureuse selon laquelle les joueurs ne signalent souvent pas les incidents en jeu à notre équipe de comportement perturbateur », a déclaré Activision. « Dans les cas qui ne sont pas signalés, notre système de modération vocale nous permet de prendre des mesures contre les joueurs qui enfreignent le code de conduite », a indiqué la société, ajoutant qu’un signalement actif reste essentiel.

En 2023, l’intelligence artificielle a fait des vagues dans le monde entier et plusieurs industries (dont les jeux vidéo) ont cherché des moyens de tirer parti de cette technologie. La société mère d’Activision, Microsoft, a ajouté des outils d’IA générative à ses applications Office et Xbox.

ToxMod a commencé à montrer des résultats presque immédiatement, a rapporté la société, leur permettant de faire évoluer leur approche de modération. Activision a déclaré avoir constaté une réduction d’un mois à l’autre du nombre de récidivistes de sa politique en ligne depuis l’introduction du modèle d’IA.

« Call of Duty a constaté une réduction de 8 % du nombre de récidivistes depuis la mise en œuvre de la modération du chat vocal dans le jeu », souligne le rapport. « Toute personne détectée en train de violer le code de conduite recevra des actions telles que la désactivation globale du chat vocal et textuel et/ou la restriction d’autres fonctionnalités sociales. »

Activision a également souligné une réduction de 50 % des « cas graves » de chat vocal perturbateur depuis la sortie de Modern Warfare III.

Les joueurs qui continuent à enfreindre la politique seront confrontés à des restrictions supplémentaires, a déclaré Activision, ajoutant qu’elle étudiait des moyens permettant aux joueurs de fournir des « retours supplémentaires ».

Pour les joueurs qui avaient besoin d’un rappel sur ce qui pourrait conduire à ce que leur compte soit signalé, Activision a noté une mise à jour du code de conduite de Call of Duty que les joueurs en ligne sont censés suivre.

Activision a réitéré sa position sur la lutte contre les discours toxiques, y compris une politique de tolérance zéro envers le harcèlement et l’intimidation, ainsi que les commentaires désobligeants liés à la race, à l’identité ou à l’expression de genre, à l’orientation sexuelle, à l’âge, à la culture, à la foi, aux capacités mentales ou physiques ou au pays. d’origine.

« Call of Duty se consacre à lutter contre la toxicité dans nos jeux et permettra à nos équipes de mettre en œuvre et d’améliorer notre technologie de modération pour lutter contre les comportements perturbateurs, que ce soit par le biais du chat vocal ou textuel », ont-ils souligné. « Nous comprenons qu’il s’agit d’un travail en cours, mais nous nous engageons à travailler avec notre communauté pour garantir que Call of Duty soit juste et amusant pour tout le monde. »

Edité par Ryan Ozawa et Andrew Hayward