En résumé
- Roblox a annoncé que son nouveau système d'IA reformulerait les messages inappropriés en temps réel au lieu de les remplacer par des chaînes de symboles.
- La fonctionnalité n’est disponible que parmi les utilisateurs dont l’âge a été vérifié dans des groupes similaires et a été développée avec son Teen Council.
- Roblox a également mis à jour son filtre pour détecter les substitutions lettre-chiffre en leetspeak utilisées pour échapper à la modération.
La plate-forme de jeu en ligne populaire Roblox remplace les chaînes de signes dièse qui apparaissent lorsque son filtre de discussion détecte des grossièretés par des versions reformulées par l'IA des messages signalés, a annoncé la société jeudi.
La fonctionnalité, appelée reformulation du chat en temps réel, modifie les grossièretés dans les messages afin que les conversations restent lisibles au lieu d'apparaître sous forme de texte bloqué.
« Par exemple, un message qui enfreint les politiques linguistiques inappropriées de Roblox, tel que « Dépêchez-vous TF ! » « Apparaissait auparavant sous le nom '####' dans le chat en jeu », a noté la société. « Il sera désormais reformulé comme 'Dépêchez-vous !' »
Selon Rajiv Bhatia, vice-président des produits utilisateur et de la découverte de Roblox, cette nouvelle conception cherche à maintenir la courtoisie en reformulant le langage et en remplaçant les « panneaux d'arrêt » par de vrais mots.
« Le chat est essentiel à la façon dont les gens se connectent, se coordonnent et jouent sur Roblox », a déclaré Bhatia dans un communiqué. « La reformulation en temps réel aide à maintenir le rythme du jeu et des conversations sur la bonne voie, en guidant le langage vers ce qui est approprié. »
En mai 2025, Roblox a introduit des avertissements en temps réel qui alertent les utilisateurs lorsque leurs messages peuvent enfreindre les règles de la plateforme, les invitant à reconsidérer leur formulation.
« Dans des expériences menées l'année dernière, Roblox a observé que l'émission de notifications de chat textuel et de délais d'attente dans le jeu entraînait une réduction de 5 % des fuites de messages de chat et une réduction de 6 % des conséquences résultant des rapports d'abus », a déclaré la société.
Cependant, malgré cette diminution, Roblox a noté que le nouveau changement résout un problème de longue date où le langage divulgué apparaît sous la forme de chaînes de caractères aléatoires, ce qui peut rendre les discussions difficiles à suivre pendant le jeu.
Bien que les joueurs participant au chat soient avertis lorsqu'un texte est reformulé, la société affirme que le nouveau système ne modifie pas ses politiques d'application en cas de langage inapproprié.
« Pour être clair, lorsque nous reformulons un message qui viole notre politique relative aux grossièretés, il s'agit toujours d'une violation et les mêmes règles continuent de s'appliquer », a ajouté Bhatia dans un communiqué distinct jeudi. « Un utilisateur qui continue de tenter d'utiliser des grossièretés dans le chat sera confronté aux mêmes conséquences s'il enfreint à plusieurs reprises notre politique. »
Roblox a déclaré que la fonction de reformulation n'est disponible que dans les discussions entre utilisateurs dont l'âge est vérifié et appartenant à des groupes d'âge similaires et est compatible avec toutes les langues actuellement disponibles via les outils de traduction automatique de la plate-forme. Pour comprendre comment les joueurs adolescents parlent pendant le jeu, Roblox a noté que la nouvelle fonctionnalité de reformulation a été développée en collaboration avec les membres de son Teen Council.
La société met également à jour son système de filtrage de texte pour mieux détecter les tentatives de contournement des règles de modération, y compris les variantes linguistiques qui remplacent les lettres par des chiffres ou des symboles, connues sous le nom de leetspeak.
La reformulation du chat de Roblox fait partie d'une tendance croissante dans l'industrie du jeu vidéo, où les entreprises utilisent de plus en plus l'IA pour modérer le comportement des joueurs dans les jeux multijoueurs. En 2024, Activision a signalé que plus de 2 millions de comptes avaient été signalés pour des discussions perturbatrices après avoir mis en œuvre son système de modération ToxMod AI dans plusieurs titres Call of Duty. L'entreprise a noté que l'outil avait contribué à réduire la récidive et à diminuer les cas les plus graves de chat vocal perturbateur.
Roblox a également étendu son utilisation de l'IA sur toute la plateforme. En février 2024, la société a introduit la traduction du chat IA en temps réel, permettant aux joueurs de communiquer dans plus de 16 langues dans le chat Roblox.
« Il s'agit d'une approche audacieuse et nouvelle, et nous ne reformulerons pas toujours les choses parfaitement », a déclaré Bhatia à propos de la dernière initiative, ajoutant que l'entreprise continuerait à apprendre et à expérimenter cette fonctionnalité. « Notre objectif ultime est de permettre aux utilisateurs de collaborer et de se connecter d'une manière à la fois amusante et respectueuse. »
Roblox n'a pas immédiatement répondu à une demande de commentaire de Décrypter.
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.
Voir l’article original en espagnol
