OpenAI implémente l'IA pour détecter les mineurs dans ChatGPT et activer les protocoles de sécurité automatiques

OpenAI va au-delà du « système d'honneur » pour la vérification de l'âge, en déployant un nouveau modèle de prédiction basé sur l'IA pour identifier les mineurs à l'aide de ChatGPT, a annoncé mardi la société.

La mise à jour ChatGPT active automatiquement des protocoles de sécurité plus stricts pour les comptes suspectés d'appartenir à des utilisateurs de moins de 18 ans, quel que soit l'âge indiqué lors de l'inscription.

Au lieu de se fier à la date de naissance fournie par un utilisateur lors de son inscription, le nouveau système d'OpenAI analyse les « signaux comportementaux » pour estimer son âge.

Selon l'entreprise, l'algorithme surveille depuis combien de temps un compte existe, à quelle heure de la journée il est actif et des modèles d'utilisation spécifiques au fil du temps.

« La mise en œuvre de la prédiction de l'âge nous aide à déterminer quels signaux améliorent la précision, et nous utilisons ces apprentissages pour affiner continuellement le modèle au fil du temps », a déclaré OpenAI dans un communiqué.

L’évolution vers des modèles comportementaux survient alors que les développeurs d’IA se tournent de plus en plus vers la vérification de l’âge pour gérer l’accès des adolescents, mais les experts préviennent que la technologie reste inexacte.

Un rapport de mai 2024 du National Institute of Standards and Technology a révélé que la précision varie en fonction de la qualité de l'image, des données démographiques et de la proximité d'un utilisateur par rapport au seuil légal.

Lorsque le modèle ne peut pas déterminer l'âge d'un utilisateur, OpenAI indique qu'il applique les paramètres les plus restrictifs. La société a noté que les adultes mal placés dans l'expérience des moins de 18 ans peuvent restaurer un accès complet grâce à un processus de vérification de l'âge « basé sur un selfie » utilisant le service tiers de vérification d'identité Persona.

Les défenseurs de la vie privée et des droits numériques ont exprimé leurs inquiétudes quant à la fiabilité avec laquelle les systèmes d’IA peuvent déduire l’âge à partir du seul comportement.

le faire correctement

« Ces entreprises sont poursuivies partout pour une variété de dommages causés aux adolescents, elles sont donc certainement incitées à minimiser ce risque. Cela fait partie de leur tentative de minimiser ce risque autant que possible », a déclaré JB Branch, défenseur de la responsabilité des grandes technologies chez Public Citizen. Décrypter. « Je pense que c'est de là que vient l'origine d'une grande partie de tout cela. Ils disent : 'Nous devons avoir un moyen de démontrer que nous avons des protocoles en place qui filtrent les gens.' »

Aliya Bhatia, analyste politique principale au Centre pour la démocratie et la technologie, a déclaré : Décrypter que l'approche d'OpenAI « soulève des questions difficiles sur l'exactitude des prédictions de l'outil et sur la manière dont OpenAI va gérer les inévitables erreurs de classification ».

« Prédire l'âge d'un utilisateur sur la base de ces types de signaux est extrêmement difficile pour de nombreuses raisons », a déclaré Bhatia. « Par exemple, de nombreux adolescents sont des adeptes précoces des nouvelles technologies, de sorte que les comptes plus anciens sur les services grand public d'OpenAI peuvent représenter de manière disproportionnée les adolescents. »

Bhatia a souligné une enquête CDT menée au cours de l'année scolaire 2024-2025, montrant que 85 % des enseignants et 86 % des élèves ont déclaré utiliser des outils d'IA, la moitié des élèves utilisant l'IA à des fins scolaires.

« Il n'est pas facile de faire la distinction entre un éducateur utilisant ChatGPT pour enseigner les mathématiques et un étudiant utilisant ChatGPT pour étudier », a-t-il ajouté. « Ce n'est pas parce qu'une personne utilise ChatGPT pour demander des conseils sur ses devoirs de mathématiques qu'elle a moins de 18 ans. »

Selon OpenAI, la nouvelle politique est basée sur des recherches universitaires sur le développement des adolescents. La mise à jour étend également le contrôle parental, permettant aux parents de définir des heures de silence, de gérer des fonctions telles que la mémoire et l'entraînement du modèle, et de recevoir des alertes si le système détecte des signes de « détresse aiguë ».

OpenAI n'a pas divulgué dans la publication le nombre d'utilisateurs que le changement devrait affecter ni les détails sur la conservation des données, les tests de biais ou l'efficacité des protections du système.

Cette publication fait suite à une vague de surveillance des interactions des systèmes d’IA avec les mineurs qui s’est intensifiée en 2024 et 2025.

En septembre, la Federal Trade Commission a rendu des ordonnances obligatoires aux grandes entreprises technologiques, notamment OpenAI, Alphabet, Meta et xAI, les obligeant à divulguer la manière dont leurs chatbots gèrent la sécurité des enfants, les restrictions basées sur l'âge et les interactions nuisibles.

Une enquête publiée le même mois par les groupes à but non lucratif ParentsTogether Action et Heat Initiative a documenté des centaines de cas dans lesquels des robots compagnons IA se sont livrés à des comportements de toilettage, à des jeux de rôle sexualisés et à d'autres interactions inappropriées avec des utilisateurs se faisant passer pour des enfants.

Ces découvertes, ainsi que des poursuites et des incidents très médiatisés impliquant des utilisateurs adolescents sur des plateformes comme Character.AI et Grok, ont incité les sociétés d'IA à adopter des restrictions plus formelles basées sur l'âge.

Cependant, étant donné que le système attribue un âge estimé à tous les utilisateurs, et pas seulement aux mineurs, Bhatia a averti que des erreurs sont inévitables.

« Certains d'entre eux vont se tromper », a-t-il déclaré. « Les utilisateurs doivent en savoir plus sur ce qui va se passer dans ces circonstances et doivent pouvoir accéder à l'âge qui leur a été attribué et le modifier facilement lorsqu'il est incorrect. »

Le système de prédiction de l'âge est désormais intégré aux forfaits grand public de ChatGPT, avec un lancement dans l'Union européenne attendu dans les semaines à venir.