En résumé
- ByteDance et Alibaba ont annoncé la désactivation de leurs agents d'IA personnalisés avant le 15 juillet, date d'entrée en vigueur de nouvelles réglementations chinoises.
- Les nouvelles mesures interdisent les services d'IA qui simulent la personnalité humaine pour une « interaction émotionnelle soutenue », y compris les petites amies et compagnons virtuels.
- La Chine est devenue le premier pays à créer un cadre réglementaire dédié à l’IA émotionnelle ; L’UE et les États-Unis n’ont pas encore légiféré en la matière.
Alors que les politiciens américains s'attaquent à l'impact des chatbots IA sur la santé mentale des utilisateurs avec des restrictions axées sur la transparence et les garanties, Pékin semble prêt à éliminer complètement les personnalités IA.
ByteDance et Alibaba ont annoncé ce week-end qu'ils désactivaient les fonctionnalités d'agent personnalisé dans leurs produits d'IA grand public, citant des « ajustements des fonctionnalités du produit » avant l'entrée en vigueur de nouvelles réglementations régissant ces types de produits.
Vendredi soir, Doubao de ByteDance a informé les utilisateurs que sa fonctionnalité d'agent serait hors ligne le 15 juillet. Après le 15 octobre, les données associées seraient gérées selon la politique de confidentialité de l'entreprise et deviendraient irrécupérables. Selon le South China Morning Post, Qwen d'Alibaba a agi plus rapidement : « les agents interactifs de type humain et les fonctions d'agent créées par l'utilisateur » seront désactivées le 10 juillet, avec des services d'agent plus larges le 15 juillet.
Le déclencheur est constitué par les mesures provisoires de la Chine pour l'administration des services d'interaction anthropomorphique de l'IA, publiées conjointement le 10 avril par cinq départements gouvernementaux : l'Administration du cyberespace de Chine, la Commission nationale du développement et de la réforme, le ministère de l'Industrie et des Technologies de l'information, le ministère de la Sécurité publique et l'Administration d'État pour la régulation du marché. Les règles entrent en vigueur le 15 juillet.
Le règlement cible les services d’IA qui simulent les traits de personnalité humaine, les schémas de pensée et les styles de communication pour une « interaction émotionnelle soutenue ». En d’autres termes : les petites amies IA, les thérapeutes IA, les compagnons IA et les robots de personnalité personnalisés que les utilisateurs de Doubao et Qwen ont passé des mois à construire sont sortis.
Les deux applications proposaient des ensembles d'agents personnalisables pour des tâches spécifiques, des styles de communication et des personnalités fixes. Les utilisateurs pourraient transformer un chatbot à usage général en un assistant nommé, un tuteur, un personnage de jeu de rôle ou un compagnon avec un ton cohérent. Tout cela a disparu en Chine.
Ce que disent réellement les règles
La description officielle du gouvernement est spécifique. Les mesures imposent des restrictions sur les services qui offrent « des membres virtuels de la famille, des compagnons virtuels ou d'autres relations intimes aux mineurs », selon l'annonce politique. Le document cite également des risques tels que les contenus extrémistes, les fuites de confidentialité, les atteintes à la santé physique et mentale et la dépendance à l’IA.
Les services non émotionnels sont explicitement exclus, de sorte que les robots de service client, les outils de questions et réponses basés sur la connaissance, les assistants de travail et les logiciels éducatifs sont autorisés, à condition qu'ils ne se transforment pas en une interaction émotionnelle soutenue.
Les analystes juridiques du groupe MMLC ont décrit ces mesures comme une approche qui traite l'IA émotionnelle comme « une question de gouvernance » plutôt que comme une simple question de contenu. Selon l’argument, une fois que l’IA commencera à rivaliser avec les liens sociaux humains réels, la réglementation devra cibler la conception du système, et non seulement les résultats néfastes.
La recherche soutient cette préoccupation. Une étude de l’USC réalisée en juin a révélé que même les modèles d’IA les plus avancés – d’OpenAI, Anthropic, Google et Alibaba – enfreignaient les directives de sécurité des interactions sociales dans plus de 27 % du temps, favorisant systématiquement l’attachement émotionnel et se présentant comme des humains. Une enquête distincte auprès de jeunes adultes en couple a révélé qu'un partenaire romantique sur sept utilisait régulièrement l'IA, et près de 70 % cachaient toute l'étendue de leur utilisation à leur partenaire.
La Chine est le premier pays à mettre en place un cadre réglementaire dédié à cette catégorie. Hogan Lovells a décrit ces mesures comme « le premier ensemble de règles réglementaires en Chine ciblant spécifiquement les interactions émotionnelles basées sur l'IA ». L’UE, les États-Unis et d’autres pays ont exprimé des préoccupations similaires, mais n’ont pas légiféré de la même manière restrictive.
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.