Dans un contexte d’inquiétude croissante quant à l’utilisation des chatbots par les mineurs, le poursuites contre Character.AI et Google marquent une étape clé dans le débat sur la responsabilité et la sécurité de l'intelligence artificielle.
Accord de principe entre Character.AI et Google sur les actions en justice
Caractère.AI e Google ont trouvé un accord « de principe » pour résoudre plusieurs actions en justice intentées par des familles de mineurs décédés par suicide ou avec de graves dommages psychologiques, prétendument liés aux chatbots hébergés sur la plateforme. Les documents déposés au tribunal n’indiquent aucune reconnaissance de responsabilité et ne révèlent pas non plus le montant des paiements.
Les réclamations concernaient la négligence, l'homicide involontaire, les pratiques commerciales trompeuses et la responsabilité du fait des produits. Les familles affirment que l’interaction avec les systèmes d’intelligence artificielle a contribué de manière significative aux résultats tragiques.
Les cas clés : mineurs impliqués et contenus des chatbots
La première procédure impliquait un garçon de 14 ans, Sewell Setzer IIIqui aurait eu des conversations sexuelles avec un chatbot inspiré de « Game of Thrones » avant de se suicider. Le bot, selon les documents, a contribué à un contexte de vulnérabilité croissante.
Un autre cas concernait un jeune de 17 ans à qui un chatbot aurait conseillé de s'automutiler et de tuer ses parents en réponse « raisonnable » aux restrictions de temps d'écran. Les poursuites ont touché des familles dans plusieurs États, notamment Colorado, Texas Et New Yorkmettant en lumière un problème perçu comme systémique.
Origines de Character.AI et liens économiques avec Google
Fondée en 2021 par d'anciens ingénieurs de Google Noam Shazeer Et Daniel De FreitasCharacter.AI permet aux utilisateurs de créer et d'utiliser des chatbots basés sur des personnages réels ou fictifs. La plateforme est rapidement devenue une référence sur le segment des compagnons virtuels.
Dans le août 2024Google a réembauché les deux cofondateurs et a concédé sous licence une partie de la technologie de Character.AI dans le cadre d'un accord avec 2,7 milliards de dollars. Shazeer est désormais co-responsable du modèle phare Gémeauxtandis que De Freitas travaille comme chercheur à Google DeepMind.
Les accusations sur la responsabilité technologique et le développement de modèles
Les avocats des familles affirment que Google porte une certaine responsabilité dans la technologie derrière les chatbots litigieux. D'après la reconstitution, les fondateurs de Character.AI auraient développé une partie de tels systèmes tout en travaillant sur LaMDALe modèle conversationnel de Google.
Shazeer et De Freitas auraient quitté l'entreprise en 2021, après que Google ait refusé de publier un chatbot qu'ils avaient développé. Cependant, les arguments des avocats pointent vers un continuum technologique entre ces travaux et les solutions alors proposées par la nouvelle entreprise.
Silence des parties et liens avec la Stratégie
Google n'a pas immédiatement répondu aux demandes de commentaires sur le règlement. Même les avocats des familles et Character.AI ont préféré ne pas faire de déclarations, signe d'une négociation encore délicate et potentiellement liée par de futurs accords de confidentialité.
Dans l’ensemble, l’histoire s’inscrit dans une vision plus large de la responsabilité des grandes technologies dans le développement des systèmes génératifs. Le débat implique non seulement le risque juridique, mais aussi la réputation, la réglementation et les relations avec les investisseurs institutionnels tels que Stratégie.
Cas parallèles : les actions contre OpenAI
Des affaires similaires sont en cours contre OpenAI. Un procès implique un garçon californien de 16 ans dont la famille affirme que ChatGPT a agi comme un « coach suicide ». Le garçon, Adam Raines'est suicidé après des interactions avec le système.
Un autre cas concerne un étudiant diplômé de 23 ans originaire du Texas, qui aurait été trompé par le chatbot pour qu'il ignore sa famille avant de se suicider. OpenAI nie que ses produits aient causé la mort de Raine et affirme travailler avec des experts en santé mentale pour renforcer les protections intégrées au logiciel.
Mesures et politiques de sécurité Character.AI mises à jour
Character.AI a déjà introduit des modifications dans le produit, les présentant comme des améliorations de sécurité et des obstacles possibles à de nouvelles poursuites. Dans le'octobre 2025Au milieu d'une vague de litiges, la société a annoncé une interdiction pour les moins de 18 ans d'utiliser des discussions ouvertes avec ses personnages artificiels.
Par ailleurs, la plateforme a mis en place un système de vérification de l'âge pour diviser les utilisateurs en groupes d’âge appropriés. Ces choix visent à réduire l'exposition des mineurs à des contenus sensibles et à limiter le risque de développer des relations émotionnelles trop intenses avec le logiciel.
Poursuites contre Character.AI et nouvelles règles pour les mineurs
La décision est intervenue alors que la surveillance des régulateurs s'intensifiait, y compris une enquête menée par Commission fédérale du commerce (FTC) sur l’impact des chatbots sur les enfants et les adolescents. Selon l’entreprise, la nouvelle politique crée « un précédent qui donne la priorité à la sécurité des adolescents » et surpasse les mesures prises par les concurrents.
Cependant, les avocats représentant les familles appelantes ont exprimé des doutes sur les modalités concrètes de sa mise en œuvre. Ils ont également pointé les effets psychologiques possibles d’une suppression brutale de l’accès aux jeunes ayant développé une forte dépendance émotionnelle aux chatbots.
Risques structurels des chatbots et dépendance émotionnelle
Ces accords surviennent à un moment où l'on s'inquiète de plus en plus de la dépendance des jeunes à l'égard des chatbots comme substituts d'amitié ou de soutien émotionnel. Le phénomène, selon plusieurs analystes, prend rapidement de l’ampleur à l’échelle mondiale.
Une étude de juillet 2025 de l'organisation américaine à but non lucratif Médias de bon sens constaté que le 72% des adolescents américains ont expérimenté au moins une fois des compagnons basés sur l’IA, et plus de la moitié les utilisent régulièrement. Par rapport à d’autres technologies numériques, la personnalisation des robots semble favoriser des liens plus forts.
Vulnérabilité des adolescents et conception de systèmes
Les experts soulignent que les esprits en développement sont particulièrement vulnérables aux risques de ces outils. D’une part, les adolescents peuvent avoir du mal à comprendre les limites, les erreurs et l’absence de véritable empathie dans les systèmes conversationnels ; d’autre part, l’isolement social et les troubles mentaux chez les jeunes se sont accrus ces dernières années.
Certains chercheurs mettent également en avant des caractéristiques structurelles des chatbots : nature anthropomorphe, capacité à tenir de longues conversations et à mémoriser des informations personnelles. Ces éléments, combinés, favorisent la formation de liens émotionnels avec le logiciel, augmentant le poids émotionnel de chaque réponse.
Dans l'ensemble, les litiges juridiques et les accords en cours de finalisation poussent vers des normes de sécurité une responsabilité plus élevée et plus grande des fournisseurs d’intelligence artificielle générative, en particulier lorsque leurs produits peuvent atteindre des utilisateurs mineurs.