À mesure que l’IA s’intègre de plus en plus dans les opérations quotidiennes, les entreprises alimentent leurs modèles avec une quantité de données sans précédent. L'utilisation de grands modèles linguistiques (LLM) dans le support client, l'analyse, la productivité des développeurs et la gestion des connaissances d'entreprise est désormais courante. À cela s’ajoutent des agents d’IA, des systèmes capables de récupérer des informations, de les traiter et d’agir à travers différents outils et workflows.
Quand les « meilleures » données sont aussi les plus sensibles
Cependant, les données les plus précieuses pour améliorer les performances de l'IA sont souvent les plus sensibles : les transcriptions, les notes, les historiques de transactions et les journaux opérationnels peuvent contenir des informations personnelles identifiables (PII), des informations réglementées ou des informations privées sur le contexte commercial. Même avec les meilleures intentions en matière de confidentialité, il est facile pour ces domaines sensibles de se retrouver dans des supports de formation, des ensembles d'évaluation ou des bibliothèques d'invites, d'autant plus que les équipes agissent rapidement pour créer et faire évoluer les cas d'utilisation de l'IA.
Données synthétiques : promesse de rapidité, exigence de sécurité
C’est pour cette raison que les données synthétiques suscitent un regain d’intérêt. Dans leur forme la plus simple, les données synthétiques sont des données générées de manière algorithmique et conçues pour refléter des modèles clés dans des ensembles de données réels sans reproduire les enregistrements réels. En théorie, cela offre une voie pour accélérer le développement de l’IA en réduisant l’exposition d’informations potentiellement sensibles. Mais les données synthétiques éliminent-elles réellement le risque, ou se contentent-elles de le déplacer ?
Parce que le risque pour la vie privée augmente avec les LLM et les agents
Pourquoi le risque pour la vie privée augmente à l'ère des LLM et des agents
Les flux de travail analytiques traditionnels ont tendance à avoir des limites plus claires : les données sont conservées, agrégées, masquées et utilisées à des fins bien définies. Cependant, le développement dirigé par LLM brouille ces frontières. De nombreuses entrées ne sont pas structurées, le contenu sensible peut être caché dans un texte apparemment inoffensif et l'évaluation s'appuie de plus en plus sur des ensembles de tests contenant chacun une grande variété de données. Les agents élargissent encore davantage la surface d’exposition aux risques car ils ont accès aux systèmes de données. En outre, très souvent, les données personnelles apparaissent de manière imprévisible, précisément parce que les organisations n’ont pas de visibilité sur leurs données.
L’expansion des initiatives d’IA nécessite de gros volumes de données pour les réglages, les tests et les itérations supervisés. Et de nombreux projets, bien que prometteurs, échouent parce que les équipes ne peuvent pas partager ou utiliser ces données en toute sécurité pour fiabiliser les modèles.
Les données synthétiques sont-elles la réponse ? Avantages et problèmes critiques
Les données synthétiques sont-elles l’alternative sur laquelle les entreprises peuvent s’appuyer ?
Malheureusement, les données synthétiques ne résolvent pas tous les problèmes. Des ensembles de données synthétiques mal générés peuvent néanmoins divulguer des informations sensibles s’ils préservent certaines combinaisons d’informations ou rapportent par inadvertance des exemples réels qui ne sont pas correctement anonymisés. Les données synthétiques peuvent également échouer dans le sens inverse : si elles sont trop « propres », trop générales ou trop uniformes, les modèles formés sur elles peuvent donner de bons résultats lors de tests contrôlés mais rencontrent des difficultés lorsqu'il s'agit de les mettre en œuvre dans le monde réel.
Une approche plus réaliste consiste à utiliser des données synthétiques comme outil de réduction des risques. S’ils sont gérés avec discipline, ils peuvent réduire l’exposition aux données personnelles tout en permettant le développement et l’évaluation de modèles. Ils peuvent également aider à surmonter un obstacle pratique typique : de nombreuses organisations ne disposent pas initialement de quantités suffisantes de données correctement étiquetées et de haute qualité à utiliser pour la phase de formation, bien avant que les considérations de confidentialité n'entrent en jeu.
Au-delà des ensembles de données tabulaires : que peut-on générer aujourd'hui
La génération moderne de données synthétiques a évolué au-delà des simples ensembles de données de test tabulaires. Aujourd'hui, les entreprises peuvent générer des données d'instructions synthétiques, des dialogues synthétiques, des tickets d'incident synthétiques et des paires questions-réponses synthétiques qui reflètent la structure des flux de travail du monde réel sans s'appuyer sur des enregistrements bruts. Ceci est particulièrement pertinent pour les besoins de développement de l’IA suivants :
· Mise au point supervisée et adaptation au domaine : l'un des objectifs des entreprises est souvent de garantir que les modèles fonctionnent dans un contexte pertinent à leurs activités (modèles spécifiques au domaine), en utilisant la terminologie, les politiques, la structure du catalogue de produits et la logique d'escalade de l'organisation. Un réglage fin peut aider, mais les exemples de formation nécessaires sont souvent sensibles. Les ensembles de données synthétiques peuvent fournir des paires invite-réponse plus sécurisées qui reflètent les modèles d'intention et les formats d'activité réels, tout en réduisant la dépendance aux données réelles des clients ou des employés.
· Évaluation des modèles d'IA à grande échelle : l'évaluation constitue souvent un goulot d'étranglement dans les programmes d'IA d'entreprise. Les équipes doivent tester les modèles dans de nombreux scénarios, tels que les requêtes de routine, les cas extrêmes, les modes de défaillance et les sujets sensibles en matière de conformité. La génération de tâches synthétiques permet de créer des suites d'évaluation volumineuses et reproductibles plus rapidement que les méthodes manuelles. Si cela est bien fait, cela améliore la confiance dans le comportement du modèle avant le lancement en production. et réduit le besoin de gérer des ensembles de données brutes sensibles pendant les tests.
· Conservation de données personnalisée pour RAG et les agents : les flux de travail de génération augmentée par récupération (RAG) et basés sur des agents dépendent fortement de la qualité des bases de connaissances et des invites de test. Les données synthétiques peuvent générer des requêtes, des variations et des interactions réalistes à plusieurs tours pour souligner le comportement de
récupération et utilisation des outils. Cela réduit la fréquence à laquelle des conversations réelles et sensibles doivent être utilisées comme entrée.
Ce que signifie réellement « protection de la vie privée »
Qu’est-ce qui rend les données synthétiques « sécurisées pour la confidentialité »
Pour que les données synthétiques atténuent les risques liés à la vie privée, elles doivent être traitées comme une discipline de conception qui nécessite une surveillance minutieuse, plutôt que comme une solution de dernière minute. Pour réussir, les organisations doivent d'abord définir si l'ensemble de données est destiné à la formation, à l'évaluation, à la red-teaming ou aux tests du système. Les objectifs d’utilité déterminent la manière dont les données doivent être générées. Il y a d'autres éléments à considérer, tels que :
· Minimiser les données et généraliser les données granulaires pour supprimer les champs sensibles inutiles et les valeurs aberrantes des données sources et pour mettre à l'échelle la portée avant le début de la génération.
· Évaluer si les données synthétiques préservent les modèles nécessaires pour les performances du modèle, pas seulement pour savoir s'il semble réaliste.
· Vérifier le risque de stockage et la présence d'exemples excessivement uniques ou reconstructibles.
· Documenter ce qui a été généré, la méthode utilisée et l'utilisation prévue. Ceci est important pour la gouvernance et la traçabilité, en particulier dans les environnements réglementés.
Gouvernance et plateformes : le défi opérationnel
Les données synthétiques ne remplacent pas universellement les données réelles et n’éliminent pas le besoin de gouvernance. En pratique, rendre les données synthétiques utiles et sécurisées constitue un défi opérationnel. Les équipes ont besoin d'un environnement capable de générer des ensembles de données synthétiques à grande échelle, de les connecter à des tâches d'IA spécifiques (telles que le réglage précis ou l'évaluation) et d'appliquer des contrôles de gouvernance afin que les résultats puissent être utilisés en toute confiance dans toute l'organisation. Dans l’ensemble, la plus grande valeur des données synthétiques réside dans leur utilisation pour créer des modèles d’apprentissage automatique traditionnels dans des environnements où les données sont rares ou déséquilibrées.
À mesure que les entreprises développent les déploiements de LLM et d’agents, les données synthétiques deviennent un moyen pratique d’avancer, réduisant ainsi la dépendance à l’égard des données personnelles sensibles. Cela met en évidence la nécessité d'une plate-forme d'IA et de données unifiée et gouvernée, permettant aux équipes d'opérationnaliser la génération et la validation de données synthétiques dans le cadre d'un cycle de vie de l'IA de bout en bout, afin que l'innovation puisse progresser plus rapidement sans risquer d'exposer la vie privée.