Etsi lance un cadre standardisé pour évaluer quantitativement la qualité des données utilisées dans les écosystèmes numériques et d'intelligence artificielle. Le cadre, contenu dans le nouveau rapport technique « Etsi TR 104 180 : Solutions de données ; Développement et identification de mesures de qualité des données», aidera les organisations à déterminer si les données sont adaptées à l'usage prévu, tout en jetant les bases d'approches cohérentes, reproductibles et standardisées en matière de tests de qualité des données.
Plus précisément, le rapport technique présente 18 « indicateurs de qualité des données », avec des définitions formelles et des méthodes de mesure mathématiques, conçues pour aider les organisations à évaluer si les ensembles de données sont suffisamment fiables, complets, précis, représentatifs et fiables pour leur objectif prévu.
L’objectif du nouveau cadre : les quatre paramètres fondamentaux
Avec l’adoption généralisée de solutions basées sur l’IA, les organisations commencent à se concentrer sur la qualité des données qui sous-tendent les écosystèmes d’IA. Les 18 mesures de qualité des données de Etsiidentifiés et décrits dans le document, permettent aux organisations d'identifier les problèmes potentiels de qualité, de fiabilité et de biais en se concentrant sur quatre paramètres :
- Qualité fondamentale des données, avec une référence particulière à l'exhaustivité, l'exactitude, la fiabilité, la cohérence, la précision, l'intégrité, la redondance et l'unicité.
- Convivialité, synonyme de disponibilité, couverture, provenance, traçabilité et actualité.
- L'équité, qui inclut la qualité de l'étiquette, les biais de mesure et les biais de représentation.
- Confidentialité et utilisation responsable des données.
Les métriques permettent aux propriétaires d'ensembles de données de s'auto-vérifier et de déclarer eux-mêmes la qualité des données, les aidant ainsi à communiquer de manière transparente la fiabilité et à renforcer la confiance au sein des écosystèmes numériques et d'IA.
Validation du framework : tests sur données industrielles et données démographiques
Pour valider le cadre et démontrer son applicabilité, Etsi a utilisé les métriques sur deux ensembles de données différents : les données des capteurs IoT industriels et les données démographiques.. L'expérience a démontré comment les métriques peuvent être utilisées dans différents contextes de données et a souligné comment différents cas d'utilisation nécessitent différentes combinaisons et pondérations des métriques de qualité des données.
Dans le cadre duIoT industrielEn fait, des caractéristiques telles que la fiabilité, l’actualité, l’exactitude, l’exhaustivité, la traçabilité et l’intégrité sont particulièrement importantes. Comparé à données démographiquesla priorité concerne l'exhaustivité, l'anonymat, les biais de représentation, la qualité du label, la confidentialité et la couverture.
La preuve de concept a été réalisée dà une équipe composée de l'Université de Sejong, d'Egm, de Tta, de l'Université de Daejeon et du Cnitqui a développé un système de validation de la qualité des données open source et fonctionnel. L'outil peut évaluer n'importe quel ensemble de données sur la base des dix-huit mesures de qualité des données définies dans le rapport technique.
« Il est essentiel que la qualité des données soit mesurable, en particulier pour les organisations qui doivent déterminer si leurs données sont adaptées à des objectifs essentiels, comme dans le cas d'une IA fiable », explique-t-il. Diego Lopez, président du comité technique des données de l'ETSI. « Les mesures standardisées de l'ETSI fournissent un langage commun pour évaluer la qualité des données, offrant des preuves quantitatives sur l'adéquation d'un ensemble de données à son objectif prévu. Cela jette les bases d'approches plus cohérentes et reproductibles pour évaluer la qualité des données à mesure que l'IA et les technologies basées sur les données continuent d'évoluer.
Qui est Etsi et que fait-il
Etsi est l'un des seuls trois organismes officiellement reconnus par l'UE comme l'Organisation européenne de normalisation (ESO). Il s'agit d'un organisme indépendant à but non lucratif dédié à la normalisation des TIC.
Avec plus de 900 organisations membres dans plus de 60 pays sur cinq continents, Etsi offre un environnement ouvert et inclusif aux membres représentant l'industrie, les instituts de recherche, le monde universitaire, les gouvernements et les organismes publics. Le groupe soutient le développement, la ratification et la vérification en temps opportun de normes applicables à l'échelle mondiale pour les systèmes, applications et services basés sur les TIC dans tous les secteurs.
Voir l’article original en italien
