L’intelligence artificielle est « la capacité d’une machine à faire preuve de capacités humaines telles que le raisonnement, l’apprentissage, la planification et la créativité ». C’est la définition donnée par le Parlement européen. Elle transforme notre monde, donne une accélération numérique sans précédent aux processus et ouvre de nouvelles opportunités pour les entreprises et les personnes. Il s’agit d’une innovation puissante, capable d’améliorer la vie humaine et qui, avec de grands avantages, comporte également une série de risques et de défis. Utiliser l’IA sans les précautions nécessaires peut en effet exposer à des problèmes critiques importants : de la violation de la confidentialité des données à la perpétuation de biais spécifiques, jusqu’à l’interruption de la continuité opérationnelle. Des risques qui, pour une entreprise, pourraient compromettre les résultats d’un projet entier ou, pire, nuire à sa crédibilité. L’adoption d’un système de gestion certifié pour l’intelligence artificielle peut aider les entreprises à maîtriser ces risques et à exploiter pleinement le potentiel de cette nouvelle révolution.
Biais, sécurité, protection de la vie privée : les risques à affronter
Mais quels sont les risques auxquels les entreprises sont exposées ? Il ne s’agit plus seulement de vol de données. Nous en avons regroupé 9 de différents types. Un système de gestion d’IA certifié peut aider à les atténuer :
Un système d'IA reçoit des données, les analyse, puis les régénère. Si les données saisies sont incorrectes ou incohérentes, le résultat sera également incohérent. Pensons à ce modèle opérationnel, par exemple, appliqué à un processus de sélection de personnel : si l'ensemble de données initial contient des erreurs, il existe un risque que les candidats soient victimes de discrimination, peut-être en raison de leur âge ou de leur origine géographique.
- Des responsabilités peu claires
L’intelligence artificielle est une technologie complexe, avec des équipes travaillant sur différents volets. Une complexité qui, en cas de problème, rend difficile la détermination des responsabilités. Définir clairement les rôles et les domaines d’expertise est une étape cruciale.
Comme tout système informatique, l’IA est également vulnérable aux attaques de pirates informatiques, avec des risques très élevés si l’on pense à des secteurs pertinents comme la santé, la finance ou les infrastructures. Si un pirate était capable de manipuler les données d’entraînement d’un système d’intelligence artificielle utilisé pour le diagnostic médical, le système finirait par fournir des diagnostics erronés, mettant ainsi en danger la santé des patients.
L’immense quantité de données traitées par l’IA suscite des inquiétudes quant à la confidentialité des données qu’elle possède, ainsi que des inquiétudes quant à la possibilité qu’elles soient utilisées à mauvais escient. La prévention des violations de données reste en tête de la liste des obligations de l’entreprise qui détient ou utilise les informations.
L’énorme puissance de calcul requise par l’IA a un impact environnemental important, augmentant par conséquent la consommation d’énergie et les émissions. Ce sont également des aspects à prendre en compte au moment de décider d’utiliser des outils de ce type.
La complexité de l’IA rend difficile la compréhension complète de son fonctionnement et de son potentiel. Ce sont des aspects qui limitent la capacité de contrôle et doivent être pris en compte lors de la définition des mesures adéquates pour suivre les développements au fur et à mesure de leur évolution.
Il est important de prendre en compte les implications éthiques des décisions prises par l’IA. Prenons par exemple les systèmes autonomes tels que les véhicules sans conducteur qui, pour respecter des paramètres d’efficacité, comme les temps d’exécution d’une activité donnée, décident de mettre au second plan des aspects tels que la sécurité humaine.
- Impact sur l'emploi et les descriptions de poste dans l'entreprise
L’automatisation, ou plus généralement le recours à l’IA, pourrait conduire à la modification de certaines tâches et à la révision des rôles dans l’entreprise. De la même manière qu’au niveau macro on considère les impacts de l’IA sur l’emploi, l’impact de la mise en œuvre d’outils d’IA sur ses effectifs est également une question qui nécessite une gestion prudente et prévoyante.
- Manque de transparence et de clarté
Le manque de transparence sur le fonctionnement de l’IA peut nuire aux relations de confiance. Une banque qui utilise un algorithme d’IA pour évaluer la solvabilité de ses clients doit être en mesure de fournir des explications claires et compréhensibles sur son fonctionnement et sur les critères pris en compte si, par exemple, la demande de prêt d’une personne est rejetée.
Quels outils mettre en œuvre pour être en conformité
Les outils d'atténuation des risques peuvent être législatifs ou réglementaires. Nous observons toujours l'aspect législatif avec une attention et une curiosité extrêmes et c'est aux gouvernements centraux de décider.
En ce sens, le Parlement européen a récemment approuvé l’AI ACT, la loi sur l’intelligence artificielle qui garantit la sécurité et le respect des droits fondamentaux et favorise l’innovation. Le respect de la réglementation est un aspect qui est loin d’être négligeable lorsqu’il s’agit de décider d’aborder ces questions.
D'un point de vue réglementaire, la norme ISO/IEC 42001 a été introduite en 2023. Il s'agit de la première norme internationale qui définit les exigences pour la mise en œuvre d'un système de gestion capable de diriger l'utilisation de l'IA dans l'entreprise dans toutes ses phases : depuis le moment où son utilisation est planifiée, jusqu'à sa mise en œuvre et au-delà, dans les phases d'adaptation continue.
Un système de gestion, quel que soit son domaine d’application, n’est rien d’autre qu’un ensemble de procédures et de processus visant à définir et à contrôler les performances d’une entreprise dans une optique d’amélioration continue. C’est exactement ce que fait également un système de gestion par intelligence artificielle conforme aux exigences de la norme ISO/IEC 42001.
Si l’on parle de recrutement, par exemple, les entreprises embauchent du personnel en fonction de l’expérience et des compétences qui seront ensuite consolidées par un parcours de formation, au sein de l’entreprise. À l’avenir, il est probable que les nouveaux embauchés, par exemple, arriveront équipés de leur propre IA « personnelle ».
Comment l’organisation compte-t-elle gérer l’opportunité et atténuer ce risque ? Préfère-t-elle laisser la liberté d’utiliser une IA externe ou choisit-elle d’imposer l’utilisation de sa propre IA ? Comment les données et les informations sont-elles cataloguées ? Tout peut-il passer par l’IA ou n’est-il pas permis de « télécharger » des documents confidentiels ? Existe-t-il ou existera-t-il des rôles organisationnels dédiés à la gestion de l’IA ?
Un système de gestion d’IA dédié aidera à répondre à ces questions, en atténuant les risques et en définissant des actions ciblées et objectives visant à l’amélioration continue de l’organisation sur ces questions.
Je crois que les entreprises ne peuvent pas se priver des opportunités de la nouvelle grande révolution introduite par l’IA. Il suffit de penser au nombre de personnes qui comparent son potentiel à celui résultant de l’introduction de la roue. Bien sûr, aborder un outil aussi puissant sans la bonne conscience serait être naïf. Avec un système de gestion certifié ISO 42001, les entreprises appliqueront une méthodologie organisationnelle capable de les accompagner vers le progrès et pourront, en même temps, communiquer à leurs parties prenantes qu’elles ont mis en œuvre toute une série de processus pour gérer l’innovation de manière éthique, sûre et responsable.
Voir l’article original en italien
