Microsoft a élaboré 18 règles pour améliorer la relation entre les humains et l'IA. Les recommandations vont de quelque chose d'aussi basique que de clarifier ce qu'un système d'IA peut faire et quelles sont ses limites à des questions beaucoup plus complexes, comme expliquer ses décisions, corriger ses erreurs, gérer ce qu'il se souvient de l'utilisateur ou avertir lorsque son comportement change.
Les règles font partie du HAX Toolkit (Human-AI eXperience Toolkit), développé par Microsoft Research pour aider les concepteurs, les ingénieurs et les chefs de produits à créer des systèmes d'intelligence artificielle centrés sur l'humain.
L’initiative tente de répondre à un problème devenu beaucoup plus visible avec le développement de l’IA générative : les machines avec lesquelles nous interagissons ne se comportent plus comme des logiciels traditionnels. Ils peuvent faire des erreurs, interpréter différemment une même demande, apprendre de notre comportement, se souvenir de certaines interactions et modifier leur façon de répondre au fil du temps.
Cela soulève une question qui va bien au-delà de la technologie : quel doit être notre rapport à l’intelligence artificielle ?
Microsoft étudie cette question depuis plus de deux décennies. Le résultat est un ensemble de 18 principes qui cherchent à établir des règles de base pour concevoir cette relation et, surtout, garantir que les gens peuvent comprendre, corriger et contrôler les systèmes d'IA qu'ils utilisent.
Les lignes directrices pour l’interaction homme-IA condensent plus de vingt ans de recherche sur l’interaction homme-machine et ont été initialement présentées dans un article universitaire publié en 2019 lors de la conférence CHI.
Bien que ces guides soient antérieurs à l’explosion de ChatGPT et de l’intelligence artificielle générative actuelle, bon nombre des questions qu’ils soulèvent ont désormais acquis une bien plus grande pertinence : ce qu’une IA doit retenir, comment elle doit apprendre de nous, comment elle doit expliquer ses erreurs ou dans quelle mesure nous devons pouvoir contrôler son comportement.
G1. Expliquez clairement ce que le système peut faire
L'utilisateur doit comprendre quelles sont les capacités réelles du système d'intelligence artificielle. Cela semble être une recommandation élémentaire, mais elle est essentielle pour éviter qu’une personne n’attribue à une IA des capacités qu’elle ne possède pas réellement.
G2. Expliquez clairement à quel point vous pouvez réussir
Il ne suffit pas d’expliquer ce que fait une intelligence artificielle. Vous devez également indiquer dans quelle mesure vous pouvez le faire correctement. L'utilisateur doit être capable de comprendre que le système peut commettre des erreurs et quel est le niveau de fiabilité approximatif qu'on peut attendre.
G3. Synchronisez les services en fonction du contexte
L'intelligence artificielle doit décider quand agir ou quand interrompre en tenant compte de la tâche que la personne effectue et du contexte dans lequel elle se trouve. Toutes les recommandations ne sont pas utiles à tout moment.
G4. Afficher des informations contextuellement pertinentes
Le système doit offrir des informations liées à ce que fait l'utilisateur à ce moment-là et à son environnement. La pertinence dépend non seulement du contenu, mais aussi du contexte.
G5. Respecter les normes sociales pertinentes
Une intelligence artificielle n’interagit pas dans un vide social. Leur comportement doit être conforme aux attentes de l'utilisateur en tenant compte de son contexte social et culturel.
G6. Atténuer les préjugés sociaux
Le langage et le comportement du système doivent éviter de renforcer les stéréotypes ou de reproduire des préjugés injustes. C’est l’une des questions qui deviendra plus tard l’un des grands débats autour du développement de l’intelligence artificielle.
G7. Facilite l’invocation efficace
Demander de l’aide à l’intelligence artificielle devrait être facile. L'utilisateur doit pouvoir demander ou activer ses services facilement lorsqu'il en a besoin.
G8. Facilite une élimination efficace
Il est tout aussi important de pouvoir utiliser une fonction que de pouvoir l'ignorer. Le système doit permettre d’écarter facilement les recommandations, interventions ou services que l’utilisateur ne souhaite pas utiliser.
G9. Facilite une correction efficace
Que se passe-t-il lorsque l’intelligence artificielle fait des erreurs ? Microsoft estime que l'utilisateur doit disposer de mécanismes simples pour éditer, affiner ou corriger le résultat. L’erreur ne doit pas devenir une impasse.
G10. Définir les services en cas de doute
Lorsque le système ne comprend pas exactement ce que veut une personne, il doit essayer de clarifier son intention ou de réduire ses bénéfices de manière contrôlée. Autrement dit, une intelligence artificielle doit aussi savoir gérer sa propre incertitude.
G11. Explique pourquoi tu as fait ce que tu as fait
Cette règle rentre directement dans l’un des gros problèmes de l’intelligence artificielle : l’explicabilité. L'utilisateur doit pouvoir accéder à une explication du comportement du système et comprendre, au moins dans une certaine mesure, pourquoi il a produit un certain résultat.
G12. Mémoriser les interactions récentes
Microsoft recommande que les systèmes conservent une mémoire à court terme permettant une référence efficace aux interactions précédentes. La relation avec une intelligence artificielle ne doit pas forcément repartir de zéro à chaque échange.
G13. Apprendre du comportement des utilisateurs
Le système peut utiliser les actions d'une personne pour personnaliser progressivement son expérience. L’IA apprend ainsi des préférences et du comportement de l’utilisateur au fil du temps.
G14. Mettre à jour et adapter avec prudence
Mais apprendre ne signifie pas changer constamment. Microsoft prévient que les modifications du comportement du système doivent être apportées avec prudence afin d'éviter des changements perturbateurs qui déconcerteraient l'utilisateur. Un outil qui fonctionne d’une certaine manière aujourd’hui ne devrait pas se comporter complètement différemment demain sans raison compréhensible.
G15. Encouragez les commentaires granulaires
L'utilisateur doit pouvoir communiquer ses préférences lors d'une interaction régulière. Il ne s’agit pas seulement d’évaluer si quelque chose est bon ou mauvais, mais aussi de fournir des signaux plus précis qui permettent au système de mieux comprendre ce que la personne attend.
G16. Communiquer les conséquences des actions
Si une décision de l'utilisateur modifie le comportement futur du système, cette conséquence doit être communiquée immédiatement. La personne doit savoir quels effets aura son interaction avec l’intelligence artificielle.
G17. Offre des contrôles globaux
La personnalisation ne peut pas être laissée exclusivement entre les mains de l’algorithme.
L'utilisateur doit disposer de contrôles généraux qui lui permettent de décider ce que le système peut surveiller et comment il souhaite qu'il se comporte.
G18. Notifier les modifications
La dernière recommandation est particulièrement pertinente dans les systèmes en constante évolution. Lorsqu’une intelligence artificielle intègre de nouvelles capacités ou modifie celles existantes, elle doit en informer l’utilisateur.
Les 18 règles peuvent aussi être comprises comme une sorte de tour d’horizon de la relation entre une personne et une intelligence artificielle. Les deux premiers, G1 et G2, correspondent au début de cette relation. Avant d’utiliser un système, nous devons savoir ce qu’il peut faire et dans quelle mesure nous pouvons faire confiance à ses résultats.
Les règles G3 à G10 se concentrent principalement sur les interactions quotidiennes. L’intelligence artificielle doit fournir des informations pertinentes, respecter certaines normes sociales et permettre à l’utilisateur d’utiliser, d’ignorer ou de corriger facilement ses services.
Lorsque le système tombe en panne, les règles G9 et G11 revêtent une importance particulière : l'utilisateur doit être autorisé à corriger l'erreur et à fournir des explications sur ce qui s'est passé.
Enfin, les règles G12 à G18 répondent à une question de plus en plus importante : que se passe-t-il lorsque notre relation avec une intelligence artificielle s'étend dans le temps.
C’est alors qu’apparaissent la mémoire, l’apprentissage, la personnalisation et l’adaptation, mais aussi le besoin d’établir des contrôles et de communiquer les changements.
L’expansion de l’intelligence artificielle générative a radicalement transformé la façon dont des millions de personnes interagissent avec les logiciels. Il ne s’agit plus seulement d’appuyer sur des boutons, de naviguer dans les menus ou de saisir des mots dans un moteur de recherche. Maintenant, nous parlons avec les machines.
Nous expliquons ce dont nous avons besoin, ajoutons du contexte, corrigeons leurs réponses, demandons des alternatives et espérons qu'ils comprennent ce que nous venons de dire. Dans certains cas, nous attendons également d’eux qu’ils se souviennent de nos préférences et adaptent leur comportement.
Cette transformation rend particulièrement pertinentes bon nombre des questions posées par Microsoft Research des années avant la popularisation des grands modèles de langage.
Que doit savoir un utilisateur sur les limites de l’intelligence artificielle ? Que se passe-t-il lorsque vous faites une erreur ? Comment pouvez-vous le corriger ? Pourquoi a-t-il suscité une certaine réponse ? De quoi dois-je me souvenir ? Comment apprend-il de notre comportement ? Dans quelle mesure pouvons-nous contrôler cet apprentissage ? Et que se passe-t-il lorsque le système change ?
Ce sont des questions de design, mais aussi de confiance. Un système qui génère des attentes irréalistes quant à ses capacités peut finir par décevoir l’utilisateur. Une intelligence artificielle qui échoue sans permettre une simple correction génère de la frustration. Un système qui reproduit certains biais peut les amplifier. Et un outil qui évolue continuellement sans expliquer ces changements peut finir par éroder la confiance de ceux qui l’utilisent.
Les lignes directrices sur l'interaction homme-IA tentent de fournir un langage commun pour anticiper ces problèmes avant que le produit n'atteigne l'utilisateur. Sa principale valeur réside précisément dans la traduction d’années de recherche universitaire en décisions de conception concrètes.
Les exemples, modèles réutilisables, outils de travail et processus inclus dans le HAX Toolkit permettent d'utiliser ces recommandations à la fois pour construire un premier produit avec intelligence artificielle et pour revoir des systèmes déjà fonctionnels.
L’objectif n’est pas d’empêcher l’intelligence artificielle d’évoluer, mais de rendre cette évolution compréhensible pour les personnes qui vont l’utiliser. Car plus ces systèmes sont performants, plus il sera important d’établir clairement ce qu’ils peuvent faire, quand ils peuvent commettre des erreurs et quelle capacité l’utilisateur conserve pour intervenir.
La boîte à outils HAX peut en fin de compte être comprise comme plus qu'un simple manuel de conception. Ses 18 principes dessinent quelques règles de base pour une relation qui devient rapidement quotidienne : la relation entre les êtres humains et les systèmes intelligents.
Microsoft Research a commencé à systématiser ces recommandations avant que l’intelligence artificielle générative ne devienne un produit de consommation de masse. Cependant, l’expansion actuelle de ces systèmes rend nombre de ces questions encore plus pertinentes.
L’intelligence artificielle peut apprendre, mémoriser, recommander, anticiper et s’adapter. Mais vous pouvez aussi vous tromper. Et c’est précisément pour cette raison qu’il ne suffit pas de concevoir des machines de plus en plus intelligentes. Il est également nécessaire de concevoir la manière dont nous souhaitons interagir avec eux.
Voir l’article original en espagnol
