En résumé
- Des chercheurs de Tencent et de l'Université Jiao Tong ont développé ProAct, un agent d'IA qui utilise les temps d'arrêt pour anticiper les questions des utilisateurs.
- Le système a réduit les cycles de conversation de 14,8 % et les hallucinations de 28,1 % lors de tests sur 200 simulations dans 40 domaines.
- Les chercheurs ont averti qu’une version réelle nécessiterait des protections de la vie privée car elle analyse et stocke en permanence les données des utilisateurs.
Des chercheurs de l’Université Jiao Tong de Shanghai et du conglomérat technologique chinois Tencent affirment avoir développé un agent d’IA qui profite des temps d’arrêt entre les conversations pour prédire ce que les utilisateurs pourraient demander ensuite – et préparer les réponses avant qu’ils ne le fassent.
Le système, appelé ProAct, fonctionne différemment de la plupart des agents IA qui attendent que l'utilisateur pose une question avant de répondre. Au lieu de cela, ProAct profite du temps d'arrêt entre les messages pour examiner les conversations précédentes et les informations utilisateur enregistrées, puis préparer les informations utiles en arrière-plan avant l'arrivée de la question suivante.
« Bien que les agents d'IA démontrent des capacités notables en matière de raisonnement et d'utilisation d'outils, ils restent fondamentalement réactifs : ils calculent les réponses uniquement après que l'utilisateur a envoyé une invite explicite », ont écrit les chercheurs. « Ce paradigme ignore une opportunité cruciale : les temps d'arrêt entre les interactions sont largement gaspillés, empêchant les agents de se préparer aux besoins futurs des utilisateurs. »
Le système fonctionne en plusieurs étapes. La première, appelée Future State Prediction, anticipe d’éventuelles questions de suivi en analysant les conversations passées, les préférences des utilisateurs et les informations manquantes.
La deuxième étape, appelée Downtime Acquisition, détermine lesquelles de ces prédictions méritent d'être étudiées en fonction de leur pertinence, de leur actualité et de l'utilité potentielle des nouvelles informations.
Un système indépendant décide ensuite s'il doit présenter les informations préparées, les enregistrer pour plus tard ou les stocker jusqu'à ce qu'elles soient nécessaires, créant ainsi un système « en boucle fermée » conçu pour anticiper et répondre aux besoins des utilisateurs.
« Après chaque interaction de premier plan, l'agent met à jour sa mémoire, prédit les besoins futurs possibles, alloue les temps d'inactivité aux candidats les plus précieux et décide de la manière dont la préparation qui en résulte doit être gérée », ont-ils écrit. « Cette formulation lie la prédiction, l'acquisition et la livraison à une seule politique, plutôt que de traiter le calcul des temps d'inactivité comme une recherche en arrière-plan sans restriction. »
Selon les chercheurs, ProAct a été évalué dans 200 simulations dans 40 domaines, dont la planification financière, la gestion des versions logicielles et la cybersécurité. Selon le journal, le système a réduit les cycles de conversation de 14,8 % et les demandes de suivi de 11,7 %. Dans une comparaison utilisant un benchmark appelé ProActEval, ProAct a anticipé 703 besoins prévisibles des utilisateurs contre 32 pour le système précédent. Les chercheurs ont également signalé une réduction de 28,1 % des hallucinations.
La recherche intervient alors que les agents d'IA autonomes se développent dans l'industrie technologique, avec des projets comme OpenClaw et Agent Hermes offrant des assistants d'IA persistants capables de gérer des tâches indépendantes plus longues, telles que la planification, la prise de rendez-vous, la recherche et l'automatisation des flux de travail, avec moins d'intervention humaine directe.
L’étude intervient également après que des chercheurs ont averti plus tôt ce mois-ci que les agents d’IA pourraient accomplir des tâches dangereuses sans en comprendre les conséquences.
« Comme M. Magoo, ces agents avancent vers un objectif sans pleinement comprendre les conséquences de leurs actes », a déclaré Erfan Shayegani, auteur principal de l'étude et doctorant à l'UC Riverside, dans un communiqué. « Ces agents peuvent être extrêmement utiles, mais nous avons besoin de garde-fous car ils peuvent parfois donner la priorité à la réalisation de l'objectif plutôt qu'à la compréhension de la situation dans son ensemble. »
Les chercheurs ont reconnu que l'étude ProAct présente plusieurs limites, notamment que dans 3 % des cas, le système a aggravé les réponses en introduisant des informations non pertinentes. Le document note également que toute version réelle nécessiterait des protections de la vie privée, car le système analyse en permanence les conversations et stocke les données des utilisateurs.
« Notre analyse budgétaire montre en outre que des budgets d'acquisition de temps d'arrêt plus importants augmentent le coût des jetons actifs et génèrent des rendements décroissants », ont-ils écrit, « de sorte que l'informatique proactive est un compromis opérationnel plutôt que quelque chose à maximiser. »
Débriefing quotidien Bulletin
Commencez chaque journée avec les principales actualités du moment, ainsi que des fonctionnalités originales, un podcast, des vidéos et bien plus encore.
Voir l’article original en espagnol
