Microsoft présente un « algorithme de pensée » pour améliorer le raisonnement de l’IA

Le géant de la technologie Microsoft a dévoilé une nouvelle méthode de formation à l’IA appelée « Algorithme de pensées » (AoT), conçue pour améliorer l’efficacité et la capacité de raisonnement plus humanisée dans les grands modèles linguistiques (LLM) tels que ChatGPT.

Cette approche innovante constitue une suite logique pour l’entreprise, qui a investi de manière significative dans l’IA, notamment via OpenAI, les créateurs de DALL-E, ChatGPT et le puissant modèle de langage GPT.

Microsoft affirme que la technique AoT a le potentiel de changer la donne, car elle « guide le modèle de langage vers une voie de résolution de problèmes plus efficace », selon un document de recherche. Cette nouvelle approche utilise « l’apprentissage en contexte », permettant au modèle d’explorer des solutions de manière systématique et organisée.

Le résultat est une résolution plus rapide des problèmes avec moins de demande en ressources.

« Cette technique surpasse les précédentes approches à requête unique et correspond à une approche récente à requêtes multiples utilisant une recherche arborescente exhaustive », indique l’article. « Fait intéressant, nos résultats suggèrent que l’entraînement du modèle avec un algorithme peut conduire à de meilleures performances que l’algorithme lui-même. »

Les chercheurs notent que le modèle gagne en « intuition » améliorée car cette technique optimise son processus de recherche.

Un hybride humain-algorithme ?

La méthode AoT répond aux limites des approches d’apprentissage contextuelles actuelles, telles que la « Chaîne de pensée » (CoT). CoT produit parfois des étapes intermédiaires incorrectes, tandis que AoT guide le modèle avec des exemples algorithmiques pour des résultats plus fiables.

AoT s’inspire des humains et des machines pour améliorer les performances de l’IA générative. Les humains excellent en intuition, les algorithmes en exploration organisée. L’algorithme de pensées cherche à « fusionner ces deux facettes pour augmenter les capacités de raisonnement au sein des LLM ».

Microsoft affirme que cette technique hybride permet au modèle de surmonter les limites de la mémoire de travail humaine, permettant ainsi une analyse plus complète des idées.

Contrairement à l’approche linéaire du raisonnement de CoT ou à la technique de « l’arbre de pensée » (ToT), la méthode AoT permet une réflexion flexible de diverses options pour les sous-problèmes, tout en conservant son efficacité avec une induction minimale. De plus, il rivalise avec les outils de recherche arborescente externes, établissant un équilibre efficace entre les coûts et les calculs impliqués.

En général, l’algorithme de pensées représente un passage de l’apprentissage supervisé à l’intégration du processus de recherche lui-même. Grâce aux améliorations apportées à l’ingénierie des signaux, les chercheurs pensent que cette approche pourrait permettre aux modèles de résoudre efficacement des problèmes complexes du monde réel, tout en réduisant leur impact environnemental.

Compte tenu de son investissement substantiel dans l’IA, Microsoft semble être en bonne position pour intégrer la pensée algorithmique dans des systèmes avancés comme GPT-4. Bien que ce soit un défi, apprendre aux modèles linguistiques à « penser » de cette manière plus humaine pourrait être transformateur.