Des chercheurs ont présenté le concept d'un ordinateur thermodynamique, un nouveau type d'architecture informatique qui pourrait à l'avenir réduire radicalement la consommation énergétique des systèmes d'intelligence artificielle. Quantum Insider écrit à ce sujet.
Une équipe d'Extropic et du MIT pense que leur approche pourrait rendre certaines tâches d'IA jusqu'à 10 000 fois plus économes en énergie que l'informatique traditionnelle.
Au lieu de lutter contre le bruit, utilisez-le dans les calculs
Les processeurs modernes, y compris les GPU, sur lesquels de grands modèles de langage sont formés et exécutés, dépensent des ressources importantes pour effectuer des calculs déterministes précis. Dans ce cas, le bruit physique et les fluctuations thermiques sont considérés comme des interférences qui doivent être minimisées.
Les auteurs de l'ouvrage proposent l'approche inverse. Au lieu de supprimer les processus thermiques aléatoires, ils proposent de les utiliser dans les calculs. Ce principe est appelé calcul thermodynamique.
Selon les chercheurs, de nombreuses tâches de l’intelligence artificielle, comme trouver la réponse la plus probable ou la solution optimale, sont de nature probabiliste. Par conséquent, un système informatique utilisant des processus physiques aléatoires peut potentiellement les exécuter beaucoup plus efficacement que les processeurs classiques.
Résoudre l’un des principaux problèmes de l’IA
L’intérêt pour de telles architectures est associé à la consommation énergétique croissante du secteur de l’intelligence artificielle. Les grandes entreprises technologiques investissent des milliards de dollars pour construire des centres de données, et la demande d’électricité pour former et faire fonctionner des modèles avancés continue de croître rapidement.
Si l’architecture proposée s’avère viable, elle pourrait réduire non seulement les coûts énergétiques, mais également le coût d’exploitation d’une infrastructure d’IA, réduisant ainsi le besoin de clusters informatiques coûteux.
L’application pratique est encore loin
Pour l’instant, nous parlons de recherche fondamentale, et non d’un processeur fini. Les auteurs ont présenté les résultats d'architecture et de simulation montrant les avantages de la nouvelle approche pour certaines classes de problèmes. Il faudra peut-être des années avant que des puces commerciales basées sur les principes de calcul thermodynamique ne soient disponibles.
Cependant, ces travaux reflètent l’intérêt croissant de l’industrie pour les architectures informatiques alternatives. À mesure que l’échelle des modèles d’IA continue de croître, une plus grande attention est accordée non seulement à leurs capacités, mais également au coût du calcul. Dans ce contexte, la recherche de moyens de réduire radicalement la consommation d’énergie devient l’un des domaines de recherche clés, avec le développement des ordinateurs quantiques et neuromorphiques.
Rappelons qu'Amazon a mis en place en mai une nouvelle architecture pour les réseaux de centres de données, qui accélère le transfert de données et réduit également la consommation d'énergie.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE
Voir l’article original en russe
