La capacité d'inférence est devenue le goulot d'étranglement définitif de l'ère des agents IA, un problème que DFlash 2 promet de résoudre. Et pour y parvenir, DFlash 2 pousse le décodage spéculatif 21% plus loin sans renoncer à sa conception parallèle en un seul passage. En bref, DFlash 2 promet d'augmenter les performances des agents d'IA, tout en maintenant la consommation de mémoire au minimum, ce que les entreprises apprécieront au milieu des prix stratosphériques de la RAM.
Et tandis qu’un chatbot génère des jetons à un rythme humain, un agent autonome peut consommer des millions de jetons en une seule après-midi. Après tout, l'agent lit, planifie, invoque des outils, et chacun de ces jetons nécessite un « passe avant » complet sur le modèle.
C’est là qu’entre en jeu la magie architecturale de DFlash 2 et son approche de rédaction par diffusion de blocs. Contrairement aux méthodes de décodage spéculatives traditionnelles, qui reposent sur des modèles auxiliaires séquentiels ou souffrent de goulots d'étranglement dus à la surcharge de projet, DFlash 2 exploite un modèle d'interrogation ultra-léger qui prédit des blocs entiers de jetons candidats en une seule passe parallèle.
En déléguant la lourde tâche de vérification au modèle principal et en maintenant une latence d'interrogation quasiment inchangée quelle que soit la taille du bloc, le système parvient à multiplier la vitesse de décodage jusqu'à 300 %, sans sacrifier un iota de précision. Et cela fait la différence, car cela rend les modèles simplement capables de les rendre économiquement viables.
Il est né pour détrôner Python et il est déjà open source : c'est Mojo 1.0
L'inférence séquentielle n'évolue pas et c'est un problème
Nous savons tous que les modèles de langage génèrent leurs réponses jeton par jeton. Cela signifie que chaque étape (jeton) dépend de la précédente, forçant une chaîne en série de multiplications matricielles qui encombre la mémoire et laisse le calcul sous-utilisé.
Le décodage spéculatif tente de briser ce goulot d’étranglement. Pour y parvenir, un modèle de rédaction léger propose des candidats et le modèle cible (le grand) les vérifie en bloc via une seule passe avant. Si le rédacteur devine correctement, plusieurs jetons sont acceptés pour le prix d'un ; en cas d'échec, ils sont rejetés et réessayés. De cette façon, le modèle passe de la génération de jetons un par un à la génération de dizaines d’entre eux en même temps.
Bloc de diffusion pour le dessin parallèle
La réponse est venue en janvier 2026 du Z Lab (UC San Diego), avec le journal DFlash : bloquer la diffusion pour le décodage spéculatif Flash. Les auteurs, Jian Chen, Yesheng Liang et Zhijian Liu, ont créé un rédacteur basé sur la diffusion par blocs.
Ainsi, au lieu de prédire le prochain jeton en fonction du précédent, le modèle « peint » l’ensemble du bloc en un seul passage. Le résultat ? Une accélération allant jusqu'à 600 % dans des modèles comme Qwen3-8B, une réalisation qui met à portée de main un nouveau niveau de performance en matière d'inférence d'IA.
Comment la technologie change les pronostics et les paris
L'architecture comporte trois éléments clés :
- Structure de diffusion en bloc : Il utilise 5 couches Transformer très légères pour générer un bloc entier de texte en une seule fois, le traitant comme un processus de débruitage.
- Injection de cache KV : Il transmet les informations internes du modèle principal au modèle auxiliaire afin que ce dernier comprenne parfaitement le contexte, sans avoir besoin d'allonger les saisies ni de perdre de la vitesse.
- Entraînement optimisé (sparsification) : Il calcule l'erreur d'entraînement uniquement sur des points clés sélectionnés au hasard, réduisant ainsi considérablement la consommation de mémoire sur le GPU.
Adoption industrielle : des travaux de recherche à la norme industrielle en 7 mois
La transition très rapide de DFlash et de son évolution DFlash 2 depuis un document de recherche présenté par Z Lab à l'UC San Diego en janvier 2026 jusqu'à s'imposer comme un standard de l'industrie en l'espace de sept mois seulement reflète un changement sans précédent dans l'infrastructure de l'intelligence artificielle.
Cette adoption rapide est principalement due à son intégration native dans les moteurs de services de modèles de langage populaires tels que vLLM et SGLang. Ce qui, ajouté à la disponibilité de poids prêts à la production sur des plates-formes comme Hugging Face, a permis aux entreprises de déployer la technologie immédiatement via un simple changement de configuration sans avoir besoin de recycler les modèles auxiliaires.
Cette avancée représente un soulagement économique direct face à la crise de la RAM et du GPU, puisqu'en doublant ou triplant la vitesse d'inférence sans nécessiter de matériel supplémentaire, elle réduit drastiquement le coût par token traité dans un contexte de marges très serrées.
En outre, l'adoption industrielle a été motivée par le besoin pressant de mettre à l'échelle des modèles équipés de modes de raisonnement approfondis et d'agents autonomes, qui consomment des millions de jetons pour planifier et utiliser des outils ; En démontrant des accélérations stables jusqu'à cinq fois même avec ces flux massifs actifs, DFlash a résolu l'obstacle critique de la fourniture d'applications interactives complexes avec des temps de réponse commercialement viables pour l'utilisateur final.
Omarchy 4.0 Quattro : la distribution Linux qui conquiert le bureau
Voir l’article original en espagnol
