Des spécialistes de l'Université du Zhejiang et d'Alibaba ont présenté une nouvelle classe d'attaques contre les systèmes d'IA lors de l'ICML 2026 à Séoul, écrit IEEE Spectrum. Leur objectif n’est pas de pirater le modèle et d’accéder aux données, mais de rendre le traitement des requêtes si long que cela devienne inutile.
Comment fonctionne la nouvelle méthode
Modèles de raisonnement – contrairement aux modèles ordinaires LLM – divisez le problème en étapes séquentielles avant de répondre. Ils sont de plus en plus utilisés dans les systèmes nécessitant une analyse complexe en plusieurs étapes.
Lorsqu’ils traitent des données incomplètes ou contradictoires, ces modèles ont tendance à trop réfléchir, générant ainsi des chaînes de raisonnement trop longues. Cela augmente le temps de traitement des requêtes et la consommation des ressources informatiques. Dans les systèmes automatiques, cela ouvre un vecteur pour DoS-attaque
Les chercheurs ont développé une méthode qui provoque délibérément ce comportement. L'algorithme génétique mélange les conditions des problèmes, supprime les conditions préalables clés et en ajoute d'autres inutiles. Il sélectionne ensuite les options qui produisent la réponse la plus longue.
Sur le benchmark MATHÉMATIQUES la durée du raisonnement a augmenté de 26,1 fois. La méthode a surpassé les méthodes existantes d’une telle influence. DeepSeek-R1, Qwen3-Thinking, GPT-o3 et Gemini 2.5 Flash se sont révélés vulnérables.
Les auteurs ont également constaté que les requêtes créées pour un petit modèle étaient efficaces par rapport à d'autres systèmes, y compris les grands projets commerciaux. Cela vous permet de préparer des attaques sur des services fermés sans coûts élevés.
« Notre objectif n'est pas de démontrer que des attaques à grande échelle sont possibles à un coût minime, mais de documenter que cette surface d'attaque existe », a écrit Wei Cao, l'un des chercheurs, dans un e-mail adressé à IEEE Spectrum.
Pourquoi est-ce important
Les modèles de raisonnement sont de plus en plus utilisés dans les systèmes d’IA basés sur des agents, notamment les robots commerciaux, les outils d’audit de contrats intelligents et les infrastructures décentralisées.
Dans DeFi, des assistants numériques alimentés par l'intelligence artificielle gèrent des fonds réels sans intervention humaine. Les échecs logiques, y compris ceux provoqués intentionnellement, créent un risque opérationnel.
Le nouveau travail capitalise sur une caractéristique bien connue des modèles de raisonnement : la tendance à trop réfléchir. En février 2025, une équipe de chercheurs a analysé 4 018 trajectoires d’agents et identifié des schémas récurrents de réflexion excessive parmi les modèles :
- paralysie de l'analyse — le modèle continue de raisonner au lieu d'exécuter la tâche ;
- actions imprévisibles — après une erreur, tente d'effectuer plusieurs actions simultanément ;
- résiliation prématurée — arrête l'exécution d'une tâche sans vérifier le résultat.
Les modèles de raisonnement se sont révélés plus enclins à trop réfléchir. Plus l’effet est prononcé, plus l’efficacité est faible.
Rappelons qu'au début du mois de juillet 2026, les analystes avaient prévenu que la poursuite du développement d'OpenAI et d'Anthropic dépendait de plus en plus de la disponibilité de la puissance de calcul, du financement des centres de données et des décisions réglementaires.
Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL+ENTRÉE