La Chine vient de construire un modèle d’IA majeur sans puces Nvidia. Aujourd’hui, OpenAI a trouvé le moyen d’en utiliser beaucoup moins, réduisant ainsi les coûts d’inférence de plus de moitié. Malgré cela, le titre Nvidia a augmenté.
C'est là l'énigme. OpenAI est l'un des plus gros clients de Nvidia (NVDA). Pourtant, les actions ont grimpé alors même qu’elles ont eu besoin de moins de jetons.
OpenAI réduit les coûts d'inférence sur deux fronts
Le premier front est le logiciel. The Information a rapporté que les ingénieurs d'OpenAI ont réduit les coûts d'inférence de plus de moitié grâce à de nouvelles méthodes d'optimisation. OpenAI n'a pas publié les détails techniques.
Les économies réalisées réduisent le nombre de puces Nvidia nécessaires pour gérer une partie du trafic ChatGPT. Ils pourraient également permettre à OpenAI de baisser les prix ou d’augmenter les limites d’utilisation.
Le deuxième front est le matériel. Le 24 juin, OpenAI et Broadcom (AVGO) ont dévoilé Jalapeño, sa première puce personnalisée. OpenAI a déclaré que les premiers tests indiquent des performances par watt bien supérieures à celles des principales puces actuelles, avec une conception de neuf mois.
Les premières puces seront déployées à l’échelle du gigawatt d’ici fin 2026, avec Microsoft comme partenaire principal. Nvidia gère toujours la plupart des inférences d'OpenAI, même si OpenAI finance son partenariat avec les puces Broadcom.
Les grandes technologies se lancent dans une course à la construction de leurs propres puces
OpenAI n'est pas seul. Google construit des unités de traitement tensoriel depuis 2016, et Amazon a suivi avec les siennes. Le cabinet de recherche TrendForce prévoit que les systèmes basés sur ASIC atteindront 27,8 % des expéditions de serveurs IA en 2026, le plus élevé depuis 2023.
Selon TrendForce, les puces personnalisées devraient pour la première fois croître plus rapidement que les GPU de Nvidia. Des fournisseurs comme Broadcom et Marvell sont devenus des fabricants de puces personnalisés clés dans le développement.
Les sanctions accentuent la même tendance en Chine. Meituan a récemment entraîné son modèle LongCat-2.0 de 1,6 billion de paramètres sur les puces nationales chinoises, sans aucun matériel Nvidia.
Pourquoi les actions Nvidia continuent d'augmenter
La menace est réelle, mais les chiffres expliquent le calme. L'action Nvidia a augmenté de près de 2 % le 30 juin, soit une valeur proche de 4 800 milliards de dollars. Les derniers résultats de Nvidia montrent que les revenus des centres de données ont augmenté de 75 % pour atteindre un record de 62,3 milliards de dollars en un seul trimestre.
L'essentiel de la pression réside dans l'inférence et non dans la formation. Nvidia domine toujours la formation de modèles, où son logiciel CUDA attire les développeurs depuis 2006. Les puces personnalisées correspondent rarement à cette flexibilité.
Nvidia défend également la couche d'inférence qu'elle est accusée de perdre. Chez GTC, Nvidia a déclaré que sa prochaine plate-forme Rubin réduirait les coûts d'inférence par jeton jusqu'à 10 fois par rapport à Blackwell. Une inférence moins chère a également tendance à augmenter l’utilisation et le calcul total.
Tout le monde n’est pas convaincu. Certains investisseurs se sont tournés vers des actions de puces rivales, pariant sur les composés du changement d'inférence. Pourtant, Nvidia a atteint ce trimestre sans compter les ventes en Chine et connaît toujours une demande record.
Nvidia vend toujours toutes les puces qu'elle peut fabriquer. Le véritable test est de savoir si ses plus gros clients peuvent s’en débarrasser plus rapidement que le marché ne se développe.
Le post Après la Chine, OpenAI s'en va chez Nvidia : alors pourquoi NVDA s'approvisionne-t-il ? est apparu en premier sur BeInCrypto.
Voir l’article original en anglais
