Actualites

Hot Chips 2026 : OpenAI présente son GPU Jalapeño

La puce accélératrice d’IA de l’éditeur de ChatGPT est sur le papier plus avantageuse que les GPU de Nvidia et AMD pour l’inférence. Elle devait au départ équiper les datacenters en propre d’OpenAI, mais la concrétisation de ceux-ci est devenue incertaine.

Yann Serra
par
Publié le: 26 août 2026

OpenAI persiste et signe. L’éditeur de ChatGPT a présenté des prototypes fonctionnels de sa propre puce d’accélération d’IA, Jalapeño, lors de la conférence Hot Chips 2026 qui se tient cette semaine dans la Silicon Valley. Annoncé depuis des mois, le projet de cette puce menaçait de capoter avant l’été, lorsque Broadcom, son véritable concepteur, avait suspecté qu’OpenAI n’aurait pas l’argent pour financer sa production.

Conçu dans le but de permettre à OpenAI de s’émanciper des hébergeurs qui lui facturent les temps de calcul consommés par ChatGPT, principalement Microsoft Azure, Jalapeño n’a pas la vocation d’être installé ailleurs que dans les propres serveurs de son créateur. Pour autant, des tests menés par des cabinets indépendants, en particulier le spécialiste SemiAnalysis, démontrent que la puce accélère, dans des proportions équivalentes, l’inférence sur n’importe quel LLM.

« En général, les puces de première génération ne sont pas compétitives, mais OpenAI va à contre-courant de cette tendance en surpassant toutes les puces Nvidia, AMD et Google que nous avons pu tester sur plusieurs modèles ouverts (...) Étonnamment, OpenAI ne se spécialise pas excessivement dans un aspect spécifique de l'inférence des modèles, mais s'attache plutôt à proposer une puce polyvalente offrant des performances élevées dans tous les scénarios », constate ainsi le cabinet, qui a mis au point son propre outil de mesures de performances, InferenceX.

Meilleur que les GPU actuels, moins énergivore que les prochains

Jalapeño affiche des performances de 3,4 pétaflops (3,4 millions de milliards de calculs par seconde) en précision 8 bits et grimpe même à 13,4 pétaflops en précision 4 bits. La précision 4 bits génère des contenus moins parfaits que la précision 8 bits, ce qui se traduit par exemple par des mots mal conjugués en français. Cependant, il est notable que l’architecture mémoire de la puce permet ici de quasiment quadrupler les performances au lieu de simplement les doubler comme c’est souvent le cas ailleurs.

En face, un GPU Nvidia B200, le modèle actuellement en production chez les hyperscalers, atteint 5 pétaflops en 8 bits et 10 pétaflops en 4 bits, ce qui est à peu près comparable en puissance de calcul pure, mais le B200 consomme 1200 watts, alors que Jalapeño n’en consomme que 700. Et, ce, alors que Jalapeño dispose de davantage de mémoire HBM : 216 Go contre 192 Go pour le GPU de Nvidia. Ici aussi, une meilleure architecture mémoire transparaît : un B200 fouille dans les connaissances d’un LLM à la vitesse de 8 Go/s, contre 15,4 To/s pour Jalapeño.

L’écart est similaire lorsque l’on compare la puce d’OpenAI au MI355X d’AMD. Ce dernier atteint 4,6 pétaflops en précision 8 bits, 9,2 pétaflops en précision 4 bits. Doté de 288 Go de mémoire HBM avec laquelle il communique en 8 Go/s, il consomme 1400 watts.

Jalapeño perd en revanche la bataille des performances face aux nouvelles générations de GPU Nvidia et AMD qui doivent arriver en même temps que lui sur le marché. Un Nvidia Rubin atteint 17,5 pétaflops en 8 bits, 35 pétaflops en 4 bits, et a 288 Go de mémoire HBM avec laquelle il communique en 20 To/s. Un AMD MI455X atteint 20 pétaflops en 8 bits, 40 pétaflops en 4 bits, et dispose de 432 Go de mémoire HBM avec laquelle il communique en 23,35 To/s.

Mais ces futures puces souffrent d’un très gros désavantage : elles consommeront respectivement 2300 et 2500 watts. Cela signifie des coûts d’exploitation plus élevés et, in fine, des tokens facturés plus chers aux utilisateurs. D’autant plus que, en inférence, la vitesse des accès mémoire est plus importante que la puissance de calcul. En clair, pour 25 à 33% de tokens en plus produits par seconde, les puces de Nvidia et AMD coûteront 3 à 4 fois plus cher en électricité.

Dans un billet de blog paru simultanément, OpenAI compare justement la production de tokens sur Jalapeño à celle de son meilleur concurrent actuel (sans préciser duquel il s’agit). Elle serait entre 2,7 et 4 fois plus importante par utilisateur et entre 1,5 et 1,9 fois plus importante par watt.

Une stratégie d’infrastructure en propre qui reste floue

OpenAI pense déployer Jalapeño sur ses serveurs d’ici à la fin de l’année. Une version 2 serait déjà en développement avancé et ses équipes plancheraient même sur la version 3. Le billet de blog mentionné plus haut précise qu’OpenAI ne va pas s’arrêter pour autant d’acheter d’autres puces accélératrices :

« Répondre à la demande croissante pour l’IA nécessite d’acheter davantage de puissance informatique auprès de toutes les sources disponibles. Nous continuerons donc à déployer en grande quantité des accélérateurs fournis par Nvidia ou d’autres partenaires, à la fois pour l’entraînement des modèles, mais aussi pour l’inférence », dit le billet.

Initialement, Sam Altman, le patron d’OpenAI, envisageait de construire un datacenter géant dans l’Ohio qui consommerait jusqu’à 10 gigawatts de puissance de calcul pour héberger lui-même les serveurs qui exécutent ChatGPT. La facture de ce projet plus celle de la fabrication des puces par Broadcom était estimée à 18 milliards de dollars, une somme que Broadcom considérait en mai dernier irréaliste pour les finances d’OpenAI.

Il y a quelques jours, plusieurs cabinets d’analystes annonçaient d’ailleurs que si le dernier chiffre d’affaires trimestriel d’OpenAI atteignait bien 6,7 milliards de dollars, ses pertes restaient, elles, abyssales : 12,3 milliards de dollars.

En mai, Broadcom avait conditionné la poursuite de son partenariat avec OpenAI à l’entrée de Microsoft dans l’aventure Jalapeño. Dit autrement, OpenAI était invité à renoncer à ses velléités d’indépendance et à retourner faire héberger ChatGPT sur Azure, le cloud de Microsoft. Car celui-ci, No 2 des hyperscalers derrière AWS, a des capacités financières à l’évidence autrement plus solides pour acheter des puces.

Rien n’indique pour l’heure que ce scénario se soit concrétisé, mis à part le constat que Broadcom a finalement maintenu son partenariat avec OpenAI. Mais Chris Malone, le directeur chargé depuis 2025 de lancer les chantiers de datacenters en propre chez OpenAI, aurait été licencié cette semaine, selon le Wall Street Journal. Le quotidien américain explique que l’intéressé avait de toute façon vu ses responsabilités sans cesse diminuer au cours du dernier trimestre.  

Pour approfondir sur Hardware IA (GPU, FPGA, etc.)