Avec Jalapeño, OpenAI veut maîtriser le coût caché de l’IA : l’inférence

OpenAI a officialisé le 24 juin 2026 Jalapeño, son premier processeur maison conçu avec Broadcom pour exécuter des grands modèles de langage. L’annonce ne porte pas sur une puce d’entraînement destinée à créer le prochain modèle frontière, mais sur l’inférence : le moment où ChatGPT, Codex ou une API répondent réellement aux utilisateurs. C’est moins spectaculaire qu’un nouveau modèle, mais probablement plus structurant pour l’économie de l’IA.

Jalapeño est présenté comme le premier « Intelligence Processor » d’OpenAI, un accélérateur pensé dès le départ pour les charges LLM. OpenAI indique que des échantillons d’ingénierie fonctionnent déjà en laboratoire à la fréquence et à la puissance visées, y compris sur des charges de travail liées à GPT-5.3-Codex-Spark. L’entreprise affirme aussi que les premiers tests montrent un meilleur rendement par watt que l’état de l’art actuel, tout en précisant que les mesures finales sont encore en cours et qu’un rapport technique détaillé doit arriver plus tard.

Le vrai enjeu n’est pas seulement de remplacer des GPU

La lecture facile consiste à voir Jalapeño comme une tentative de réduire la dépendance d’OpenAI à Nvidia. Elle est partiellement juste, mais trop courte. Dans l’IA générative, le coût critique se déplace vers l’usage quotidien : chaque requête, chaque agent qui travaille pendant plusieurs minutes, chaque réponse multimodale et chaque appel d’API consomme de la capacité d’inférence. Quand les produits passent du chatbot ponctuel à des agents capables d’enchaîner des actions longues, la question n’est plus seulement de disposer des meilleurs GPU pour entraîner un modèle. Il faut produire davantage de « tokens utiles » avec moins d’énergie, moins de latence et une disponibilité plus prévisible.

C’est précisément le terrain choisi par OpenAI et Broadcom. Le communiqué insiste sur la réduction des mouvements de données, l’équilibre entre calcul, mémoire et réseau, ainsi que l’intégration avec les systèmes de serving. Ce vocabulaire compte : pour un service comme ChatGPT, le goulet d’étranglement n’est pas uniquement la puissance brute du silicium, mais l’ensemble de la chaîne qui transforme une requête utilisateur en réponse rapide et fiable.

Une puce pensée pour la pile OpenAI

OpenAI explique avoir conçu Jalapeño à partir de sa connaissance interne des modèles, des kernels, des systèmes de déploiement et des besoins produits. Broadcom apporte la mise en œuvre silicium, des technologies réseau comme Tomahawk, et Celestica intervient sur les cartes, les racks et l’intégration système. Le message est clair : OpenAI ne veut plus seulement acheter de la capacité de calcul, mais orienter l’architecture matérielle autour de ses propres usages.

Cette logique rappelle ce que les grands acteurs du cloud ont déjà fait avec leurs accélérateurs spécialisés. Google a ses TPU, Amazon pousse Trainium et Inferentia, Microsoft a annoncé ses propres puces Maia, et Nvidia reste la référence dominante grâce à ses GPU, son réseau et son écosystème logiciel. La différence est qu’OpenAI arrive avec un profil particulier : l’entreprise exploite l’un des services d’IA grand public et développeur les plus sollicités du marché, ce qui lui donne une vision très fine des contraintes d’inférence à grande échelle.

Le chiffre le plus important est encore absent

La prudence reste indispensable. OpenAI et Broadcom parlent d’un rendement par watt « substantiellement meilleur » que les solutions actuelles, mais ne publient pas encore de benchmark détaillé, de prix, de spécifications complètes, de capacité mémoire, de format système ni de comparaison reproductible. Les échantillons tournent en laboratoire ; le passage à une production stable, à des racks déployés en masse et à une exploitation continue dans des data centers est une autre étape.

Broadcom indique que Jalapeño est le début d’une plateforme multi-génération, avec un déploiement initial prévu d’ici la fin 2026 et une montée en puissance sur plusieurs années. Son PDG Hock Tan évoque même des data centers à l’échelle du gigawatt avec Microsoft et d’autres partenaires. Ces éléments sont stratégiquement importants, mais ils restent des déclarations prospectives tant que les volumes, les performances réelles et le calendrier industriel ne sont pas documentés de manière indépendante.

Des agents plus longs rendent l’inférence décisive

Une puce d’inférence ne se voit pas dans l’interface d’un assistant. Elle peut pourtant changer l’expérience de manière très concrète. Si Jalapeño tient ses promesses, OpenAI pourrait servir des réponses plus rapides, absorber davantage de trafic, rendre certains usages agentiques moins coûteux et réduire la pression énergétique de ses services. Le bénéfice n’apparaîtra pas forcément sous la forme d’une option nommée « Jalapeño » dans ChatGPT ; il pourrait se traduire par plus de disponibilité, des limites d’usage moins serrées ou des agents capables de travailler plus longtemps sans explosion des coûts.

Le lien avec Codex est particulièrement révélateur. Dans une publication distincte datée du 25 juin, OpenAI décrit une progression des usages agentiques vers des tâches longues, parfois estimées à plus d’une heure de travail humain. Cette évolution augmente mécaniquement le besoin d’inférence soutenue : un agent ne génère pas seulement une réponse, il planifie, appelle des outils, vérifie, corrige et recommence. La puce Jalapeño arrive donc au moment où OpenAI a besoin d’une infrastructure optimisée pour des sessions d’IA plus longues, plus nombreuses et plus interactives.

Un signal pour toute la chaîne des semi-conducteurs IA

Jalapeño confirme aussi un déplacement du rapport de force dans les semi-conducteurs IA. Les laboratoires et plateformes qui maîtrisent les modèles cherchent désormais à influencer directement le matériel. Cela ne signifie pas que les GPU généralistes disparaissent : l’entraînement, la recherche, les charges mixtes et l’écosystème logiciel restent des avantages majeurs pour Nvidia et les autres fournisseurs établis. Mais l’inférence LLM à très grand volume justifie des architectures plus spécialisées, surtout quand chaque gain de rendement peut se convertir en économies d’énergie, en capacité supplémentaire ou en marges plus soutenables.

Pour l’Europe, l’annonce rappelle une dépendance plus large. Les services d’IA utilisés par les entreprises et les particuliers européens reposent de plus en plus sur des architectures propriétaires, conçues par quelques acteurs américains et intégrées dans des data centers géants. Même si l’utilisateur final ne choisit pas la puce qui répond à sa requête, ces choix matériels influencent les prix, la disponibilité, la localisation de l’infrastructure et la capacité des fournisseurs européens à rivaliser sur des services d’IA avancés.

La bataille se déplace vers l’usine matérielle

Jalapeño n’est pas encore une preuve que OpenAI peut faire mieux que Nvidia, Google ou Amazon sur tous les terrains du calcul IA. C’est une preuve plus précise : OpenAI veut contrôler l’inférence, qui devient le poste industriel central de l’IA générative. La prochaine étape ne sera pas un slogan sur la performance, mais un rapport technique, des déploiements vérifiables et une mesure réelle du coût par requête à grande échelle.

Si cette première génération fonctionne, OpenAI gagnera un levier stratégique que les seuls modèles ne donnent pas : la capacité d’aligner produit, modèle, logiciel de serving, réseau et silicium dans une même boucle d’optimisation. Si elle déçoit, l’annonce aura au moins montré où se déplace la bataille. L’IA ne se joue plus seulement dans les paramètres des modèles, mais dans l’usine matérielle qui permet de les faire tourner à chaque seconde.

Sources principales

• OpenAI, annonce officielle de la puce Jalapeño avec Broadcom
• Broadcom, communiqué investisseur sur l’Intelligence Processor Jalapeño
• OpenAI, étude économique sur l’usage des agents et de Codex au travail

Crédit image : OpenAI, visuel officiel de la puce d’inférence Jalapeño présentée avec Broadcom.