Articles L’IA de demain
FR

Carnet vivant · Codex n° 2

Les puces de demain

À quoi ressembleront les puces qui entraîneront les prochaines IA ?

Un modèle d’IA ne va pas plus vite que la puce qui le nourrit. Ce carnet regarde les puces qui entraînent l’IA aujourd’hui, celles qui sont en construction et nos hypothèses sur les générations suivantes : plus de puissance, moins d’énergie, moins de chaleur. Avec des schémas, pour voir les puces de l’intérieur.

Version 1 · mis à jour le

I

Les puces qui entraînent l’IA aujourd’hui

Un accélérateur d’IA moderne n’est pas une puce mais une petite ville : des puces de calcul, des piles de mémoire et du câblage, le tout posé sur un même boîtier. La Fig. 1 montre les couches ; la Fig. 2 compare les principales puces sur le chiffre qui compte le plus, la mémoire.

Fig. 1 — Anatomie d’un accélérateur d’IA

123456789
  1. Puces de calcul (chacune proche de la limite du réticule)
  2. Piles de mémoire HBM, 8 à 12 couches de DRAM
  3. Puce de base de la HBM : le contrôleur au pied de chaque pile
  4. Interposeur en silicium avec connexions verticales (TSV)
  5. Substrat du boîtier, qui amène le courant
  6. Lien direct entre les deux puces de calcul
  7. Pâte thermique et couvercle métallique
  8. Plaque froide où circule un liquide
  9. Billes de soudure vers la carte
Une coupe du boîtier. Les puces de calcul et les piles de mémoire sont côte à côte sur un interposeur en silicium ; tout est refroidi par le dessus.

Fig. 2 — Bande passante et capacité mémoire des principales puces

Bande passante mémoire (To/s)

  1. H1003.35
  2. B2008
  3. B3008
  4. MI355X8
  5. Trainium34.9
  6. TPU Ironwood7.37
  7. Maia 2007
  8. Rubin19.2 → 22
  9. MI455X23.3

Capacité mémoire (Go)

  1. H10080
  2. B200192
  3. B300288
  4. MI355X288
  5. Trainium3144
  6. TPU Ironwood192
  7. Maia 200216
  8. Rubin288
  9. MI455X432

En serviceGénération 2026Premier objectif de Rubin (22 To/s)

La bande passante dit à quelle vitesse les données arrivent au calcul ; la capacité, combien une puce peut en contenir. La génération 2026 double à triple à peu près la bande passante.
II

Les puces en construction

La génération 2026–2028 est déjà dessinée ou en production. Sa tendance est nette : beaucoup plus de bande passante mémoire, plus de puces par boîtier, et des baies qui consomment des centaines de kilowatts.

Fig. 3 — Puces, mémoire et procédés, 2024–2029

202420252026202720282029

Nvidia

  • B200
  • B300
  • Rubin
  • Rubin Ultra
  • Feynman

AMD

  • MI355X
  • MI455X

Google

  • Ironwood
  • TPU 8t · 8i

AWS

  • Trainium3
  • Trainium4

Microsoft

  • Maia 200

TSMC

  • N2
  • A16
  • A14
  • A12

HBM

  • HBM3E
  • HBM4
  • HBM4E
  • HBM5
nov. 2026

En serviceEn montée en cadencePrévu

Les dates des éléments futurs sont annoncées ou rapportées, et bougent souvent. À lire comme un ordre d’arrivée, pas comme un calendrier.

Établi

Nvidia Rubin (Vera Rubin NVL72)

Deux puces en N3P de TSMC, 288 Go de HBM4 jusqu’à 19,2 To/s (22 To/s était l’objectif initial ; la vitesse des broches HBM4 a coincé), environ 50 PFLOPS en inférence NVFP4, environ 1 800 W. Les premiers matériels de production sont arrivés à l’automne 2026.

Source (3)

Prometteur

Rubin Ultra et Feynman

Rubin Ultra est prévue pour le second semestre 2027 : quatre puces, 1 To de HBM4E, environ 100 PFLOPS en FP4, dans une baie « Kyber » NVL576 de 600 kW. Feynman suit vers 2028, avec la photonique sur silicium dans la feuille de route de Nvidia. Tout cela est annoncé, pas livré.

Source (2)

Prometteur

Google TPU 8 : deux puces au lieu d’une

Rapporté à Google Cloud Next 2026 : le prochain TPU se scinde en 8t pour l’entraînement et 8i pour l’inférence. Premier signe qu’un seul dessin ne peut pas être le meilleur pour les deux métiers.

Source (1)
III

Quatre murs

Aller plus vite ne consiste plus à rétrécir les transistors. Quatre limites décident de ce que les prochaines générations pourront faire. La Fig. 4 montre la première.

Fig. 4 — Les ciseaux : le calcul s’éloigne de la mémoire

×1×10×1000246810Années×243×10×5
  • Calcul crête
  • Bande passante mémoire

Après dix ans à ces rythmes, le calcul a progressé environ 24 fois plus que la bande passante mémoire (×243 contre ×10).

Croissance par période de deux ans mesurée par Gholami et ses collègues sur vingt ans (calcul ×3,0, bande passante mémoire ×1,6, interconnexion ×1,4), prolongée ici sur dix ans. Une tendance, pas une prévision.

Établi

Le mur de la mémoire

En vingt ans, la puissance de calcul crête a été multipliée par environ 3 tous les deux ans, la bande passante mémoire par environ 1,6 et les interconnexions par environ 1,4. Les puces attendent de plus en plus les données au lieu de calculer. C’est pourquoi la HBM est maintenant dans le boîtier.

Source (1)
IV

Nouveaux matériaux et transistors

Le transistor lui-même est redessiné : sa forme, l’endroit par où arrive le courant et, un jour, la matière dont il est fait.

Prometteur

Nanofeuillets, puis alimentation par l’arrière

Les transistors « gate-all-around » à nanofeuillets entourent le canal avec la grille pour mieux le contrôler et fuir moins ; le N2 de TSMC les utilise. Vient ensuite l’alimentation par l’arrière (TSMC A16, « Super Power Rail ») : les fils d’alimentation passent sous les transistors, ce qui libère le dessus pour les signaux. Le calendrier aurait glissé à 2027.

Source (2)

Spéculatif

CFET et semi-conducteurs 2D

Le CFET empile des transistors de type n et de type p. Les semi-conducteurs 2D, comme le disulfure de molybdène, forment des canaux de quelques atomes d’épaisseur. En 2026, imec, ASML et TSMC ont réalisé des transistors 2D complémentaires au pas de 50 nm sur une plaque de 300 mm : une preuve de laboratoire, pas un produit.

Source (2)
V

Nouvelles architectures

L’endroit où se trouve le silicium compte autant que ce qu’il est. La Fig. 5 oppose le boîtier d’aujourd’hui à un boîtier empilé.

Fig. 5 — La même puce, côte à côte ou empilée

Boîtier 2,5D (aujourd’hui)

1234

Pile 3D (demain)

5678
  1. Puce de calcul
  2. Pile HBM
  3. Interposeur en silicium
  4. Fils longs : des millimètres, donc plus d’énergie
  5. Plots de collage hybride au pas du micromètre
  6. Puce de calcul empilée dessus
  7. Trajet vertical très court
  8. La chaleur doit traverser toute la pile
Aujourd’hui, la donnée traverse des millimètres d’interposeur. Empilée, elle traverse des micromètres. Le prix : la chaleur doit maintenant traverser la pile.

Établi

Des chiplets partout

Une puce unique ne peut pas dépasser la limite du réticule, environ 850 mm². Rubin utilise donc deux puces, Rubin Ultra quatre, le MI455X d’AMD plusieurs chiplets, et le TPU 8 deux puces distinctes. Les chiplets améliorent le rendement et mélangent les procédés de gravure, mais chaque lien entre puces coûte de l’énergie.

Source (3)

Prometteur

HBM sur mesure

La HBM4 double l’interface à 2 048 bits (norme JEDEC, avril 2025). Sa puce de base devient une puce logique gravée en fonderie, par exemple chez TSMC, où un client peut ajouter ses propres circuits (HBM4E sur mesure). La mémoire cesse d’être un produit banal et devient semi-sur-mesure.

Source (3)

Prometteur

La lumière dans le boîtier

L’optique co-intégrée (CPO) place les moteurs optiques à côté du commutateur ou de l’accélérateur, à la place des modules enfichables et des longs liens en cuivre. Nvidia revendique jusqu’à 3,5 fois plus d’efficacité énergétique pour ses commutateurs photoniques. L’optique entre GPU, à l’intérieur d’une baie, est l’étape suivante.

Source (3)

Prometteur

Des puces spécialisées

Lire une question (le « prefill ») est limité par le calcul ; écrire la réponse (le « decode ») est limité par la mémoire. Le Rubin CPX de Nvidia vise le prefill avec une mémoire GDDR7 moins chère, Google scinde son TPU 8, et Maia 200 de Microsoft vise l’inférence. Une puce par métier.

Source (3)
VI

Des logiciels plus malins

Le watt le moins cher est celui qu’on ne dépense pas. Les logiciels tirent plus du même silicium, et la Fig. 6 montre l’enjeu par watt.

Fig. 6 — Performance par watt en crête

FP8 (nombres sur 8 bits)

  1. H1002.8
  2. B2004.5

FP4 (nombres sur 4 bits)

  1. B2009.0
  2. B30010.7
  3. Rubin27.8
  4. Rubin Ultra27.8

TFLOPS / W — crête, denseChiffres annoncés, non mesurés

Débit crête divisé par la puissance de la puce. Diviser par deux le format de nombre double à peu près le chiffre ; Rubin et Rubin Ultra utilisent des valeurs annoncées, et leur rapport est stable.

Prometteur

Moins de bits : le FP4

Le NVFP4 est un format de nombres sur 4 bits avec échelle par blocs. Des chercheurs de NVIDIA ont entraîné avec lui un modèle de 12 milliards de paramètres sur 10 000 milliards de tokens, avec une précision comparable au FP8. Moitié moins de bits, c’est moitié moins de données à déplacer et environ deux fois plus de débit crête.

Source (1)

Établi

De meilleurs noyaux de calcul

FlashAttention-3 réorganise l’attention pour que les données restent dans la mémoire de la puce : environ 75 % d’utilisation d’un H100 en FP16, 1,5 à 2 fois plus rapide que la version 2. Mêmes mathématiques, moins d’allers-retours vers la HBM.

Source (1)
VII

Chaleur et alimentation

Chaque watt consommé par une puce devient de la chaleur, et chaque watt de chaleur doit sortir. La Fig. 7 montre la montée de la puissance par puce et par baie ; la Fig. 8 montre deux façons d’évacuer la chaleur.

Fig. 7 — La puissance continue de grimper

Puissance par puce (W)

  1. H100700 W
  2. B2001000 W
  3. B3001400 W
  4. Rubin≈ 1800 W
  5. Rubin Ultra≈ 3600 W

Puissance par baie (kW)

  1. GB200 / GB300 NVL72≈ 120–130 kW
  2. Vera Rubin NVL72≈ 190–230 kW
  3. Rubin Ultra NVL576≈ 600 kW

Annoncé ou estimé

Chaque génération consomme plus. Les valeurs de Rubin et Rubin Ultra sont annoncées ou estimées.

Fig. 8 — Deux façons d’évacuer la chaleur

Plaque froide (aujourd’hui)

12345

Microfluidique (prototype)

1567
  1. Point chaud dans la puce
  2. Pâte thermique
  3. Couvercle métallique
  4. Plaque froide
  5. Liquide de refroidissement
  6. Canaux gravés dans le silicium
  7. Liquide à quelques dizaines de micromètres des transistors
Une plaque froide tire la chaleur à travers plusieurs couches. La microfluidique place le liquide à côté des transistors. Microsoft a mesuré en laboratoire jusqu’à 3 fois mieux.

Prometteur

Refroidir dans le silicium

En septembre 2025, Microsoft a gravé des canaux d’inspiration biologique au dos d’une puce et y a fait circuler du liquide : jusqu’à 3 fois mieux qu’une plaque froide pour évacuer la chaleur et une montée de température maximale réduite de 65 % en laboratoire. Un prototype, à des années d’un produit.

Source (2)
VIII

Nos hypothèses

Ce qui suit est notre propre raisonnement, pas un résultat publié. Le chiffre de confiance dit à quel point nous y croyons aujourd’hui ; il bougera.

H1

La bande passante mémoire reste la limite principale

D’ici 2030, chaque génération se définira d’abord par sa mémoire : plus de piles, plus rapides, plus près du calcul. Les FLOPS crête continueront de croître plus vite que les données qui les nourrissent.

Confiance80 %
Pour
La tendance mesurée depuis 2000 ; les feuilles de route HBM4 et HBM4E ; MI455X et Rubin dépensent l’essentiel de leur nouveauté sur la mémoire.
Contre
Des formats de nombres plus petits et la parcimonie réduisent les octets par opération, ce qui pourrait détendre la pression un temps.
Source (2)

H2

Le collage hybride devient courant d’ici 2029

L’empilement 3D avec collage cuivre contre cuivre passera de quelques produits à la plupart des boîtiers haut de gamme : d’abord dans la HBM à 16 couches, puis la logique sur cache ou sur mémoire.

Confiance55 %
Pour
Déjà annoncé dans les feuilles de route HBM ; il raccourcit les liens et économise de l’énergie.
Contre
La chaleur piégée entre les couches, le rendement des piles collées et le coût ne sont pas résolus à grand volume.
Source (2)

H3

L’optique entre dans le boîtier, puis dans la baie

Les liens optiques remplaceront le cuivre d’abord entre baies, puis entre GPU à l’intérieur d’une baie, autour du changement de décennie.

Confiance55 %
Pour
Nvidia livre des commutateurs CPO ; la portée du cuivre diminue quand les débits montent ; Google utilise déjà la commutation optique dans ses pods TPU.
Contre
Fiabilité, maintenance et coût des lasers. Le cuivre surprend en durant plus longtemps.
Source (2)

H4

Le FP4 devient le format par défaut

La plupart des grands entraînements et presque toute l’inférence utiliseront des formats sur 4 bits d’ici trois ans, quelques couches sensibles restant en plus haute précision.

Confiance55 %
Pour
Préentraînement en NVFP4 sur 10 000 milliards de tokens ; prise en charge matérielle dans Blackwell, Rubin et MI355X.
Contre
Risques de précision sur les tâches les plus dures, et des modèles qui n’atteignent la qualité FP4 qu’avec des recettes soignées.
Source (1)

H5

Le refroidissement liquide dans la puce arrive en produit d’ici 2030

Un premier accélérateur commercial utilisera des micro-canaux gravés dans le silicium ou juste dessous.

Confiance40 %
Pour
Un gain de 3 fois en laboratoire ; la classe Rubin Ultra à 3 600 W est près de ce que savent faire les plaques froides.
Contre
Fuites, fiabilité et nouvelle chaîne d’approvisionnement ; plaques et immersion peuvent aller plus loin que prévu.
Source (2)

H6

Le gain d’efficacité viendra plus de la conception et du logiciel que du procédé

Chaque nouveau nœud de gravure aide encore, mais l’essentiel du gain par watt d’ici 2030 viendra des formats, du placement de la mémoire, de l’ordonnancement et des puces spécialisées.

Confiance70 %
Pour
Le FP4 crête par watt est à peu près stable entre Rubin et Rubin Ultra d’après notre calcul (Fig. 6) ; les économies de type Perseus n’exigent pas de nouveau silicium.
Contre
Une vraie percée sur les transistors (alimentation par l’arrière à grande échelle) changerait l’équilibre.
Source (3)

H7

Un transistor en matériau 2D dans une puce d’IA commerciale avant 2031

Nous pensons que c’est peu probable à cet horizon : les résultats de laboratoire sont réels, mais fabriquer à l’échelle d’une puce d’IA est une autre affaire.

Confiance5 %
Pour
Des transistors 2D complémentaires au pas de 50 nm sur plaques de 300 mm en 2026.
Contre
Contacts, défauts et rendement ; l’industrie a encore le CFET et l’alimentation par l’arrière à déployer d’abord.
Source (2)
IX

Conclusions provisoires

Ce que nous pensons à ce stade. « Provisoire » est le mot clé.

  1. Le prochain gain est dans la mémoire, pas dans le calcul

    Tout va dans le même sens : plus de HBM, des puces de base sur mesure, l’empilement et l’optique dans le boîtier. Une puce se juge désormais à la vitesse à laquelle on peut la nourrir.

    Source (2)
  2. Les watts seront économisés à trois endroits à la fois

    Moins de bits (FP4), moins de déplacements de données (empilement, optique) et un ordonnancement plus malin s’additionnent. Aucune astuce seule ne suffit.

    Source (3)
  3. La chaleur et l’alimentation sont maintenant des problèmes de conception

    À 600 kW par baie, le refroidissement et la distribution en 800 V décident de ce qu’on peut construire, autant que les transistors.

    Source (2)
  4. Le domaine se diversifie

    Rubin, MI455X, TPU 8, Trainium4, Maia 200 : les puces d’entraînement et d’inférence s’éloignent l’une de l’autre, et les grands clouds dessinent les leurs.

    Source (2)
X

Questions ouvertes

Prochaines pistes

XI

Lexique

Les mots de ce carnet, en langage simple.

TDP
Puissance thermique de conception : la chaleur, en watts, que le système de refroidissement doit pouvoir évacuer d’une puce.
HBM
Mémoire à haute bande passante : des couches de DRAM empilées à la verticale et posées juste à côté de la puce, reliées par des milliers de fils très courts.
Interposeur
Une fine plaque de silicium sous les puces qui porte le câblage fin entre les puces de calcul et la mémoire (la version de TSMC s’appelle CoWoS).
Chiplet
Une petite puce qui est un morceau d’un processeur plus grand. Plusieurs chiplets sont assemblés dans un même boîtier.
Limite du réticule
La plus grande surface qu’une machine de lithographie imprime en une exposition, environ 850 mm². Elle plafonne la taille d’une puce unique.
Collage hybride
Joindre deux puces en collant directement leurs plots de cuivre, sans billes de soudure. Les connexions sont beaucoup plus petites et plus rapprochées.
FP4
Un nombre à virgule écrit avec seulement 4 bits. Moins précis, mais il divise par deux les données déplacées et accélère le calcul.
Gate-all-around
Un transistor dont la grille entoure le canal de tous côtés, ce qui donne un meilleur contrôle que l’ancienne forme en ailette.
Alimentation par l’arrière
Amener le courant par le dessous de la puce, pour que le dessus reste libre pour les fils de signaux.
Optique co-intégrée
Des émetteurs-récepteurs optiques intégrés au même boîtier que la puce : les signaux sortent sous forme de lumière après un très court trajet électrique.
Matériau d’interface thermique
La pâte ou le coussin thermique entre la puce et son couvercle ou sa plaque froide. Il comble de minuscules vides pour laisser passer la chaleur.

Journal du carnet

  1. Création du carnet : puces actuelles, génération 2026–28, quatre murs, matériaux, architectures, logiciels, chaleur ; huit schémas et sept hypothèses.

L’IA de demain →

Sources (45)

Retour en haut