Articoli L’IA di domani
IT

Taccuino vivo · Codice n. 2

I chip di domani

Come saranno i chip che addestreranno le prossime IA?

Un modello di IA non va più veloce del chip che lo alimenta. Questo taccuino guarda i chip che addestrano l’IA oggi, quelli in costruzione e le nostre ipotesi sulle generazioni successive: più potenza, meno energia, meno calore. Con schemi, per vedere i chip da dentro.

Versione 1 · aggiornato il

I

I chip che addestrano l’IA oggi

Un acceleratore di IA moderno non è un chip ma una piccola città: chip di calcolo, pile di memoria e cablaggio, tutto su un unico package. La Fig. 1 mostra gli strati; la Fig. 2 confronta i principali chip sul dato che conta di più, la memoria.

Fig. 1 — Anatomia di un acceleratore di IA

123456789
  1. Chip di calcolo (ciascuno vicino al limite del reticolo)
  2. Pile di memoria HBM, da 8 a 12 strati di DRAM
  3. Chip di base della HBM: il controller alla base di ogni pila
  4. Interposer di silicio con connessioni verticali (TSV)
  5. Substrato del package, che porta l’alimentazione
  6. Collegamento diretto tra i due chip di calcolo
  7. Pasta termica e coperchio metallico
  8. Piastra fredda con liquido in circolo
  9. Sfere di saldatura verso la scheda
Una sezione del package. I chip di calcolo e le pile di memoria stanno affiancati su un interposer di silicio; tutto è raffreddato dall’alto.

Fig. 2 — Banda e capacità di memoria dei principali chip

Banda di memoria (TB/s)

  1. H1003.35
  2. B2008
  3. B3008
  4. MI355X8
  5. Trainium34.9
  6. TPU Ironwood7.37
  7. Maia 2007
  8. Rubin19.2 → 22
  9. MI455X23.3

Capacità di memoria (GB)

  1. H10080
  2. B200192
  3. B300288
  4. MI355X288
  5. Trainium3144
  6. TPU Ironwood192
  7. Maia 200216
  8. Rubin288
  9. MI455X432

In servizioGenerazione 2026Primo obiettivo di Rubin (22 TB/s)

La banda dice quanto in fretta i dati arrivano al calcolo; la capacità, quanti ne può contenere un chip. La generazione 2026 raddoppia o triplica circa la banda.
II

I chip in costruzione

La generazione 2026–2028 è già progettata o in produzione. La tendenza è chiara: molta più banda di memoria, più chip per package e rack che assorbono centinaia di kilowatt.

Fig. 3 — Chip, memoria e processi, 2024–2029

202420252026202720282029

Nvidia

  • B200
  • B300
  • Rubin
  • Rubin Ultra
  • Feynman

AMD

  • MI355X
  • MI455X

Google

  • Ironwood
  • TPU 8t · 8i

AWS

  • Trainium3
  • Trainium4

Microsoft

  • Maia 200

TSMC

  • N2
  • A16
  • A14
  • A12

HBM

  • HBM3E
  • HBM4
  • HBM4E
  • HBM5
nov. 2026

In servizioIn aumento di produzionePrevisto

Le date degli elementi futuri sono annunciate o riportate, e spesso cambiano. Da leggere come un ordine di arrivo, non come un calendario.

Accertato

Nvidia Rubin (Vera Rubin NVL72)

Due chip sul processo N3P di TSMC, 288 GB di HBM4 fino a 19,2 TB/s (22 TB/s era l’obiettivo iniziale; la velocità dei pin HBM4 è stato lo scoglio), circa 50 PFLOPS in inferenza NVFP4, circa 1.800 W. I primi sistemi di produzione sono arrivati nell’autunno 2026.

Fonte (3)

Promettente

Rubin Ultra e Feynman

Rubin Ultra è prevista per il secondo semestre 2027: quattro chip, 1 TB di HBM4E, circa 100 PFLOPS in FP4, in un rack «Kyber» NVL576 da 600 kW. Feynman segue verso il 2028, con la fotonica su silicio nella roadmap di Nvidia. Tutto questo è annunciato, non consegnato.

Fonte (2)

Promettente

Google TPU 8: due chip invece di uno

Riportato a Google Cloud Next 2026: il prossimo TPU si divide in 8t per l’addestramento e 8i per l’inferenza. Un primo segno che un solo progetto non può essere il migliore in entrambi i compiti.

Fonte (1)
III

Quattro muri

Andare più veloci non significa più rimpicciolire i transistor. Quattro limiti decidono ciò che potranno fare le prossime generazioni. La Fig. 4 mostra il primo.

Fig. 4 — Le forbici: il calcolo si allontana dalla memoria

×1×10×1000246810Anni×243×10×5
  • Calcolo di picco
  • Banda di memoria

Dopo dieci anni a questi ritmi, il calcolo è cresciuto circa 24 volte più della banda di memoria (×243 contro ×10).

Crescita per periodo di due anni misurata da Gholami e colleghi su vent’anni (calcolo ×3,0, banda di memoria ×1,6, interconnessione ×1,4), estesa qui a dieci anni. Una tendenza, non una previsione.

Accertato

Il muro della memoria

In vent’anni la potenza di calcolo di picco è cresciuta di circa 3 volte ogni due anni, la banda di memoria di circa 1,6 volte e le interconnessioni di circa 1,4 volte. I chip aspettano sempre più i dati invece di calcolare. Per questo la HBM è ormai dentro il package.

Fonte (1)
IV

Nuovi materiali e transistor

Il transistor stesso viene ridisegnato: la sua forma, da dove entra l’energia e, un giorno, di cosa è fatto.

Promettente

Nanosheet, poi alimentazione dal retro

I transistor «gate-all-around» a nanosheet avvolgono il canale con il gate per controllarlo meglio e disperdere meno; l’N2 di TSMC li usa. Poi arriva l’alimentazione dal retro (TSMC A16, «Super Power Rail»): i fili di alimentazione passano sotto i transistor, liberando la parte alta per i segnali. Il calendario sarebbe slittato al 2027.

Fonte (2)

Speculativo

CFET e semiconduttori 2D

Il CFET impila transistor di tipo n e di tipo p. I semiconduttori 2D, come il disolfuro di molibdeno, formano canali spessi pochi atomi. Nel 2026 imec, ASML e TSMC hanno realizzato transistor 2D complementari con passo di 50 nm su un wafer da 300 mm: una prova di laboratorio, non un prodotto.

Fonte (2)
V

Nuove architetture

Dove si trova il silicio conta quanto ciò che è. La Fig. 5 mette a confronto il package di oggi con uno impilato.

Fig. 5 — Lo stesso chip, affiancato o impilato

Package 2,5D (oggi)

1234

Pila 3D (domani)

5678
  1. Chip di calcolo
  2. Pila HBM
  3. Interposer di silicio
  4. Fili lunghi: millimetri, quindi più energia
  5. Piazzole di bonding ibrido al passo del micrometro
  6. Chip di calcolo impilato sopra
  7. Percorso verticale cortissimo
  8. Il calore deve attraversare tutta la pila
Oggi il dato attraversa millimetri di interposer. Impilato, attraversa micrometri. Il prezzo: il calore deve ora attraversare la pila.

Accertato

Chiplet dappertutto

Un singolo chip non può superare il limite del reticolo, circa 850 mm². Così Rubin usa due chip, Rubin Ultra quattro, l’MI455X di AMD più chiplet e il TPU 8 due chip distinti. I chiplet migliorano la resa e permettono di mescolare processi, ma ogni collegamento tra chip costa energia.

Fonte (3)

Promettente

HBM su misura

La HBM4 raddoppia l’interfaccia a 2.048 bit (standard JEDEC, aprile 2025). Il suo chip di base diventa un chip logico prodotto in una foundry come TSMC, dove un cliente può aggiungere i propri circuiti (HBM4E su misura). La memoria smette di essere un prodotto standard e diventa semi-personalizzata.

Fonte (3)

Promettente

La luce dentro il package

L’ottica co-packaged (CPO) colloca i motori ottici accanto allo switch o all’acceleratore, al posto dei moduli innestabili e dei lunghi collegamenti in rame. Nvidia dichiara un’efficienza energetica fino a 3,5 volte migliore per i suoi switch fotonici. L’ottica tra GPU dentro un rack è il passo successivo.

Fonte (3)

Promettente

Chip specializzati

Leggere una domanda (il «prefill») è limitato dal calcolo; scrivere la risposta (il «decode») è limitato dalla memoria. Il Rubin CPX di Nvidia punta al prefill con memoria GDDR7 più economica, Google divide il suo TPU 8 e il Maia 200 di Microsoft punta all’inferenza. Un chip per compito.

Fonte (3)
VI

Software più intelligente

Il watt più economico è quello che non si spende. Il software ricava di più dallo stesso silicio, e la Fig. 6 mostra la posta in gioco per watt.

Fig. 6 — Prestazioni per watt al picco

FP8 (numeri a 8 bit)

  1. H1002.8
  2. B2004.5

FP4 (numeri a 4 bit)

  1. B2009.0
  2. B30010.7
  3. Rubin27.8
  4. Rubin Ultra27.8

TFLOPS / W — picco, densoCifre annunciate, non misurate

Throughput di picco diviso per la potenza del chip. Dimezzare il formato numerico raddoppia circa il valore; Rubin e Rubin Ultra usano valori annunciati e il loro rapporto è costante.

Promettente

Meno bit: l’FP4

L’NVFP4 è un formato numerico a 4 bit con scala a blocchi. Ricercatori di NVIDIA hanno preaddestrato con esso un modello da 12 miliardi di parametri su 10 mila miliardi di token, con un’accuratezza paragonabile all’FP8. Metà dei bit significa metà dei dati da spostare e circa il doppio del throughput di picco.

Fonte (1)

Accertato

Kernel migliori

FlashAttention-3 riorganizza l’attenzione perché i dati restino nella memoria del chip: circa il 75% di utilizzo di un H100 in FP16, da 1,5 a 2 volte più veloce della versione 2. Stessa matematica, meno viaggi verso la HBM.

Fonte (1)
VII

Calore e alimentazione

Ogni watt consumato da un chip diventa calore, e ogni watt di calore deve uscire. La Fig. 7 mostra la crescita della potenza per chip e per rack; la Fig. 8 mostra due modi di portare via il calore.

Fig. 7 — La potenza continua a salire

Potenza per chip (W)

  1. H100700 W
  2. B2001000 W
  3. B3001400 W
  4. Rubin≈ 1800 W
  5. Rubin Ultra≈ 3600 W

Potenza per rack (kW)

  1. GB200 / GB300 NVL72≈ 120–130 kW
  2. Vera Rubin NVL72≈ 190–230 kW
  3. Rubin Ultra NVL576≈ 600 kW

Annunciato o stimato

Ogni generazione consuma di più. I valori di Rubin e Rubin Ultra sono annunciati o stimati.

Fig. 8 — Due modi per portare via il calore

Piastra fredda (oggi)

12345

Microfluidica (prototipo)

1567
  1. Punto caldo nel chip
  2. Pasta termica
  3. Coperchio metallico
  4. Piastra fredda
  5. Liquido di raffreddamento
  6. Canali incisi nel silicio
  7. Liquido a poche decine di micrometri dai transistor
Una piastra fredda tira il calore attraverso più strati. La microfluidica mette il liquido accanto ai transistor. Microsoft ha misurato in laboratorio fino a 3 volte meglio.

Promettente

Raffreddare dentro il silicio

A settembre 2025 Microsoft ha inciso canali di ispirazione biologica sul retro di un chip e vi ha fatto circolare del liquido: fino a 3 volte più efficace di una piastra fredda nel portare via il calore e un aumento massimo di temperatura ridotto del 65% in laboratorio. Un prototipo, lontano anni da un prodotto.

Fonte (2)
VIII

Le nostre ipotesi

Quanto segue è il nostro ragionamento, non un risultato pubblicato. Il valore di fiducia dice quanto ci crediamo oggi; cambierà.

H1

La banda di memoria resta il limite principale

Fino al 2030 ogni generazione sarà definita prima di tutto dalla memoria: più pile, più veloci, più vicine al calcolo. I FLOPS di picco continueranno a crescere più in fretta dei dati che li alimentano.

Fiducia80 %
A favore
La tendenza misurata dal 2000; le roadmap HBM4 e HBM4E; MI455X e Rubin investono gran parte della novità nella memoria.
Contro
Formati numerici più piccoli e sparsità riducono i byte per operazione, e potrebbero allentare la pressione per un po’.
Fonte (2)

H2

Il bonding ibrido diventa comune entro il 2029

L’impilamento 3D con bonding rame con rame passerà da pochi prodotti alla maggior parte dei package di fascia alta: prima nella HBM a 16 strati, poi la logica su cache o memoria.

Fiducia55 %
A favore
Già annunciato nelle roadmap HBM; accorcia i collegamenti e risparmia energia.
Contro
Il calore intrappolato tra gli strati, la resa delle pile incollate e il costo non sono risolti in grandi volumi.
Fonte (2)

H3

L’ottica entra nel package, poi nel rack

I collegamenti ottici sostituiranno il rame prima tra i rack, poi tra le GPU dentro un rack, intorno al cambio di decennio.

Fiducia55 %
A favore
Nvidia consegna switch CPO; la portata del rame si riduce al crescere delle velocità; Google usa già la commutazione ottica nei pod TPU.
Contro
Affidabilità, manutenzione e costo dei laser. Il rame sorprende durando più a lungo.
Fonte (2)

H4

L’FP4 diventa il formato predefinito

La maggior parte dei grandi addestramenti e quasi tutta l’inferenza useranno formati a 4 bit entro tre anni, con pochi strati sensibili mantenuti a precisione più alta.

Fiducia55 %
A favore
Preaddestramento in NVFP4 su 10 mila miliardi di token; supporto hardware in Blackwell, Rubin e MI355X.
Contro
Rischi di accuratezza sui compiti più difficili e modelli che raggiungono la qualità FP4 solo con ricette accurate.
Fonte (1)

H5

Il raffreddamento a liquido dentro il chip arriva nei prodotti entro il 2030

Un primo acceleratore commerciale userà microcanali incisi nel silicio o subito sotto.

Fiducia40 %
A favore
Un guadagno di 3 volte in laboratorio; la classe Rubin Ultra da 3.600 W è vicina a ciò che le piastre fredde sanno fare.
Contro
Perdite, affidabilità e una nuova filiera; piastre e immersione potrebbero spingersi oltre il previsto.
Fonte (2)

H6

L’efficienza verrà più dal progetto e dal software che dal processo

Ogni nuovo nodo aiuta ancora, ma la maggior parte del guadagno per watt fino al 2030 verrà da formati, posizione della memoria, pianificazione e chip specializzati.

Fiducia70 %
A favore
L’FP4 di picco per watt è quasi invariato tra Rubin e Rubin Ultra secondo il nostro calcolo (Fig. 6); i risparmi di tipo Perseus non richiedono nuovo silicio.
Contro
Una vera svolta sui transistor (alimentazione dal retro su larga scala) cambierebbe l’equilibrio.
Fonte (3)

H7

Un transistor in materiale 2D in un chip di IA commerciale prima del 2031

Pensiamo sia poco probabile su questo orizzonte: i risultati di laboratorio sono reali, ma produrre alla scala di un chip di IA è un’altra cosa.

Fiducia5 %
A favore
Transistor 2D complementari con passo di 50 nm su wafer da 300 mm nel 2026.
Contro
Contatti, difetti e resa; l’industria deve ancora implementare prima CFET e alimentazione dal retro.
Fonte (2)
IX

Conclusioni provvisorie

Ciò che pensiamo in questa fase. «Provvisorie» è la parola chiave.

  1. Il prossimo guadagno è nella memoria, non nel calcolo

    Tutto va nella stessa direzione: più HBM, chip di base su misura, impilamento e ottica nel package. Un chip si giudica ormai da quanto in fretta lo si può alimentare.

    Fonte (2)
  2. I watt si risparmieranno in tre punti contemporaneamente

    Meno bit (FP4), meno spostamenti di dati (impilamento, ottica) e una pianificazione più intelligente si sommano. Nessun trucco da solo basta.

    Fonte (3)
  3. Calore e alimentazione sono ormai problemi di progetto

    A 600 kW per rack, il raffreddamento e la distribuzione a 800 V decidono ciò che si può costruire, quanto i transistor.

    Fonte (2)
  4. Il settore si diversifica

    Rubin, MI455X, TPU 8, Trainium4, Maia 200: i chip per l’addestramento e per l’inferenza si allontanano, e i grandi cloud progettano i propri.

    Fonte (2)
X

Domande aperte

Prossime piste

XI

Lessico

Le parole di questo taccuino, in parole semplici.

TDP
Potenza di progetto termico: il calore, in watt, che il sistema di raffreddamento deve poter togliere a un chip.
HBM
Memoria ad alta banda: strati di DRAM impilati in verticale e posti accanto al chip, collegati da migliaia di fili cortissimi.
Interposer
Una sottile lastra di silicio sotto i chip che porta il cablaggio fine tra i chip di calcolo e la memoria (la versione di TSMC si chiama CoWoS).
Chiplet
Un piccolo chip che è un pezzo di un processore più grande. Più chiplet sono assemblati in un solo package.
Limite del reticolo
La superficie massima che una macchina litografica stampa in una sola esposizione, circa 850 mm². Limita la dimensione di un singolo chip.
Bonding ibrido
Unire due chip incollando direttamente le loro piazzole di rame, senza sfere di saldatura. Le connessioni sono molto più piccole e più ravvicinate.
FP4
Un numero in virgola mobile scritto con soli 4 bit. Meno preciso, ma dimezza i dati spostati e accelera il calcolo.
Gate-all-around
Un transistor il cui gate circonda il canale da tutti i lati, con un controllo migliore rispetto alla vecchia forma a pinna.
Alimentazione dal retro
Portare la corrente dal lato inferiore del chip, in modo che il lato superiore resti libero per i fili dei segnali.
Ottica co-packaged
Ricetrasmettitori ottici integrati nello stesso package del chip: i segnali escono come luce dopo un percorso elettrico cortissimo.
Materiale di interfaccia termica
La pasta o il pad termico tra il chip e il suo coperchio o la sua piastra fredda. Riempie minuscoli vuoti perché il calore passi.

Diario del taccuino

  1. Creazione del taccuino: chip attuali, generazione 2026–28, quattro muri, materiali, architetture, software, calore; otto schemi e sette ipotesi.

L’IA di domani →

Fonti (45)

Torna su