Approfondissement · Folio IV
Depuis les années 1940, les ordinateurs sont construits en deux parties : la mémoire d'un côté, le calculateur de l'autre, et un couloir entre les deux. Pour l'IA, qui lit des milliards de poids à chaque mot, ce couloir est devenu le premier poste de dépense.
Les processeurs sont devenus énormément plus rapides, la mémoire beaucoup moins, et déplacer les données coûte de plus en plus cher par rapport au calcul. Un modèle de 70 milliards de poids les relit tous pour chaque mot qu'il écrit : le calculateur attend, et l'énergie part dans le couloir.
L'idée : arrêter de déplacer les poids. Les mettre là où se fait le calcul, ou faire calculer la mémoire elle-même.
Trois familles. Le numérique près de la mémoire : beaucoup de petits cœurs, chacun avec sa mémoire juste à côté, et aucune mémoire externe. L'analogique en mémoire : le poids est stocké sous forme de conductance électrique, et la loi d'Ohm fait la multiplication : on applique une tension, on lit un courant. La photonique : la lumière traverse une grille de composants optiques qui effectue un produit de matrices en chemin.
Dans les trois cas, le gain vient du même endroit, moins de trajets, et la difficulté aussi : la mémoire d'une puce est limitée, les signaux analogiques sont bruités, et ces machines doivent s'insérer dans un monde de logiciels numériques.
Source : Horowitz, Computing's Energy Problem (ISSCC 2014)
Fig. J — Le couloir, ou pas de couloir
Ordinateur classique
Chaque poids fait le trajet : environ 1 300 à 2 600 pJ pour lire 64 bits en mémoire principale, pour environ 4 pJ de calcul.
Calcul en mémoire
Chaque cellule de mémoire calcule là où son poids est rangé : le couloir disparaît.
Schéma illustratif : il montre l'idée, pas des mesures.
Prometteur
22 milliards de transistors, aucune mémoire externe. En reconnaissance d'images (ResNet-50), face à un GPU gravé avec le même procédé de 12 nm : 25 fois plus sobre, une latence 22 fois plus faible, 5 fois plus de résultats par transistor ; encore 5 fois plus sobre qu'un H100 gravé en 4 nm. Numérique, donc sans bruit analogique. Sa limite : tout doit tenir dans la mémoire de la puce.
Spéculatif
35 millions de cellules de mémoire à changement de phase sur 34 tuiles, en 14 nm. En reconnaissance vocale, une précision proche du numérique et plus de 14 fois plus d'efficacité énergétique, jusqu'à 12 400 milliards d'opérations par seconde et par watt. Encore une puce de recherche : pas de cœurs numériques à bord, certaines étapes faites à l'extérieur.
Source : Ambrogio et al., An analog-AI chip for speech recognition, Nature (2023)
Spéculatif
Six puces empilées en 3D, 50 milliards de transistors et un million de composants photoniques : 65 500 milliards d'opérations par seconde pour 78 watts. Pour la première fois, un processeur à lumière a fait tourner des modèles non modifiés (ResNet, BERT, un joueur d'Atari) avec une précision proche de l'électronique 32 bits.
Source : Ahmed et al., Universal photonic AI acceleration, Nature (2025)
La capacité : un grand modèle de langage ne tient pas dans la mémoire d'une seule NorthPole ; il faut le répartir sur de nombreuses puces, et le couloir revient entre elles. La précision : le calcul analogique et optique dérive avec la température et le vieillissement. L'écosystème : vingt ans de logiciels ont été écrits pour les GPU. Voilà pourquoi cette piste est « spéculative » : la physique fonctionne, l'industrie ne suit pas encore.
Quatrième facteur de H6 : l'énergie par bit déplacé. Et l'illustration la plus nette de la nouvelle conclusion : le vrai coût, c'est le déplacement. Une hiérarchie des données en est la version logicielle : garder près du calcul ce qui sert souvent.
Nous ne pouvons pas fabriquer une telle puce, mais nous pouvons mesurer le mur : sur un ordinateur ordinaire, chronométrer un petit modèle quand ses poids tiennent dans la mémoire cache du processeur et quand ils n'y tiennent pas. Le saut devrait montrer, en petit, la barrière que ces puces cherchent à supprimer.