Profundización · Folio IV
Desde los años cuarenta, los ordenadores se construyen en dos partes: la memoria a un lado, la calculadora al otro y un pasillo entre ambas. Para la IA, que lee miles de millones de pesos en cada palabra, ese pasillo se ha convertido en el principal gasto.
Los procesadores se han vuelto enormemente más rápidos, la memoria mucho menos, y mover los datos cuesta cada vez más en comparación con calcular. Un modelo de 70 000 millones de pesos los relee todos para cada palabra que escribe: la calculadora espera y la energía se va en el pasillo.
La idea: dejar de mover los pesos. Ponerlos donde se hace el cálculo, o hacer que la propia memoria calcule.
Tres familias. Lo digital junto a la memoria: muchos núcleos pequeños, cada uno con su memoria justo al lado, y ninguna memoria externa. Lo analógico en memoria: el peso se guarda como una conductancia eléctrica y la ley de Ohm hace la multiplicación: se aplica una tensión y se lee una corriente. La fotónica: la luz atraviesa una rejilla de componentes ópticos que realiza un producto de matrices por el camino.
En los tres casos la ganancia viene del mismo sitio, menos viajes, y la dificultad también: la memoria de un chip es limitada, las señales analógicas tienen ruido y estas máquinas deben encajar en un mundo de software digital.
Fuente: Horowitz, Computing's Energy Problem (ISSCC 2014)
Fig. J — El pasillo, o sin pasillo
Ordenador clásico
Cada peso hace el viaje: unos 1300 a 2600 pJ para leer 64 bits de la memoria principal, para unos 4 pJ de cálculo.
Cálculo en memoria
Cada celda de memoria calcula allí donde está guardado su peso: el pasillo desaparece.
Esquema ilustrativo: muestra la idea, no mediciones.
Prometedor
22 000 millones de transistores, sin memoria externa. En reconocimiento de imágenes (ResNet-50), frente a una GPU fabricada con el mismo proceso de 12 nm: 25 veces más eficiente en energía, una latencia 22 veces menor, 5 veces más resultados por transistor; aún 5 veces más eficiente que una H100 de 4 nm. Digital, así que sin ruido analógico. Su límite: todo debe caber en la memoria del chip.
Especulativo
35 millones de celdas de memoria de cambio de fase en 34 baldosas, en 14 nm. En reconocimiento de voz, una precisión cercana a la digital y más de 14 veces más eficiencia energética, hasta 12,4 billones de operaciones por segundo y por vatio. Aún es un chip de investigación: sin núcleos digitales a bordo, algunos pasos se hacen fuera.
Fuente: Ambrogio et al., An analog-AI chip for speech recognition, Nature (2023)
Especulativo
Seis chips apilados en 3D, 50 000 millones de transistores y un millón de componentes fotónicos: 65,5 billones de operaciones por segundo con 78 vatios. Por primera vez, un procesador de luz ejecutó modelos sin modificar (ResNet, BERT, un jugador de Atari) con una precisión cercana a la electrónica de 32 bits.
Fuente: Ahmed et al., Universal photonic AI acceleration, Nature (2025)
La capacidad: un gran modelo de lenguaje no cabe en la memoria de un solo NorthPole; hay que repartirlo en muchos chips, y el pasillo reaparece entre ellos. La precisión: el cálculo analógico y óptico deriva con la temperatura y el envejecimiento. El ecosistema: veinte años de software se escribieron para GPU. Por eso esta pista es «especulativa»: la física funciona, la industria aún no la sigue.
Cuarto factor de H6: la energía por bit movido. Y la ilustración más clara de la nueva conclusión: el verdadero coste es mover los datos. Una jerarquía de datos es la versión en software de la misma idea: tener cerca del cálculo lo que se usa a menudo.
No podemos fabricar un chip así, pero sí medir el muro: en un ordenador corriente, cronometrar un modelo pequeño cuando sus pesos caben en la caché del procesador y cuando no. El salto debería mostrar, en pequeño, la barrera que estos chips intentan eliminar.