Aprofundamento · Folio IV
Desde os anos 1940, os computadores são construídos em duas partes: a memória de um lado, a calculadora do outro e um corredor entre as duas. Para a IA, que lê bilhões de pesos em cada palavra, esse corredor se tornou a principal despesa.
Os processadores se tornaram enormemente mais rápidos, a memória muito menos, e mover os dados custa cada vez mais em comparação com calcular. Um modelo de 70 1 bilhão de pesos relê todos eles para cada palavra que escreve: a calculadora espera e a energia se perde no corredor.
A ideia: deixar de mover os pesos. Colocá-los onde se faz o cálculo, ou fazer a própria memória calcular.
Três famílias. O digital junto à memória: muitos núcleos pequenos, cada um com a sua memória mesmo ao lado, e nenhuma memória externa. O analógico em memória: o peso é guardado como uma condutância elétrica e a lei de Ohm faz a multiplicação: aplica-se uma tensão e lê-se uma corrente. A fotônica: a luz atravessa uma grelha de componentes óticos que faz um produto de matrizes pelo caminho.
Nos três casos, o ganho vem do mesmo sítio, menos viagens, e a dificuldade também: a memória de um chip é limitada, os sinais analógicos têm ruído e estas máquinas precisam se encaixar num mundo de software digital.
Fonte: Horowitz, Computing's Energy Problem (ISSCC 2014)
Fig. J — O corredor, ou nenhum corredor
Computador clássico
Cada peso faz a viagem: cerca de 1300 a 2600 pJ para ler 64 bits da memória principal, para cerca de 4 pJ de cálculo.
Cálculo em memória
Cada célula de memória calcula onde seu peso está guardado: o corredor desaparece.
Esquema ilustrativo: mostra a ideia, não medições.
Promissor
22 bilhões de transistores, sem memória externa. No reconhecimento de imagens (ResNet-50), face a uma GPU feita com o mesmo processo de 12 nm: 25 vezes mais eficiente em energia, latência 22 vezes menor, 5 vezes mais resultados por transistor; ainda 5 vezes mais eficiente do que uma H100 de 4 nm. Digital, portanto sem ruído analógico. Seu limite: tudo precisa caber na memória do chip.
Especulativo
35 milhões de células de memória de mudança de fase em 34 mosaicos, em 14 nm. No reconhecimento de voz, uma exatidão próxima do digital e mais de 14 vezes mais eficiência energética, até 12,4 trilhões de operações por segundo e por watt. Ainda um chip de investigação: sem núcleos digitais a bordo, alguns passos feitos fora.
Fonte: Ambrogio et al., An analog-AI chip for speech recognition, Nature (2023)
Especulativo
Seis chips empilhados em 3D, 50 bilhões de transistores e um milhão de componentes fotônicos: 65,5 trilhões de operações por segundo com 78 watts. Pela primeira vez, um processador de luz rodou modelos não modificados (ResNet, BERT, um jogador de Atari) com uma exatidão próxima da eletrônica de 32 bits.
Fonte: Ahmed et al., Universal photonic AI acceleration, Nature (2025)
A capacidade: um grande modelo de linguagem não cabe na memória de um único NorthPole; é preciso distribuí-lo por muitos chips, e o corredor volta entre eles. A precisão: o cálculo analógico e ótico deriva com a temperatura e o envelhecimento. O ecossistema: vinte anos de software foram escritos para GPU. Eis porque esta pista é "especulativa": a física funciona, a indústria ainda não acompanha.
Quarto fator de H6: a energia por bit movido. E a ilustração mais clara da nova conclusão: o verdadeiro custo é mover os dados. Uma hierarquia dos dados é a versão em software da mesma ideia: manter perto do cálculo o que se usa muitas vezes.
Não conseguimos fabricar um chip assim, mas podemos medir o muro: num computador comum, cronometrar um modelo pequeno quando seus pesos cabem na cache do processador e quando não cabem. O salto deverá mostrar, em pequena escala, a barreira que estes chips procuram eliminar.