Modelos

Los kernels de atención FP8 de código abierto ZYFA de Zyphra rinden de 1,16 a 1,76 veces más que el AITER de AMD en la MI355X según Zyphra; el 1,76 es de un solo modelo y solo cubre el prefill

Los kernels FP8 abiertos ZYFA de Zyphra rinden de 1,16 a 1,76× más que el AITER de AMD en MI355X, según Zyphra. 1,76×: un modelo; solo prefill.

Por ·

Zyphra publicó ZYFA el 5 de noviembre de 2026, kernels de atención FP8 y BF16 de código abierto para la GPU AMD Instinct MI355X, con un artículo en arXiv. La cifra principal es hasta 1,76 veces el rendimiento FP8 de la biblioteca AITER de AMD, pero es el mejor de tres modelos probados por Zyphra y los otros dos rondan 1,16 y 1,17. Todos los resultados son de Zyphra y no hallamos réplica independiente.

Lo esencial

Cómo leer la cifra de 1,76×

La cifra máxima corresponde a una capa de DeepSeek-V2-Lite a 16K tokens. El artículo de Zyphra subraya que el rendimiento con entradas aleatorias no predice el de activaciones reales, porque el reloj sostenido de la MI355X depende de los valores de los operandos; por eso midió con activaciones capturadas. Con entradas gaussianas a 32K tokens alcanza 2672 TFLOP/s, el 53 % del pico FP8 frente al 39 % de AITER según la medición de Zyphra.

Qué cambia y qué no

El FP8 duplica el rendimiento matricial pero no el softmax entre los dos productos matriciales, así que la atención queda limitada por el softmax. ZYFA calcula cada probabilidad FP8 directamente desde su puntuación y solapa el softmax con el trabajo matricial mediante una planificación ping-pong de dos oleadas. Son mejoras a nivel de kernel para prefill de contexto largo. No se informó de aceleración de inferencia de extremo a extremo.

Lo que no está establecido

Tabla resumen

Tabla resumen
PuntoLo que se afirma a 7 de noviembre de 2026Fuente
Publicación5 de noviembre de 2026, por Zyphra, con un artículo en arXivarXiv
Aceleración en modelos reales1,16× a 1,76× sobre AITER FP8, a 16K tokens y reloj sostenidoMarkTechPost
ErrorError FP8 entre 62 y 78 % menor que AITER con dimensión de cabeza 128daily.dev
AlcanceSolo MI355X, solo prefill, ROCm 7.2.3 y PyTorch 2.12MarkTechPost
LicenciaCódigo abierto, Apache 2.0MarkTechPost

Preguntas frecuentes

¿Siempre es 1,76 veces más rápido?

No. Es el mejor de tres modelos probados; los otros dos rondan 1,16 y 1,17.

¿Funciona en NVIDIA o en GPU AMD antiguas?

No. Apunta solo a la AMD Instinct MI355X.

¿Es de uso libre?

El código es abierto bajo Apache 2.0, según MarkTechPost.

Método y límites

Fuentes consultadas el 8 de noviembre de 2026. Leímos el resumen de arXiv y la prensa, no el artículo completo ni el código. Todas las cifras de benchmark son de Zyphra y no se verificaron de forma independiente. Esto no es asesoramiento de inversión.

Fuentes

¿Ha detectado un error en este artículo? Comuníquenoslo · Nuestra política de correcciones

Logotipo de OrigoTech

Novedad: la app iPhone y iPad

OrigoTech ya es una app para iPhone y iPad

Lee los artículos de forma nativa, con marcas «Nuevo» en los no leídos, búsqueda local y lectura sin conexión de lo que ya cargaste. Gratis, sin cuenta, iOS 17 o posterior; hay anuncios entre artículos.

Icono de Rekha: una casa dibujada de un solo trazo

Del mismo autor Autopromoción

Un camino euleriano, dibujado con el dedo

Rekha, el juego para iPhone del autor de OrigoTech: conecte todos los puntos de un solo trazo sin recorrer dos veces el mismo enlace, a lo largo de 500 dibujos que tienen solución.

El boletín de OrigoTech

Un resumen semanal con fuentes de las novedades de las herramientas de IA.

Seguir leyendo