Modelos

Os kernels de atenção FP8 de código aberto ZYFA da Zyphra rodam de 1,16 a 1,76 vez mais rápido que o AITER da AMD na MI355X segundo a Zyphra; o 1,76 é de um só modelo e cobre apenas o prefill

Os kernels FP8 abertos ZYFA da Zyphra rodam de 1,16 a 1,76× mais rápido que o AITER da AMD na MI355X, segundo a Zyphra. 1,76×: um modelo; só prefill.

Por ·

A Zyphra publicou o ZYFA em 5 de novembro de 2026, kernels de atenção FP8 e BF16 de código aberto para a GPU AMD Instinct MI355X, com um artigo no arXiv. O número principal é até 1,76 vez o desempenho FP8 da biblioteca AITER da AMD, mas é o melhor de três modelos testados pela Zyphra e os outros dois ficam em torno de 1,16 e 1,17. Todos os resultados são da Zyphra e não achamos replicação independente.

O essencial

Como ler o número de 1,76×

O valor máximo é de uma camada do DeepSeek-V2-Lite a 16K tokens. O artigo da Zyphra destaca que o desempenho com entradas aleatórias não prevê o de ativações reais, porque o clock sustentado da MI355X depende dos valores dos operandos; por isso mediu com ativações de modelos capturadas. Com entradas gaussianas a 32K tokens chega a 2.672 TFLOP/s, 53% do pico FP8 contra 39% do AITER pela medição da Zyphra.

O que muda e o que não muda

O FP8 dobra o desempenho matricial, mas não o softmax entre os dois produtos matriciais, então a atenção fica limitada pelo softmax. O ZYFA calcula cada probabilidade FP8 diretamente da sua pontuação e sobrepõe o softmax ao trabalho matricial com um agendamento ping-pong de duas ondas. São ganhos no nível do kernel para prefill de contexto longo. Não foram relatados ganhos de inferência de ponta a ponta.

O que não está estabelecido

Tabela-resumo

Tabela-resumo
PontoO que está declarado em 7 de novembro de 2026Fonte
Lançamento5 de novembro de 2026, pela Zyphra, com artigo no arXivarXiv
Aceleração em modelos reais1,16× a 1,76× sobre o AITER FP8, a 16K tokens e clock sustentadoMarkTechPost
ErroErro FP8 de 62 a 78% menor que o AITER com dimensão de cabeça 128daily.dev
AlcanceSó MI355X, só prefill, ROCm 7.2.3 e PyTorch 2.12MarkTechPost
LicençaCódigo aberto, Apache 2.0MarkTechPost

Perguntas frequentes

É sempre 1,76 vez mais rápido?

Não. É o melhor de três modelos testados; os outros dois ficam em torno de 1,16 e 1,17.

Funciona em NVIDIA ou em GPUs AMD antigas?

Não. Mira apenas a AMD Instinct MI355X.

É de uso livre?

O código é aberto sob Apache 2.0, segundo a MarkTechPost.

Método e limites

Fontes consultadas em 8 de novembro de 2026. Lemos o resumo do arXiv e a imprensa, não o artigo completo nem o código. Todos os números de benchmark são da Zyphra e não foram verificados de forma independente. Isto não é aconselhamento de investimento.

Fontes

Encontrou um erro neste artigo? Avise-nos · Nossa política de correções

Logotipo do OrigoTech

Novo: o app iPhone e iPad

O OrigoTech agora é um app para iPhone e iPad

Leia os artigos de forma nativa, com marcadores «Novo» nos não lidos, busca local e leitura offline do que você já carregou. Grátis, sem conta, iOS 17 ou superior; há anúncios entre os artigos.

Ícone do Rekha: uma casa desenhada em um único traço

Do mesmo autor Autopromoção

Um caminho euleriano, desenhado com o dedo

Rekha, o jogo para iPhone do autor da OrigoTech: conecte todos os pontos em um único traço, sem percorrer duas vezes o mesma ligação, ao longo de 500 desenhos que têm solução.

A newsletter da OrigoTech

Um resumo semanal, com fontes, das novidades das ferramentas de IA.

Continue lendo