Modelli

I kernel di attenzione FP8 open source ZYFA di Zyphra sono da 1,16 a 1,76 volte più veloci dell'AITER di AMD su MI355X secondo Zyphra; l'1,76 vale per un solo modello e copre solo il prefill

I kernel FP8 aperti ZYFA di Zyphra sono da 1,16 a 1,76× più veloci dell'AITER di AMD su MI355X, secondo Zyphra. 1,76×: un modello; solo prefill.

Di ·

Zyphra ha pubblicato ZYFA il 5 novembre 2026, kernel di attenzione FP8 e BF16 open source per la GPU AMD Instinct MI355X, con un articolo su arXiv. Il dato di punta è fino a 1,76 volte la velocità FP8 della libreria AITER di AMD, ma è il migliore di tre modelli provati da Zyphra e gli altri due sono intorno a 1,16 e 1,17. Tutti i risultati sono di Zyphra e non abbiamo trovato repliche indipendenti.

L'essenziale

Come leggere il dato di 1,76×

Il valore massimo riguarda un livello di DeepSeek-V2-Lite a 16K token. L'articolo di Zyphra sottolinea che la velocità su input casuali non prevede quella su attivazioni reali, perché il clock sostenuto della MI355X dipende dai valori degli operandi; per questo ha misurato su attivazioni di modelli catturate. Su input gaussiani a 32K token raggiunge 2.672 TFLOP/s, il 53% del picco FP8 contro il 39% di AITER secondo la misura di Zyphra.

Cosa cambia e cosa no

L'FP8 raddoppia la velocità matriciale ma non il softmax tra i due prodotti matriciali, quindi l'attenzione diventa limitata dal softmax. ZYFA calcola ogni probabilità FP8 direttamente dal suo punteggio e sovrappone il softmax al lavoro matriciale con una pianificazione ping-pong a due ondate. Sono guadagni a livello di kernel per il prefill a contesto lungo. Non sono riportati guadagni di inferenza end-to-end.

Che cosa non è accertato

Tabella riassuntiva

Tabella riassuntiva
PuntoChe cosa risulta al 7 novembre 2026Fonte
Rilascio5 novembre 2026, da Zyphra, con un articolo su arXivarXiv
Accelerazione su modelli realiDa 1,16× a 1,76× rispetto ad AITER FP8, a 16K token e clock sostenutoMarkTechPost
ErroreErrore FP8 inferiore del 62-78% rispetto ad AITER con dimensione di testa 128daily.dev
PortataSolo MI355X, solo prefill, ROCm 7.2.3 e PyTorch 2.12MarkTechPost
LicenzaOpen source, Apache 2.0MarkTechPost

FAQ

È sempre 1,76 volte più veloce?

No. È il migliore di tre modelli provati; gli altri due sono intorno a 1,16 e 1,17.

Funziona su NVIDIA o su vecchie GPU AMD?

No. Punta solo alla AMD Instinct MI355X.

È liberamente utilizzabile?

Il codice è open source con Apache 2.0, secondo MarkTechPost.

Metodo e limiti

Fonti consultate l'8 novembre 2026. Abbiamo letto l'abstract di arXiv e la stampa, non l'articolo completo né il codice. Tutte le cifre dei benchmark sono di Zyphra e non verificate in modo indipendente. Questo non è un consiglio di investimento.

Fonti

Avete notato un errore in questo articolo? Segnalatelo · La nostra politica sulle correzioni

Logo di OrigoTech

Novità: l’app iPhone e iPad

OrigoTech è ora un’app per iPhone e iPad

Leggi gli articoli in modo nativo, con indicatori «Nuovo» sui non letti, ricerca locale e lettura offline di ciò che hai già caricato. Gratis, senza account, iOS 17 o successivo; tra gli articoli compaiono annunci.

Icona di Rekha: una casetta disegnata con un solo tratto

Dello stesso autore Autopromozione

Un cammino euleriano, tracciato con il dito

Rekha, il gioco per iPhone dell'autore di OrigoTech: collegate tutti i punti con un solo tratto senza ripassare due volte sullo stesso collegamento, in 500 disegni tutti risolvibili.

La newsletter di OrigoTech

Un riepilogo settimanale, con fonti, delle novità sugli strumenti di IA.

Da leggere ora