#FlashAttention
Articoli
Modelli
I kernel di attenzione FP8 open source ZYFA di Zyphra sono da 1,16 a 1,76 volte più veloci dell'AITER di AMD su MI355X secondo Zyphra; l'1,76 vale per un solo modello e copre solo il prefill
I kernel FP8 aperti ZYFA di Zyphra sono da 1,16 a 1,76× più veloci dell'AITER di AMD su MI355X, secondo Zyphra. 1,76×: un modello; solo prefill.