#FlashAttention
Artikel
Modelle
Zyphras quelloffene FP8-Attention-Kernel ZYFA laufen laut Zyphra auf der MI355X 1,16- bis 1,76-mal schneller als AMDs AITER; die 1,76 gelten nur für ein Modell, und nur Prefill ist abgedeckt
Zyphras offene FP8-Kernel ZYFA laufen laut Zyphra auf der MI355X 1,16- bis 1,76-mal schneller als AMDs AITER. Die 1,76 gelten für ein Modell; nur Prefill.