#FP8
記事
モデル
ZyphraのオープンソースFP8アテンションカーネルZYFA、Zyphraの測定でAMDのAITERよりMI355X上で1.16〜1.76倍高速。1.76倍は1モデルのみで、対象はプリフィルだけ
ZyphraのオープンソースFP8カーネルZYFAは、Zyphraの測定でAMDのAITERよりMI355Xで1.16〜1.76倍高速。1.76倍は1モデルで、プリフィルのみ。
モデル
ZyphraのオープンソースFP8カーネルZYFAは、Zyphraの測定でAMDのAITERよりMI355Xで1.16〜1.76倍高速。1.76倍は1モデルで、プリフィルのみ。