Modèles

Les noyaux d'attention FP8 open source ZYFA de Zyphra tournent 1,16 à 1,76 fois plus vite que l'AITER d'AMD sur MI355X selon Zyphra ; le 1,76 ne vaut que pour un modèle, et seul le prefill est couvert

Les noyaux FP8 open source ZYFA de Zyphra sont 1,16 à 1,76× plus rapides que l'AITER d'AMD sur MI355X, selon Zyphra. 1,76× : un modèle ; prefill seul.

Par ·

Zyphra a publié ZYFA le 5 novembre 2026, des noyaux d'attention FP8 et BF16 open source pour le GPU AMD Instinct MI355X, avec un article sur arXiv. Le chiffre phare est jusqu'à 1,76 fois le débit FP8 de la bibliothèque AITER d'AMD, mais c'est le meilleur de trois modèles testés par Zyphra, les deux autres étant autour de 1,16 et 1,17. Tous les résultats sont ceux de Zyphra, et nous n'avons trouvé aucune réplication indépendante.

L'essentiel

Lire le chiffre de 1,76×

Le chiffre maximal concerne une couche de DeepSeek-V2-Lite à 16K tokens. L'article de Zyphra souligne que le débit sur entrées aléatoires ne prédit pas celui sur activations réelles, car la fréquence soutenue du MI355X dépend des valeurs des opérandes ; Zyphra a donc mesuré sur des activations de modèles capturées. Sur entrées gaussiennes à 32K tokens, il atteint 2 672 TFLOP/s, soit 53 % du pic FP8 contre 39 % pour AITER selon la mesure de Zyphra.

Ce que cela change et ne change pas

Le FP8 double le débit matriciel mais pas le softmax entre les deux produits matriciels : l'attention devient limitée par le softmax. ZYFA calcule chaque probabilité FP8 directement à partir de son score et recouvre le softmax avec le calcul matriciel grâce à un ordonnancement ping-pong à deux vagues. Ce sont des gains au niveau du noyau pour le prefill à long contexte. Aucun gain d'inférence de bout en bout n'est rapporté.

Ce qui n'est pas établi

Tableau récapitulatif

Tableau récapitulatif
PointCe qui est affirmé au 7 novembre 2026Source
Publication5 novembre 2026, par Zyphra, avec un article arXivarXiv
Accélération sur vrais modèles1,16× à 1,76× face à AITER FP8, à 16K tokens et fréquence soutenueMarkTechPost
ErreurErreur FP8 de 62 à 78 % inférieure à AITER pour une dimension de tête de 128daily.dev
PortéeMI355X seulement, prefill seulement, ROCm 7.2.3 et PyTorch 2.12MarkTechPost
LicenceOpen source, Apache 2.0MarkTechPost

FAQ

Est-ce toujours 1,76 fois plus rapide ?

Non. C'est le meilleur de trois modèles testés ; les deux autres sont à environ 1,16 et 1,17.

Cela marche-t-il sur NVIDIA ou sur d'anciens GPU AMD ?

Non. Il vise uniquement l'AMD Instinct MI355X.

Est-ce libre d'usage ?

Le code est open source sous Apache 2.0, selon MarkTechPost.

Méthode et limites

Sources consultées le 8 novembre 2026. Nous avons lu le résumé arXiv et la presse, pas l'article complet ni le code. Tous les chiffres de benchmark sont ceux de Zyphra et n'ont pas été vérifiés indépendamment. Ceci n'est pas un conseil en investissement.

Sources

Une erreur dans cet article ? Signalez-la · Notre politique de corrections

Logo OrigoTech

Nouveau : l’application iPhone et iPad

OrigoTech est maintenant une application iPhone et iPad

Lisez les articles en natif, avec des repères « Nouveau » sur les non-lus, la recherche locale et la lecture hors ligne de ce que vous avez déjà chargé. Gratuite, sans compte, iOS 17 ou plus ; des publicités s’affichent entre les articles.

Icône de Rekha : une maison tracée d'un seul trait

Du même auteur Autopromotion

Un chemin eulérien, au doigt

Rekha, le jeu iPhone de l'auteur d'OrigoTech : relier tous les points d'un seul trait sans parcourir deux fois la même liaison, sur 500 dessins tous solubles.

La lettre OrigoTech

Un résumé sourcé de l'actualité des outils IA, chaque semaine.

À lire aussi