Zyphra, AMD MI355X 위한 FP8 FlashAttention 공개…최대 1.76배 빠름
Zyphra ZYFA: FP8 FlashAttention for AMD MI355X, Up to 1.76x Faster
- 매체
- MarkTechPost
- 게시
- 중요도
- 3/5
- 화제 지수
- —
한국어 요약
Zyphra가 AMD Instinct MI355X를 위한 오픈소스 FP8·BF16 프리필 어텐션 커널 ZYFA를 공개했다. 실제 모델 활성화에서 FP8 커널이 AMD AITER보다 1.16~1.76배 빠르며, 헤드 차원 128에서 62~78% 낮은 오류율을 기록했다.
원문 발췌 · English
Zyphra released ZYFA, open-source FP8 and BF16 prefill attention kernels for AMD Instinct MI355X. On real model activations, its FP8 kernels run 1.16-1.76x faster than AMD’s AITER, with 62-78% lower error at head dimension 128. The post Zyphra ZYFA: FP8 FlashAttention for AMD MI355X, Up to 1.76x Faster appeared first on MarkTechPost.
#optimization#gpu#amd#fp8