transformer
페이지 2개
NEW
ARTICLE·2026
Transformers from Memory
linear layer, MLP, self-attention을 associative memory로 보고 간섭으로 용량을 어림한 해설. 용량은 64개에서 120만 개로 커진다
↳ 5 associative-memorymemory-capacity
PAPER·2022
DiT
U-Net backbone을 순수 Transformer로 바꾼 latent diffusion. Gflops와 FID 상관 -0.93, ImageNet 256×256 FID 2.27
↳ 7 diffusion-modeltransformer