태그 인덱스

fixed-point

페이지 1개

NEW PAPER·2023

Looped Transformers (ICLR 2024)

1층 블록을 입력 주입과 함께 반복하는 looped transformer 학습법. 12층 대비 1/12 파라미터로 in-context 회귀에서 대등하거나 낫다

↳ 3 looped-transformerin-context-learning