태그 인덱스

looped-transformer

페이지 2개

NEW ARTICLE·2026

Looped Transformer와 GPT-6 Astra

가중치를 공유하는 깊이 반복의 구조와 비용, 반복 횟수 결정, Huginn 결과, CoT monitorability 논쟁을 세 글로 통합 정리

↳ 4 looped-transformerrecurrent-depth
NEW PAPER·2023

Looped Transformers (ICLR 2024)

1층 블록을 입력 주입과 함께 반복하는 looped transformer 학습법. 12층 대비 1/12 파라미터로 in-context 회귀에서 대등하거나 낫다

↳ 3 looped-transformerin-context-learning