in-context-learning
페이지 2개
NEW
PAPER·2023
Looped Transformers (ICLR 2024)
1층 블록을 입력 주입과 함께 반복하는 looped transformer 학습법. 12층 대비 1/12 파라미터로 in-context 회귀에서 대등하거나 낫다
↳ 3 looped-transformerin-context-learning
PAPER·2024
UnUnlearning
unlearning된 지식을 in-context learning으로 되살리는 ununlearning을 제안하고, exact unlearning도 콘텐츠 규제에 불충분하다고 논증한 논문
↳ 3 unlearningununlearning