Memorilla, 동결된 LLM의 메모리 토큰 16개로 문서 압축
Stanford Research Open-Sources Memorilla, a Latent Memory Module for Frozen LLMs
- 매체
- MarkTechPost
- 게시
- 중요도
- 2/5
- 화제 지수
- —
한국어 요약
스탠포드 연구진이 동결된 LLM을 위한 메모리 시스템 Memorilla를 공개소스로 공개했다. 문서 모음을 16개의 메모리 토큰으로 압축해 Qwen3-8B에서 FactKG 벤치마크 84.33% 성능을 달성하며, 전체 컨텍스트 대비 문서 토큰을 108배 줄였다.
원문 발췌 · English
Stanford researchers released Memorilla, an open-source memory system that compresses a document collection into 16 memory tokens for a frozen Qwen3-8B. It reaches 84.33% on FactKG using 108x fewer document tokens than full context. The post Stanford Research Open-Sources Memorilla, a Latent Memory Module for Frozen LLMs appeared first on MarkTechPost.