Muse Glimmer 30B, 소비자 기기용 에이전트 모델
Muse Glimmer 30B: An On-Device Agentic Model
- 매체
- arXiv
- 게시
- 중요도
- 3/5
- 화제 지수
- 6
한국어 요약
Muse Glimmer는 소비자 하드웨어에서 클라우드 없이 실행되도록 설계한 300억 파라미터 오픈소스 인과 언어 모델이다. 텍스트·이미지 입력을 받고 100개 이상 언어로 학습했으며, 단일 GPU에서 효율적으로 추론하도록 약 4비트 정밀도로 양자화했다. 도구 사용, 다중 단계 계획, 에이전트 작업 완료 벤치마크에서 같은 크기 대급(Gemma4-31B, Qwen3.6-27B)을 능가한다.
원문 발췌 · English
We introduce Muse Glimmer, an open-source 30B parameter causal language model with perception encoder, purpose-built for autonomous agentic tasks on consumer hardware. Muse Glimmer integrates multi-step reasoning, reliable tool use and failure recovery into a single model that runs locally on consumer devices without requiring cloud infrastructure. The model accepts text and image inputs and produces text outputs, was trained on data from over a hundred languages, and is quantized to approximately 4-bit precision for efficient single-GPU inference. Muse Glimmer achieves state-of-the-art performance for its size class on agentic benchmarks, setting a new standard compared to the models of its size: Gemma4-31B and Qwen3.6-27B on tool use, multi-step planning, and agentic task completion. We release the model under the Apache 2.0 license to foster open-source development of capable, safe, local AI agents.