메타, 300억 파라미터 로컬 에이전트 모델 Muse Glimmer 오픈소스 공개
- 메타 Superintelligence Labs가 300억 파라미터 모델 Muse Glimmer를 Apache 2.0 라이선스로 공개함, 콘슈머 GPU 1개로 맥이나 PC에서 로컬 구동 가능함
- Muse Spark를 teacher 모델로 한 logit distillation, 긴 컨텍스트 mid-training, SFT+온폴리시 distillation+RL을 결합한 post-training 3단계로 학습됨
- DeepSearch QA, MCP-Atlas, τ-Bench, SWE-Bench 등 에이전트 완결형 벤치마크에서 Gemma4-31B, Qwen3.6-27B와 비교해 동급 사이즈에서 우수한 성능을 보임
- 전체 정밀도로는 55GB 이상 메모리가 필요하지만 quantization으로 콘슈머 하드웨어에서 실용적인 속도를 내도록 최적화됨, llama.cpp·MLX·ExecuTorch 통합이 곧 제공됨
- 이미지·텍스트를 함께 처리하는 perception encoder, 100개 이상 언어 학습, OpenClaw 등 에이전트 오케스트레이션 스캐폴드 호환을 지원함
Hacker News opinions
메타가 오픈소스 안 버렸네. 이 정도 사이즈 distill 버전이나 MoE도 나오면 좋겠는데, 벤치마크는 괜찮아 보이긴 하지만 benchmaxing 아닌지 의심됨
이번 주 나올 Qwen3.8 27B랑 비교되는게 궁금함. dense 30B가 다시 유행하나봄
Qwen은 오버씽킹이 문제였는데, 이 사이즈대에 옵션이 늘어난건 반가움
llama.cpp로 한번 써보고 싶음. 오픈웨이트 경쟁을 기대하고 있음
DGX spark 한 대에서 돌면서 DSV4 Flash 731급 성능 내는 모델이 나오면 완벽할텐데. 27b-30b는 아직 지능이 부족함
DSV4 Flash 0731은 이미 RTX 4090 24GB + 시스템램 128GB로 실사용 가능한 tok/s 나옴
여전히 로컬로 돌리려면 32~64GB 메모리 필요함. 독일에서 64GB M5 맥북프로가 4천유로 넘는데, 차라리 특정 언어(Python이나 JVM 계열)에 특화되고 툴콜링·추론에 강한 모델이 더 실용적일듯
메타 돌아왔네. Multi-token prediction 덕분에 dense 모델도 MoE만큼 빠르면서 지능은 더 좋음. 제목이 "로컬 코딩 모델"이라 되어있는데 이건 잘못됐고 사실 범용 에이전트 모델임. 프리퀀타이즈드에 MTP/drafter 모델까지 들고 나옴
Gemma4, Qwen3.6이랑 비교한 결과가 좋게 나온게 기대됨
오픈웨이트 모델이 늘어날수록 개인·소상공인용 하드웨어 시장이 커짐. 그동안 소프트웨어가 성능을 별로 안 요구해서 하드웨어가 정체됐었는데 이게 바뀔 계기가 될듯