Muse Glimmer ve Yerelde Çalışan Özel Bir Agent Döngüsünün Gerekçesi

Meta Superintelligence Labs bugün Muse Glimmer'ı yayınladı: agent işleri için geliştirilmiş, 30 milyar parametreli, açık ağırlıklı bir model. Apache 2.0 lisansıyla çıktı, ağırlıkları da Hugging Face'te. Meta'nın vaadi, modelin tek bir tüketici sınıfı GPU'ya sahip bir Mac ya da PC'de çalışacak kadar küçük olması. Benim için liderlik tablolarından çok tek bir pratik soru önemli: Böyle bir model, makineden asla çıkmaması gereken kod ve veriler için bir tool-calling döngüsünün arkasında iş görebilir mi?

Meta gerçekte ne yayınladı#

Model kartı, yaklaşık 29.6B parametreli dense bir causal transformer tarif ediyor. Buna, modelin iç içe geçmiş metin ve görselleri okuyabilmesini sağlayan yaklaşık 1.8B parametrelik bir perception encoder da dahil. Çıktı yalnızca metin, ses kapsam dışı. Geliştirici dokümantasyonu varsayılan context penceresini 128K token olarak veriyor. Model, Meta'nın daha büyük modeli Muse Spark'tan damıtılmış: pre-training aşamasında logit distillation, mid-training'de daha uzun ve agent ağırlıklı veriler, ardından on-policy distillation ve reinforcement learning ile birleştirilmiş supervised fine-tuning.

Yetenek listesi adeta bir agent runtime'ının şartnamesi gibi: şemaya birebir uyan tool çağrıları, uzun ve çok adımlı planlar, başarısız bir tool çağrısını teşhis edip durmak yerine yeniden deneme ve ayarlanabilir efor. Reasoning gücü system prompt'a Reasoning strength: <value> olarak yazılıyor; low, medium, high ve xhigh seviyeleri var. BF16 ağırlıklar, iki 4-bit varyantın ikisi de, DFlash drafter ve perception encoder'ın tamamı Apache 2.0.

Donanım hesabı#

Tam hassasiyette model 55 GB'tan fazlasına ihtiyaç duyuyor, dolayısıyla yerelde çalıştırma hikâyesi tamamen quantization'a dayanıyor. Meta yaklaşık 4-bit'lik iki varyant sunuyor: K-Quant-Dynamic 32 GB VRAM'i hedefliyor ve 15 benchmark genelinde ortalama %0.2 kayıp veriyor; K-Quant-17GB ise 24 GB'ı hedefliyor ve kayıp %1.0. Hız tarafında ise DFlash tabanlı bir speculative-decoding drafter devrede: ana modelin doğrulaması için 16 token'lık bloklar öneriyor.

Meta'nın K-Quant-17GB için, quantize edilmiş drafter ile, batch size 1 ve greedy decoding altında paylaştığı decode rakamları:

• RTX 5090 (llama.cpp): drafter ile 74.9'dan 233.4 tokens/s'ye, 3.1x
• M5 Max (ExecuTorch): 26.6'dan 50.2 tokens/s'ye, 1.8x
• M4 Max (ExecuTorch): 23.7'den 37.8 tokens/s'ye, 1.5x

Bunlar üreticinin kendi rakamları ve Meta'nın yalnızca "çeşitli" diye tarif ettiği bir prompt setinin ortalaması. Bir agent döngüsü her adımda uzun context'leri yeniden okur; bu yüzden prompt processing hızı ve o 128K pencerenin derinlerindeki KV-cache baskısı en az decode hızı kadar önemli. Ne blog yazısı ne de model kartı bunları raporluyor.

Nerede öne çıkıyor, nerede çıkmıyor#

Meta, high reasoning ile çalıştırılan Glimmer'ı thinking modundaki Gemma4-31B ve Qwen3.6-27B ile karşılaştırıyor. Tablonun tamamı manşetten daha faydalı. Benim soruma en yakın benchmark olan MCP Atlas (Public)'te 54.2 ve 62.5'e karşı 75.5 alıyor. SWE-Bench Pro'da Qwen'i kıl payı geçiyor: 51.2'ye 50.2. Ama Qwen3.6-27B; SWE-Bench Verified'da (77.2'ye 76.0), TerminalBench 2.1'de (60.7'ye 51.7) ve OSWorld-Verified'da (75.6'ya 65.9) önde.

Benim yorumum şu: İş, iyi tanımlanmış tool'ları doğru çağırmak olduğunda en güçlü; ama otonom terminal kodlaması için açık ara en iyi yerel model değil. Bu ayrım önemli, çünkü zaten işleri maliyete göre modeller arasında yönlendiriyorum. Yerel bir model ancak yeterince iyi olduğu yerde kendine bir şerit kazanır ve bu tablo, uçsuz bucaksız repo cerrahisinden çok yapılandırılmış tool kullanımını işaret ediyor.

Yerel olmak güvenli olmak demek değil#

Güvenlik satırları daha fazla ilgiyi hak ediyor. Dolaylı prompt injection direnci, Meta'nın değerlendirdiği dört risk ekseninden biri olan agentic risk başlığı altında yer alıyor. Siren AgentDojo'da kart, 28.4'lük bir saldırı başarı oranı raporluyor (düşük olan daha iyi); Gemma'da bu 25.6, Qwen'de 40.3. Modeli kendi laptop'umda çalıştırmak ağ adımını ortadan kaldırıyor, injection riskini değil. Zehirlenmiş bir README, issue metni ya da log satırı yine context penceresine düşüyor ve model yine ona verdiğim tool'ları elinde tutuyor. Kartın kendisi de modelin guardrail'lere sahip bir sistem içinde deploy edilmesini ve geri alınamaz aksiyonlar için insan onayı eklenmesini öneriyor.

Knowledge cutoff 4 Ocak 2026. Framework'lerinizdeki daha yeni her şey modele ağırlıklar üzerinden değil, tool'lar ya da context üzerinden ulaşmak zorunda.

Ben bu konuda ne yapıyorum#

Henüz çalıştırmadım. Hugging Face ağırlıkları yayında; Meta, yerel ve serving runtime'larının (llama.cpp, MLX, ExecuTorch, Ollama, LM Studio, vLLM, SGLang) ve Together AI, Fireworks AI, OpenRouter gibi barındırılan seçeneklerin "önümüzdeki günlerde" geleceğini söylüyor. Bir ekip işe başlamadan önce, ben önce şunlara karar verirdim:

• İşi sınıflandırın. Model seçmeden önce hangi repository'lerin ve verilerin yalnızca yerelde kalacağına karar verin. Model veri politikasını takip eder, tersi değil.
• Quant'ı gerçek donanıma göre seçin. 24 GB kartlar için K-Quant-17GB, 32 GB için K-Quant-Dynamic. Drafter, encoder ve KV cache için pay bırakın.
• Kendi MCP sunucularınızda değerlendirin. Herkese açık bir MCP Atlas skoru sizin şemalarınız hakkında hiçbir şey söylemez; modeli kendi tool'larınıza karşı çalıştırın, hatalı çağrıları ve yeniden denemeleri loglayın.
• Review kapısını koruyun. Yerel modelin ürettiği patch'ler, barındırılan modelinkilerle aynı kapıdan geçer; Quorate'in PASS/WARN/FAIL kapıları diff'i hangi modelin yazdığını umursamaz. Daha ucuz token'lar çıtayı düşürmek için bir gerekçe değil.
• Tool izinlerini sınırlayın. Varsayılan olarak salt okunur tool'lar; yazan, silen ya da gönderen her şey bir onay adımından geçsin.

4-bit sürümü 24 GB'lık bir kartı hedefleyen, Apache 2.0 lisanslı bir agent modeli, özel çalışma için gerçek bir değişim. Benim kurulumumda kendine bir şerit kazanıp kazanmayacağını lansman tablosu değil, kendi loglarım belirleyecek.