» Etiket
qwen
4 yayınKapalı Claude Yerine Açık Qwen'e Canlı Düşünce İzleyici
Anthropic'in workspace makalesi ilham verdi; bir geliştirici Claude yerine açık Qwen modeli için canlı, token bazlı bir iç düşünce izleyici geliştirdi.
aiinterpretabilityllmanthropicllama.cpp'de DFlash: Qwen 3.6 27B'de 4.44 kat hız artışı
llama.cpp'ye eklenen DFlash, blok difüzyon tabanlı draft modeliyle Qwen 3.6 27B'de bağlam uzadıkça hızı artırıyor; 36K bağlamda 4.44 kat, kalite kaybı yok denecek kadar az.
llama.cppspeculative-decodinglocal-aiqwenQwen3.6-27B'de KV Önbellek Kuantizasyonunun KLD Etkisi
Bartowski'nin Qwen3.6-27B GGUF modelinde Q8, Q6 ve Q5 seviyelerinde KV önbellek kuantizasyonunun KL diverjansına etkisi ölçüldü; (q8_0,q8_0) neredeyse bedava kalite koruyor.
llmquantizationkv-cacheggufSubtext: LLM'in İç Düşüncelerini Canlı Görselleştiren Araç
Subtext, Anthropic'in Jacobian lens yöntemini kullanarak Qwen3.5-4B modelinin iç temsillerini canlı sohbet sırasında görselleştiren açık kaynak bir araç.
llminterpretabilityopen-sourceanthropic