» Etiket
observability
79 yayınLLM Faturası Neden Sabit Trafikte Bile Artıyor?
Kullanıcı trafiği sabit kalsa da LLM maliyetleri artabilir. İstek sayısı yerine token bazlı operasyon takibiyle gizli maliyet artışlarını tespit etmenin yolları.
Hazshield AI: Veritabanını Öldürdüm, Alarmlar Hayatta Kaldı
Rust tabanlı Hazshield AI gateway saniyede 10 bin sensör okumasını işlerken canlı testte veritabanı kasıtlı olarak durduruldu; sonuç sıfır alarm kaybı ve sıfır istek hatası oldu.
Xcover: eBPF ile Enstrümantasyonsuz Test Kapsama Analizi
Xcover, ELF ikili dosyalarını kaynak kodu değiştirmeden eBPF probe'larıyla izleyerek fonksiyonel test kapsama ölçümü yapan dil-agnostik bir araç.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.compg_stat_ch: PostgreSQL Sorgu Telemetrisini ClickHouse'a Aktarır
pg_stat_ch, PostgreSQL sorgu telemetrisini ham olay bazında ClickHouse'a aktaran açık kaynak bir uzantı; analiz yükünü veritabanından ayırır.
LLM Uygulamaları Neden Dağıtık Sistem Gibi Tasarlanmalı
Prod ortamda çöken bir AI uygulamasından çıkan ders: sorun model değil, kuyruk, cache, retry ve gözlemlenebilirlik eksikliğiydi. Backend mühendisliği devreye giriyor.
AWS Lambda ile CloudWatch metriklerini VPC içi OpenTelemetry'ye akıtma
AWS, Data Firehose ve Lambda dönüşüm fonksiyonu kullanarak CloudWatch metrik akışlarını VPC içindeki OpenTelemetry collector'lara nasıl ilettiğini anlatıyor.
Sentry, Dashboard Oluşturmayı Yapay Zeka Ajanlarına Bıraktı
Sentry, dashboard oluşturma ve düzenlemeyi ajan tabanlı yapay zekaya taşıdı. Insights sayfaları klonlanabilir şablonlara dönüştü, CLI desteği de eklendi.
LiteLLM ile LLM Yönetimi: İzleme, Kota ve Maliyet Kontrolü
Midas mühendislik ekibi, dağınık LLM harcamalarını ve gözlemlenebilirlik sorununu LiteLLM tabanlı merkezi bir gateway ile nasıl çözdüğünü anlatıyor.
Hepsiburada'da VictoriaMetrics ile Merkezi İzleme Mimarisi
Hepsiburada, 2000+ sunucu ve 500+ Kubernetes kümesini izlemek için dağınık Prometheus yapısından VictoriaMetrics tabanlı, iki bölgeli merkezi mimariye geçti.
Günlük 10.000+ Liste İşleme: Ölçekli Üretim RAG Dersleri
RAG boru hattında yaşanan sorunlar ve çözüm stratejileri hakkında deneyimlerimi paylaşıyorum.