» Etiket
self-hosted
3 yayınYerel Yapay Zeka: Bazı İşler Neden Cihazdan Çıkmamalı
Gizlilik, maliyet ve gecikme nedeniyle sık tekrarlanan AI görevleri yerelde çalıştırılmalı. Ollama ve faster-whisper ile kurulan pratik örnek.
Docker Compose ile kendi LLM'lerinizi self-hosted çalıştırın
Ollama ve Open WebUI ile iki servisli Docker Compose yığını kurarak özel, yerel çalışan bir ChatGPT alternatifi oluşturmayı adım adım anlatan pratik rehber.
Foreman: Kendi Sunucunda Çalışan Maliyet Bilinçli LLM Gateway
Foreman, kodlama ajanları ile LLM sağlayıcıları arasında duran açık kaynaklı gateway; maliyete göre model seçip prompt cache'i korur, harcamaları kaydeder.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.com