Ghost Vessel: Yerel AI Ajanına Sohbet Yerine Yüz Takıldı
Geliştirici, yerel LLM ajanı için Telegram sohbetini video görüşme tarzı bir avatarla değiştirdi. Ghost Vessel, GPU'yu modele bırakan önceden render edilmiş klip mimarisi ve duygu etiketleriyle çalışıyor, açık kaynak.
Bir geliştirici, kendi makinesinde çalıştırdığı Hermes tabanlı yerel LLM ajanıyla iletişim kurmak için sürekli Telegram'a bakmaktan sıkılınca Ghost Vessel adında bir araç geliştirdi. Proje, ajanın metin yanıtlarını doğrudan ekrana basmak yerine bunları dialogue (konuşma), data (kod/log/dosya) ve action (duygu/aksiyon) olmak üzere üç katmana ayıran bir "çıktı sözleşmesi" üzerine kurulu. Model, yanıtına gömdüğü [working], [confirm], [happy] gibi etiketlerle ekrandaki avatarın mimiklerini ve insan onayı gerektiren adımları tetikliyor.
Projenin en dikkat çekici mühendislik kararı, avatarın gerçek zamanlı yapay zeka çıkarımıyla değil, önceden render edilmiş yaklaşık 30 video klibin duygu etiketlerine göre seçilip harmanlanmasıyla çalışması. Bu sayede GPU kaynağının tamamı asıl LLM'e ayrılabiliyor; karşılığında mükemmel dudak senkronizasyonundan feragat ediliyor ama geliştirici bunun "bir kişiyle görüşme" hissini yaratmak için yeterli olduğunu savunuyor. Ajan entegrasyonu ise avatarı ajanın gateway'ine bağlanan ayrı bir bağlantı kanalı gibi tanımlayarak yapılmış; böylece ajan tarafında avatar, Telegram'dan farksız bir kanal olarak görünüyor.
Sistem ayrıca zamanla değişen bir ruh hali/bağlılık mekanizması, çift yönlü sesli iletişim (TTS ve konuşma tanıma) ve Tauri v2 üzerine kurulu her zaman üstte kalan pencereler içeriyor. Motor MIT lisansıyla açık kaynak; kullanıcılar kendi avatar klip paketlerini oluşturup projeye ekleyebiliyor. Geliştirici özellikle model çıktısını arayüz davranışına dönüştüren bu "çıktı sözleşmesi" yaklaşımı hakkında topluluktan geri bildirim almak istiyor.