Cihaz Üzerinde 3 Katmanlı AI Concierge Nasıl Kurulur
Ziyaretçi tarayıcısında çalışan, maliyeti sıfır olan 3 katmanlı AI sohbet widget'ı kurmayı öğrenin.
Bu makale, ziyaretçinin tarayıcısında çalışan ve sorgu başına maliyeti sıfır olan bir AI sohbet widget'ı oluşturmayı anlatıyor. Sunucu taraflı LLM çağrılarının pahalı ve yavaş olduğu durumlar için, bu yöntem gizliliği korur ve daha hızlıdır. Chrome'un yerleşik Prompt API'si, MiniLM ve anahtar kelime eşleştirme gibi üç katmanlı bir yapı kullanarak, her bir katman mevcut koşullara göre devreye girer. Böylece, ziyaretçiler hiçbir zaman bir duvara çarpmadan yanıt alabilirler.