CacheTracer: LLM API Yeniden Satıcılarında Gizli Bağımlılıkları Ortaya Çıkarıyor
CacheTracer, LLM API yeniden satıcıları arasındaki gizli önbellek bağımlılıklarını yan kanal analiziyle ortaya çıkarıyor; 636 çiftte %37 paylaşım bulundu.
Araştırmacılar, LLM API yeniden satıcı ekosisteminde gizli bağımlılıkları ortaya çıkarmak için CacheTracer adlı yeni bir ölçüm yöntemi sundu. Çok katmanlı yeniden satış zincirleri, kullanıcı isteklerinin denetlenmeyen ara sunuculardan geçmesine yol açarak gizlilik ve bütünlük risklerini artırıyor; ancak mevcut denetim çalışmaları tek tek sağlayıcılara odaklanıyor ve zincirler arası bağımlılıkları göz ardı ediyor.
CacheTracer, prefix-cache (önek önbelleği) yeniden kullanımını yan kanal olarak kullanarak sağlayıcılar arası önbellek erişim ilişkilerini tespit ediyor. Flood ilkesi bir uç noktadan taze önbellek durumu oluştururken, Prove ilkesi başka bir uç noktanın bu durumu yeniden kullanıp kullanamadığını, sahte pozitifleri dışlayarak test ediyor.
39 yeniden satıcı uç noktasında 636 çift arasında 1,1 milyon API isteği gönderilerek yapılan ölçümler, çiftlerin %37,1'inde paylaşılan önbellek erişimi olduğunu, bağımlılık hiyerarşisinin yedi katmana kadar uzandığını ve bazı düğümlerin en az 31 farklı düğüm tarafından kapsandığını gösterdi. Bulgular, görünüşte bağımsız sağlayıcılar arasında derin ve yoğunlaşmış bağımlılıkların bulunduğunu; bu durumun tek bir üst akış hatasının çok sayıda alt sağlayıcıyı etkileyebilecek büyük bir 'patlama yarıçapı' oluşturduğunu ortaya koyuyor.
Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz