Cloudflare, Genel Bulut Bölgeleri için Akıllı Önbelleği Geliştirdi
Cloudflare, anycast bulut originleri için Akıllı Katmanlı Önbelleğe bölge ipucu desteği ekleyerek gecikmeyi ve hairpin trafiğini azaltıyor.
Cloudflare'in 2021'de tanıttığı Akıllı Katmanlı Önbellek (Smart Tiered Cache), her origin için gerçek zamanlı gecikme ölçümüyle en iyi üst katman veri merkezini seçiyordu. Ancak AWS, GCP, Azure ve Oracle Cloud gibi sağlayıcılarda yaygın olan anycast veya bölgesel unicast mimarili originlerde bu yaklaşım işe yaramıyordu; çünkü aynı IP adresi birçok Cloudflare veri merkezine aynı anda 'yakın' görünebiliyor, bu da sistemin tek bir kazanan seçmesini engelliyordu. Sonuç olarak trafik kıtalar arası dolaşabiliyor (hairpinning) ve önbellek isabet oranı düşüyordu.
Cloudflare bu sorunu, ışık hızı fiziğinden yararlanan bir anycast tespit yöntemiyle daha önce kısmen ele almıştı: birden fazla kontrol noktasından ölçülen gecikmeler fiziksel olarak mümkün olandan hızlıysa origin'in birden fazla noktadan yanıt verdiği anlaşılıyor ve sistem güvenli tarafta kalarak birden fazla üst katmana geri dönüyordu. Yeni özellik olan Smart Tiered Cache for Public Cloud Regions ile kullanıcılar artık her origin IP'si için bir bulut bölgesi ipucu (örneğin aws:us-east-1) tanımlayabiliyor. Cloudflare bu ipucunu, sağlayıcılardan düzenli çekilen IP aralığı dosyaları ve 15 dakikada bir yenilenen gecikme verileriyle eşleştirerek her bölge için en güçlü sinyale sahip birincil ve farklı bir PoP'tan yedek üst katman belirliyor.
Bu geliştirme, mühendisler için doğrudan önbellek verimliliği, origin'e giden bağlantı sayısı ve gecikme üzerinde etkili. Bölge ipucu ayarları dashboard üzerinden tek tek veya toplu olarak, API ve Terraform ile de yapılandırılabiliyor. Yeterli prob verisi olmayan yeni bölgelerde sistem geçici olarak coğrafi en yakın Tier 1 PoP'a geri dönüyor ve veri biriktikçe gerçek ölçümlere geçiyor.