» Etiket
data engineering
6 yayınAirbnb, çok ürünlü dünya için veri mimarisini yeniden kurguladı
Airbnb, Experiences ve Services lansmanıyla veri ekiplerinin merkezi ilkeler ve esnek modelleme kurallarıyla nasıl tutarlı bir veri mimarisi kurduğunu anlatıyor.
data engineeringdata architectureairbnbanalyticsNetflix'in Veri Kanaryası: Katalog Metadata Doğrulama Sistemi
Netflix, kod değil veri bozulmasından kaynaklanan bir kesintinin ardından üretim trafiğiyle çalışan, 10 dakikada sorun tespit eden bir veri kanarya sistemi geliştirdi.
netflixdata-engineeringreliabilitychaos-engineeringAI Teknik Borcu: Üretilen Kod Neden Metadata ve Denetim İster
Veri mühendisliğinde AI ile üretilen kod hızlı ama riskli olabilir. Metadata, insan denetimi ve governance olmadan 'niyet borcu' birikir.
aidata-engineeringmetadatacode-reviewNetflix'in Data Projects Modeli: Veri Varlıklarını Ölçekte Yönetmek
Netflix, milyonlarca tabloyu ve on binlerce iş akışını yönetmek için Data Projects'i tanıttı. Kişiye bağlı kimlik ve ACL sorunlarını nasıl çözdüklerini inceliyoruz.
netflixdata-engineeringidentity-managementaccess-controlNetflix, Cassandra'dan Iceberg'e Veri Taşımada Casspactor'ü Nasıl Aştı
Netflix, Cassandra'dan Iceberg'e veri taşıyan eski Casspactor motorunun kısıtlarını aşmak için katmanlı, S3 tabanlı yeni bir mimari geliştirdi. Mühendislik detayları.
cassandraapache-icebergnetflixdata-engineeringSlack, EMR Veri Hatlarında SSH'ı REST API ile Değiştirdi
Slack, EMR küme erişiminde SSH bağımlılığını kaldırarak 700'den fazla veri hattını YARN Distributed Shell ve Quarry ile REST tabanlı mimariye taşıdı.
slackyarnemrrest-api