Bulut Ajanlarından Bir Yıllık Ders: Ortam ve Dayanıklılık Kritik
Bulut ajanlarının yerel ajanlardan bir işletim katmanına dönüşümü; ortam kurulumu, Temporal ile dayanıklı çalıştırma ve harness tasarımından çıkarılan dersler.
Bir yıl önce yerel ajanların basit bir uzantısı gibi görünen bulut ajanları, artık kendi VM'lerinde çalışan, paralel ve uzun süreli görevler üstlenebilen çok daha karmaşık sistemlere dönüştü. Ekip, çıktı kalitesini belirleyen en kritik faktörün ajana geliştirici seviyesinde tam bir geliştirme ortamı sağlamak olduğunu keşfetti; eksik bir ortam çoğu zaman hata vermek yerine sessizce kalite düşüşüne yol açıyor. Bu nedenle VM hazırlama, hibernasyon/resume, checkpoint alma ve ağ erişimi kontrolü gibi neredeyse kurumsal IT altyapısına benzer bir katman inşa edilmiş durumda.
Güvenilirlik tarafında, başlangıçtaki work-stealing mimarisi kırılgan çıkınca ekip Temporal'a geçti; bu geçiş güvenilirliği ciddi şekilde artırdı ve bugün günde 50 milyondan fazla işlem, 7 milyondan fazla iş akışı yönetiliyor, PR'ların %40'ından fazlası bulut ajanlarından geliyor. Ajan döngüsü, makine durumu ve konuşma durumu birbirinden ayrıştırılarak alt-ajanların farklı pod'larda çalışabilmesi ve akış kesintilerinde istemcilerin veriyi doğru şekilde yeniden senkronize edebilmesi sağlanmış.
Harness tasarımı da zamanla değişti: modeller güçlendikçe sabit kodlanmış davranışlar yerine ajana daha fazla araç ve karar yetkisi verilmeye başlandı. Gelecekte hedef, ajanların eksik yetkilendirme veya ağ erişimi gibi sorunları kendi başına tespit edip düzeltebildiği kendi kendini onaran ortamlar oluşturmak.