« Tüm yayınlar

AI ajanlarında sessiz veri kaybının dört nedeni

AI ajan belleğinde sessizce kaybolan yazmaların dört kök nedeni: anahtar uyuşmazlığı, compaction kaybı, eşzamanlı çakışma ve bayat okuma sonrası yazma.

Kendi kendine öğrenen bir ajan, paylaşılan bir plana ders yazar ve depolama katmanı yazmanın başarılı olduğunu bildirir; ama bir sonraki okumada o ders yok olmuştur. Hiçbir hata loglanmaz. Bu yazı, aynı belirtinin aslında dört farklı kök nedeni olduğunu ve bunların tek bir bug olmadığını gösteriyor.

İlk ikisi -anahtar uyuşmazlığı ve compaction (özetleme) sırasında düşen veri- uygulama katmanının hatasıdır ve sadece iz (trace) kaydıyla tespit edilebilir: yazma ve okuma anahtarları karşılaştırılarak yakalanır. Son ikisi -aynı anahtara eşzamanlı yarışan iki yazar ve bayat bir görüntüden yazma- gerçek eşzamanlılık çakışmalarıdır ve bunlar sürüm tabanlı CAS (compare-and-swap) ile MESI benzeri geçersiz kılma-reddet mekanizmalarıyla yazma anında önlenebilir, tespitle değil.

Mühendisler için önemi şu: 'model unuttu' diye etiketlenen her kayıp aslında bu dört kategoriden birine girer. Hangi üye olduğunu bilmeden, sorunun bugün gerçekten önlendiğini mi yoksa bir sonraki compaction geçişinde tekrar kaybolacağını mı bilemezsiniz. Tek makinede sürüm-CAS ve geçersiz kılma-reddet üretimde çalışır; ancak birden fazla makineye yayılan yazarlarda bu koruma henüz yok, dolayısıyla iz kaydı elinizdeki tek araç kalıyor.