Ajans güvenliği ilk komuttan önce başlar
Ajans güvenliği, ilk komuttan önce başlar. Manifold'un araştırması, kodlama ajanslarının güvenlik açıklarını ortaya koydu.
Bir ajanın, model ilk kararını vermeden önce zarar verebileceği ortaya kondu. Manifold'un GitSpawn araştırmasında, bazı kodlama ajanslarının kullanıcıdan onay almadan veya bir istem yazmadan önce, yerel Git yapılandırmasını kullanarak program çalıştırdığı belirlendi. Bu durum, ajansların güvenliğini sağlamak için üç sınıra ihtiyaç duyulduğunu gösteriyor: süreçleri başlatan çalışma zamanı, kimlik bilgilerini tutan geçit ve hassas değişiklikler yapan araç.
Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz