Kurumsal AI Ajanları Artık Runtime Ürünü: Model Sadece Küçük Parça

Kurumsal AI ajanları giderek 'akıllı model sarmalayıcıları' olarak değil, kendi API'si, sürüm yolu, geri alma stratejisi ve sorumlusu olan runtime ürünleri olarak konumlanıyor. LangChain ve NVIDIA'nın NemoClaw Deep Agents Blueprint duyurusu bunu somutlaştırıyor: kodlama ajanları varsayılan olarak OpenShell sandbox içinde çalışıyor, ağ erişimi varsayılan olarak reddediliyor ve onaya tabi, kimlik bilgileri sandbox'a hiç girmiyor, her oturum ayrı bir denetim kaydına dönüşüyor. Bu detaylar, güvenliğin araç çağrısı seviyesinde uygulanması gerektiğini ve regüle bir ekibin aslında 'ajan' değil, ajanın politika ihlali yapmadan çalışabileceği bir ürün yüzeyi satın aldığını gösteriyor.

Asıl dikkat çekici nokta, kurumların neden model katmanını değil harness (çatı) katmanını kilit altına almak istediği. Model rotası maliyet veya gecikme değiştikçe kolayca değiştirilebilirken, canlıda çalışan bir ajanın operasyonel hafızası bu kadar kolay taşınamıyor. NemoClaw Deep Agents Code'un LangChain değerlendirme setinde 0.86 puan ve 100.000 token başına 4.48 dolar maliyetle (en yakın rakibin 43.48 dolarına karşı) öne çıkması da bu ekonomik gerçeği destekliyor: asıl değer modelin üzerinde, harness'ta yaratılıyor.

Schneider Electric'in LangSmith ile LLMOps vaka çalışması bu yaklaşımın kurumsal ölçekte nasıl işlediğini gösteriyor: 107 ülkede 160.000 çalışana hizmet veren 60'tan fazla ajan, 350 kişilik bir AI ekibi tarafından geliştirilmiş ve her ürün için ortam bazında ayrı LangSmith çalışma alanları kullanılıyor. Canlı izler (trace) offline değerlendirme ve regresyon veri setleri için yeniden kullanılıyor; böylece gözlemlenebilirlik bir yan araç değil, ürünün kendisi haline geliyor. Honeycomb'un MCP sunucusunda CSV çıktısının JSON'a göre yaklaşık %40 token tasarrufu sağlaması gibi küçük ama etkili optimizasyonlar da, runtime ürün yaklaşımının değerlendirme maliyetlerini nasıl düşürdüğünü gösteriyor.