Çok Modelli AI Hatlarında Gerçek Neden Kayboluyor
Çok modelli YZ sistemlerinde model geçişleri, hata vermeden kanıtları ve uyarı notlarını kaybedebilir, temkinli bulguları yanlış kesinliğe dönüştürebilir.
Bir araştırma modeli, tek bir veri setinde gözlemlenen ve genellemesi sınırlı bir korelasyonu dikkatle raporlar. Yazım modeli bu bulguyu özetleyip 'çalışmalar X'in Y'ye neden olduğunu gösteriyor' cümlesine dönüştürdüğünde hiçbir hata mesajı çıkmaz; JSON ayrıştırılır, bir sonraki aşama çalışır. Ama cümle artık yanlıştır: aktarım sözdizimsel olarak başarılı, epistemik olarak başarısız olmuştur.
Ao, Gao ve Simchi-Levi'nin teknik bir ön baskısı, çok ajanlı planlamayı bir iletişim ağı olarak modelliyor: yeni dışsal kanıt girmediği sürece ek aşamalar sadece aynı bilgiyi yeniden düzenler, tek bir merkezi karar vericinin başarabileceğinin ötesine geçemez. Anthropic'in üretim sistemi paralel araştırmada gerçek kazanımlar sağlarken normal sohbetlere göre yaklaşık 15 kat daha fazla token tüketiyor; sıkı bağlantılı görevlerde ve belirsiz devirlerde koordinasyon hataları görülüyor.
AgentAsk ön baskısından türetilen veri boşluğu, sinyal bozulması ve referans kayması kategorileri, editöryal olarak eklenen kapsam şişmesi ve doğrulama tiyatrosu ile birlikte aktarım hatalarını sınıflandırıyor. NeurIPS 2025'e kabul edilen MAST taksonomisi, yedi çerçevede 1.642 yürütme izini inceleyerek koordinasyon ve doğrulama kaynaklı 14 hata modu tespit etti; bu modların çoğu daha yetenekli bir temel modelle çözülemiyor.
Modellerin daha fazla akıl yürütme paylaşması otomatik olarak daha güvenli sonuç vermiyor; DebUnc gibi çalışmalar belirsizliğin açıkça iletilmesinin, aradaki arayüzü gürültü değil veri olarak ele almanın önemini gösteriyor. Sonuç: güvenilir hatlar için model seçimi kadar açık arayüz tasarımı, yani bir 'aktarım sözleşmesi' gerekiyor.
Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz