LLM'i Konuşturma, Gizli Durumunu Sonda ile Oku
LLM'ler cevabı üretmeden önce gizli katmanlarında taşır. Bu teknik, metin üretmeden küçük bir sonda ile hızlı, ucuz ve kalibre edilmiş sıfır-atış sınıflandırma sağlıyor.
Bir LLM'e 'bu metin şu kriteri karşılıyor mu' türünden bir soru sorulduğunda, cevap genellikle model henüz tek bir token üretmeden önce ileri geçişin (forward pass) içinde, gizli durumda zaten şekillenmiş oluyor. Bu gözlemden yola çıkan yaklaşım, üretimi tamamen atlayıp promptun son tokenındaki (örneğin 'Assessment:' gibi bir tetikleyici token) gizli durumu, modelin orta-üst katmanlarından birinden alıp küçük bir MLP veya doğrusal sondaya besliyor; çıktı isotonic regresyon ile kalibre ediliyor. Sonuç, tek sayıya indirgenmiş, gerçek anlamda olasılık ifade eden bir skor.
Tekniğin can alıcı noktası eğitim verisinde yatıyor: kriter, içerik ve etiketten oluşan binlerce üçlü üretilirken kriter her seferinde değiştiriliyor. Böylece sonda tek bir sınıflandırma görevini değil, 'içerik kriteri karşılıyor mu' sorusunun genel yapısını öğreniyor — çalışma zamanında İngilizce yazılan herhangi bir kriter için kullanılabilir hale geliyor. Opsiyonel bir LoRA katmanı ise sınıflandırma için değil, etiketi gerekçelendiren tek cümlelik bir yargı yazmak için eğitiliyor; bu metin asla üretilmiyor, tek amacı tetikleyici tokendaki geometriyi kararın daha net okunacağı şekilde yeniden şekillendirmek.
İçeriği bir kez önbelleğe alıp (KV cache) aynı içeriğe onlarca farklı kriteri ucuz devam istekleri olarak çalıştırmak mümkün; ancak bu durumda içerik, kriteri görmeden kodlanıyor ve karmaşık/çok katmanlı ifadelerde doğruluk düşebiliyor — klasik cross-encoder ile geç etkileşim (ColBERT tarzı) yaklaşımlar arasındaki ödünleşmenin bir başka örneği.
Yöntem, yazarın NOPE'daki güvenlik altyapısında 'Predicate' adlı bir sistemi besliyor; her mesajı her yapısal soruya karşı LLM yargıcı çalıştırmanın maliyet ve gecikme açısından imkansız olduğu senaryolarda devreye giriyor. Mühendisler için önemi açık: embedding sınıflandırıcıların yakalayamadığı yapısal/nedensel ayrımları, LLM yargıçlarının maliyeti olmadan, milisaniyeler mertebesinde ve kalibre olasılıklarla yakalamak mümkün hale geliyor.