Özel LLM API'lerinden Akıl Yürütme İzlerini Çalma
Sınır AI modellerinin API'lerinde bulunan güvenlik açığı ile akıl yürütme izlerini çıkarmayı başardık. Bu durum mühendisler için önemli güvenlik riskleri oluşturuyor.
Sonunda bunu konuşabiliriz: Sınır modellerin gizli akıl yürütmelerini, her sınır AI şirketinin API'lerindeki bir güvenlik açığı kullanarak çıkarmayı başardık. Bu, akıl yürütme izlerini distillemenin uzun zamandır mümkün olabileceğini gösteriyor. Ayrıca, bazı modellerin akıl yürütme süreçleri, gizli veri sızıntılarına yol açabilecek şekilde çözülebiliyor.