LingBot-Vision: 0.3B ViT-L, DINOv3-7B'yi derinlikte yakalıyor

Ant Group, DINO ailesinden türetilmiş öz-denetimli görsel omurga modeli LingBot-Vision'ı 21M, 86M, 0.3B ve 1.1B parametreli dört boyutta ve Apache-2.0 lisansıyla yayınladı. Modelin ayırt edici yanı sınır-güdümlü maskeleme yaklaşımı: öğretmen ağ nesne sınırlarının nerede olduğunu tahmin ediyor ve bu tokenlar öğrenci ağın maskesine zorunlu olarak dahil ediliyor, böylece model düz bağlamı kopyalayarak yeniden yapılandırma yapamıyor. Etiket, metin denetimi veya harici kenar dedektörü kullanılmıyor.

Paylaşılan tablolara göre 1.1B'lik amiral gemisi model, NYUv2 derinlik tahmininde tüm karşılaştırmadaki en iyi RMSE değerine ulaşıyor (0.296), DINOv3-7B'nin 0.309 ve V-JEPA 2 (2B) modelinin 0.307 değerini geride bırakıyor. Daha da dikkat çekici olanı, sadece 0.3B parametreli ViT-L modelinin 0.310 RMSE ile neredeyse aynı sonucu, yaklaşık 23 kat daha az parametreyle elde etmesi. Bu da modelin, DINOv3'ün eğitim verisinin üçte birinden azıyla (161M görüntü) eğitilmiş olmasına rağmen dense feature çıkarımında rekabetçi olduğunu gösteriyor.

Model her yerde üstün değil; ImageNet sınıflandırmasında büyük ölçeklerde DINOv3 gerisinde kalıyor (küçük B/S modelleri kendi sınıflarında öne çıksa da) ve KITTI derinlik testinde daha büyük modeller öne geçiyor. Değerlendirmeler standart DINOv3 dondurulmuş doğrusal-probe protokolüyle yapıldığı için bağımsız olarak kolayca doğrulanabilir; tüm sayılar şu an için üreticinin kendi raporuna dayanıyor ve bağımsız tekrar testleri bekleniyor.