» Etiket
llm
48 yayınMCP Güvenliği: Güven Sınırları, Confused Deputy ve Spesin Görmediği Riskler
MCP protokolünün güven sınırları, stdio sunucu riskleri, OAuth 2.1/PKCE/CIMD ilerlemeleri ve confused deputy saldırı sınıfı mühendisler için özetlendi.
TutorMoments: Yapay Zeka Öğretmenler Ne Zaman Yardım Etmeli?
Allen AI'nin TutorMoments benchmark'ı, LLM öğretmenlerin ne zaman destek olup ne zaman öğrenciyi zorlaması gerektiğini bilip bilmediğini test ediyor.
SIMURG: LLM Akışındaki Bozulmayı Gerçek Zamanlı Durduran Koruma
SIMURG, LLM akışındaki bozulmaları gerçek zamanlı tespit edip durduran, numpy tabanlı, eğitim gerektirmeyen bir izleme aracıdır.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comNVIDIA Dynamo ile LLM Çıktı Kapasitesini Hızla Yenileyin
NVIDIA Dynamo'daki gölge motoru kurtarma, LLM süreçlerinin hızlı bir şekilde yeniden başlatılmasını sağlıyor.
AMD MI300X ve Nvidia H100 ile 72B LLM için byte-aynı çıkarım
Yeni bir protokol, AMD MI300X ve Nvidia H100 ile 72B LLM için byte-aynı çıkarımlar üretiyor.
Özel LLM API'lerinden Akıl Yürütme İzlerini Çalma
Sınır AI modellerinin API'lerinde bulunan güvenlik açığı ile akıl yürütme izlerini çıkarmayı başardık. Bu durum mühendisler için önemli güvenlik riskleri oluşturuyor.
Açık bir ajan güvenlik benchmark'ı: Yakalanamayan saldırılar
Modern LLM ajanlarına yönelik 497 saldırıyı içeren açık bir güvenlik benchmark'ı oluşturuldu.
LLM Kullanımında Bağlam Mühendisliği
Bağlam mühendisliği, LLM'nin alan bilgisi ile optimize edilmesini sağlıyor. Daha doğru yanıtlar için indeks kullanımı.
LLM Hata Ayıklayıcı: İnce Ayar Hatalarını Tespit Etme
Gradian, LoRA ince ayar LLM'ler için eğitim verisi atıf motorudur. Hataları tespit etme ve düzeltme sürecini kolaylaştırır.
Meta'nın GEM Modeli ile Reklam Verimliliği İki Katına Çıktı
Meta, GEM modeli ile reklam öneri sistemlerinde eğitim verimliliğini iki katına çıkardı. Bu başarı, mühendislik zorluklarını aşarak sağlandı.