» Etiket
ai-security
11 yayınYapay Zeka Ajanlarını Güvenceye Almak: Güvenden Sınırlamaya
Otonom AI ajanları modelden aktöre dönüşürken güvenlik sınırı da değişiyor. OWASP'ın 2025 rehberliğine dayanan risk sınıfları ve sınırlama stratejileri.
Yapay zekayla kendi yapay zekasını sızma testine tabi tutmak
Bir mühendis, sızma testi yapan LLM ajanının her bulguyu kanıtlamasını zorunlu kılan bir sistem kurdu; belirsiz 'olabilir' raporları yerine deterministik oracle'larla doğrulanmış exploit'ler üretiyor.
HalluSquatting: AI Kodlama Ajanları Botnet'e Nasıl Dönüşür
Cursor, Copilot ve Gemini CLI gibi AI kodlama araçlarındaki halüsinasyon paket adları, saldırganlar tarafından önceden kayıt edilerek zararlı yazılım dağıtımına dönüştürülebiliyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comYeni Saldırı Türü: AI Ajanlarında Veri Enjeksiyonu (ADI)
Araştırmacılar, AI ajanlarını güvenilir veri gibi görünen sahte metadata ile kandıran yeni bir saldırı türü keşfetti. Claude, Codex ve Gemini CLI gibi ajanlarda kritik açıklar bulundu.
Kurumsal AI Ajanları Artık Runtime Ürünü: Model Sadece Küçük Parça
LangChain-NVIDIA NemoClaw ve Schneider Electric örnekleriyle kurumsal AI ajanlarının neden model değil, izin sınırları, denetim kayıtları ve dağıtım süreçleriyle tanımlı runtime ürünleri olduğu inceleniyor.
AI Sandboxing: Modelden Değil, Altyapıdan Gelen Risk
Otonom AI ajanlarının araç, kimlik bilgisi ve altyapıya erişimi, güvenlik odağını modelden runtime izolasyonuna kaydırıyor. Sandboxing neden zorunlu hale geliyor?
Writer AI'da Sandbox Açığı Kritik Hesap Ele Geçirmeye Yol Açtı
WriteOut adlı güvenlik açığı, Writer AI'nın sandbox izolasyonunu aşarak oturum çerezlerini sızdırıyor ve tek tıkla hesap ele geçirmeye izin veriyordu. Writer sorunu giderdi.
Yapay zekada yeni evre: sohbetten kontrollü sistemlere geçiş
HalluSquatting saldırısı, Prime Intellect'in 130M$'lık yatırımı ve DeepSeek'in çip planları; yapay zekanın artık model seçiminden iş akışı kontrolüne kaydığını gösteriyor.
Gölge Yapay Zeka: Göremediğiniz Sistemi Güvence Altına Alamazsınız
Kurumlarda yapay zeka kullanımı hızla arttı ama envanter ve gözetim geride kaldı. AI-BOM yaklaşımıyla gölge yapay zekayı keşfetme ve sahiplendirme rehberi.
Prismata: Web ajanlarında prompt injection saldırılarına savunma
Prismata, web ajanlarını cross-site prompt injection saldırılarına karşı korumak için dinamik güven etiketleme ve içerik kısıtlama kullanan yeni bir savunma mekanizması sunuyor.