Yapay Zeka ve Siber Güvenlikte Çarpıcı Gelişmeler: Kuzey Kore'ye Sahte Şirket Operasyonu, LLM'lerde Gizli Davranış Aktarımı
Araştırmacılar, Lazarus Grubu bağlantılı Famous Chollima birimine ait Kuzey Koreli BT operatiflerini hedef alan bir operasyonda, Ballena Azul LTD adında hayali bir DeFi girişimi kurarak şüphelileri gerçek çalışan olarak işe aldı. Operatiflere verilen şirket dizüstü bilgisayarları aslında ANY.RUN sandbox ortamlarıydı; bu sayede uzaktan erişim araçları, yapay zeka destekli iletişim ve altyapı kullanımı içeriden gözlemlendi.
Yapay zeka güvenliğinde çarpıcı sonuçlar ortaya çıktı. Bir araştırma, öğretmen modelin belirli bir özelliği (örneğin baykuşları tercih etme) tamamen alakasız sayı dizisi üretme göreviyle bile öğrenci modele aktarabildiğini gösterdi; veri kümesinden ilgili içerikler filtrelense dahi bu sublime öğrenme etkisinin ortadan kalkmadığı ve tercih oranının %12'den %60'ın üzerine çıktığı gözlemlendi. Ayrıca, sınır modellerin gizli akıl yürütme izlerinin API'lerdeki bir güvenlik açığı kullanılarak çalınabildiği ve bazı modellerde bu süreçlerin veri sızıntılarına yol açabileceği raporlandı.
Mobil güvenlikte ise araştırmacılar kötü amaçlı SIM kartların AT komutları aracılığıyla telefonları kapanmaya, dosya çalmaya veya 2G'ye düşmeye zorlayabildiğini tespit etti; test edilen 26 cihazdan dokuzunun bu saldırıya açık olduğu belirtildi.
Altyapı ve performans alanında dikkat çeken gelişmeler yaşandı. Apple Silicon macOS sanal makinelerinde, misafir GPU'nun eksik raporladığı Metal yeteneklerini düzelten bir shim sayesinde llama.cpp çıkarım performansı 11 ila 16 kat artırıldı. Mistral AI ise Avrupa'da yapay zeka egemenliğini somutlaştıracak büyük bir plan açıkladı; 2027'ye kadar 200 megawatt, 2030'a kadar 1 gigawatt hesaplama kapasitesine ulaşmayı ve bölgesel altyapı seçenekleriyle 'Priority Tier' sunmayı hedefliyor.
Açık model ekosisteminde Loka ve Arcee AI, bilimsel soruları araştırmak için araç kullanabilen ve kanıtları değerlendirerek çıkarımlar yapabilen bir model geliştirdi. Pratik mühendislik konularında ise AI ajanları için çok kiracılı bellek yönetimi tasarımlarını ele alan bir yazı dizisi başlarken, Linux'ta seccomp ve yetki katmanlarının derin savunma için nasıl birleştirilebileceği incelendi; Stock+ uygulamasının OneSignal'a geçişi ise bildirim güvenilirliğini artıran mimari kararları beraberinde getirdi.
» İstatistikler
- Yayın
- 27
- Okunma
- 1
- Ort. puan
- 7.5
» En çok okunan
- AWS Faturamızı Kontrol Ederek 10 Kat Azalttık
- Önceki Token Tahmini ile LLM Yakın-Exact İstekte Yeniden Yapılandırma
- Açık Kaynak eBPF Volumetrik DDoS Koruması
- Güvenlik Madenciliği Raporu: Val Town'daki Zorluklar
- BdThemes WordPress Eklentilerinde Tedarik Zinciri Saldırısı
- Shipaton için OneSignal Gönderimi
- Konfigürasyon Yönetimi Operasyonel Bir Sorumluluk Haline Geldiğinde
- Ethereum İzlerini Arşiv Düğümü Olmadan Toplamak
- Apple Silicon macOS VM'lerde Llama.cpp ile 11-16x Hızlı LLM Çıkarımı
- LLM çağrıları için kayıt standartları yok, ben de bir kayıt oluşturdum
» En yüksek puan
- Diller Modelleri: Sayı Dizileri Üzerinden 'Gizli' Davranış Aktarımı
- Apple Silicon macOS VM'lerde Llama.cpp ile 11-16x Hızlı LLM Çıkarımı
- Sahte DeFi Girişimiyle Kuzey Kore'nin Sahte BT Çalışanları Ağa Düşürüldü
- Özel LLM API'lerinden Akıl Yürütme İzlerini Çalma
- Açık Modelin Bilim Yapma Yeteneği Geliştirildi
- Derin Savunma ve Linux Yetkileri: Seccomp Filtreleri Üzerine Bir İnceleme
- Shipaton için OneSignal Gönderimi
- Kötü Amaçlı SIM Kartlar Telefonları Kapatabilir ve Dosyaları Çalabilir
- Mistral AI, 2030'a kadar Avrupa'da 1 gigawatt hesaplama kapasitesi hedefliyor
- AI Ajanları için Çok Kiracılı, Çok Katmanlı Bellek Oluşturma