« Tüm yayınlar

nebius-actions: GitHub Actions ile Nebius GPU'larında Model İnce Ayarı

nebius-actions: Axolotl, vLLM ve Nebius Endpoint kullanarak GitHub Actions üzerinden uçtan uca model ince ayarı ve dağıtımı sağlayan açık kaynak araç seti.

nebius-actions, bir modeli GitHub üzerinden tetiklenen tek bir workflow ile ince ayar (fine-tuning), dağıtım (deployment) ve doğrulama adımlarından geçirmeyi hedefleyen açık kaynaklı, birleştirilebilir GitHub Actions setidir. Demo pipeline; Axolotl ile Qwen2.5-0.5B modelini wikitext üzerinde QLoRA yöntemiyle eğitiyor, LoRA adaptörlerini bir vLLM servis imajına gömüyor, bunu bir Nebius Endpoint'e dağıtıyor ve curl tabanlı bir smoke test ile doğruluyor.

Mimari beş GitHub job'ına bölünmüş: submit, wait, deploy, try ve cleanup. Job'lar arası durum (bucket adı, imaj referansı, job ID, endpoint URL) job output'ları üzerinden taşınıyor. Kimlik doğrulama tarafında uzun ömürlü sırlar yerine OIDC üzerinden basılan kısa ömürlü IAM token'ları kullanılıyor; depolama için de anlık S3 anahtarları üretiliyor, kalıcı S3 kimlik bilgisi gerekmiyor.

En kritik detay cleanup job'ının if: always() koşuluyla çalışması: workflow iptal edilse veya başarısız olsa bile endpoint ve bucket otomatik siliniyor, bu da beklenmedik bulut faturalarının önüne geçiyor. Actions'lar tek kaynak-tek action prensibiyle tasarlandığı için mühendisler bunları katı bir pipeline olarak kullanabilir veya kendi CI/CD akışlarında ayrı ayrı birleştirebilir.