LLMOps

Büyük dil modellerini kurumsal ortamda ölçeklenebilir, güvenli, izlenebilir ve maliyet etkin bir şekilde canlıya alma, izleme ve yönetme (LLM Operations) uzmanlık eğitimi.

Programın Amacı

Eğitimin Kapsamı ve Hedefleri

Büyük dil modellerini kurumsal ortamda ölçeklenebilir, güvenli, izlenebilir ve maliyet etkin bir şekilde canlıya alma, izleme ve yönetme (LLM Operations) uzmanlık eğitimi.

Hedef Kitle: DevOps mühendisleri, MLOps liderleri, kıdemli yazılım mimarları ve sistem yöneticileri.
Kazanımlar

Temel Öğrenme Çıktıları

  • LLM yaşam döngüsünü CI/CD boru hatlarına entegre etmek
  • Model çıktılarını otomatik değerlendirme (Evaluation) metrikleriyle test etmek
  • Gecikme (Latency), token maliyeti ve hata oranlarını gerçek zamanlı izlemek (Observability)
  • Model güvenliği, prompt injection engelleme ve kurumsal guardrail sistemleri kurmak
Müfredat

Eğitim Modülleri

01

Modül 1: LLMOps Prensipleri ve Mimari

Geleneksel MLOps vs. LLMOps farkları, altyapı gereksinimleri.

02

Modül 2: Değerlendirme ve Test Otomasyonu

Otomatik prompt regresyon testleri ve sentetik veriyle değerlendirme.

03

Modül 3: Gözlemlenebilirlik ve İzleme

Langfuse/Arize/W&B ile tracing, token maliyet analizi.

04

Modül 4: Güvenlik ve Guardrail Sistemleri

NeMo Guardrails, hassas veri filtreleme ve güvenlik duvarları.

05

Modül 5: Canlıya Dağıtım ve Ölçekleme

Önbellekleme (semantic cache), yük dengeleme ve SLA garantisi.

Öğrenme Yöntemi

Uygulamalı ve Sonuç Odaklı Yaklaşım

Türkiye AR-GE Vakfı eğitimleri; yalnızca teorik anlatımla sınırlı kalmayıp, katılımcıların kendi kurumsal gerçekliklerine uyarlayabileceği pratik vaka analizleri, grup çalışmaları, simülasyonlar ve şablon uygulamalarıyla desteklenmektedir.

Vaka Çalışmaları

Gerçek hayat projelerinden derlenen senaryolarla pratik deneyim.

Hazır Şablonlar

Eğitim sonrasında kurumunuzda doğrudan kullanabileceğiniz araç setleri.

Katılım Sertifikası

Programı başarıyla tamamlayanlara verilen resmi Türkiye AR-GE Vakfı belgesi.