Schița de curs

Introducere în implementarea producției

  • Principalele provocări în implementarea modelelor bine reglate
  • Diferențe între mediile de dezvoltare și producție
  • Instrumente și platforme pentru implementarea modelelor

Pregătirea modelelor pentru implementare

  • Exportul modelelor în formate standard (ONNX, TensorFlow SavedModel, etc.)
  • Optimizarea modelelor pentru latență și debit
  • Testarea modelelor pe cazuri limită și date din lumea reală

Containerizarea pentru implementarea modelelor

  • Introducere în Docker
  • Crearea de imagini Docker pentru modele ML
  • Cele mai bune practici pentru securitatea și eficiența containerelor

Scalarea implementărilor cu Kubernetes

  • Introducere în Kubernetes pentru sarcini de lucru AI
  • Configurarea clusterelor Kubernetes pentru găzduirea modelelor
  • Echilibrarea sarcinii și scalarea orizontală

Monitorizarea și întreținerea modelelor

  • Implementarea monitorizării cu Prometheus și Grafana
  • Înregistrarea automată pentru urmărirea erorilor și performanță
  • Conducte de reantrenare pentru driftul și actualizările modelului

Asigurarea securității în producție

  • Securizarea API-urilor pentru inferența modelelor
  • Mecanisme de autentificare și autorizare
  • Abordarea preocupărilor legate de confidențialitatea datelor

Studii de caz și laboratoare practice

  • Implementarea unui model de analiză a sentimentelor
  • Scalarea unui serviciu de traducere automată
  • Implementarea monitorizării pentru modelele de clasificare a imaginilor

Rezumat și pași următori

Cerințe

  • Înțelegere profundă a fluxurilor de lucru de învățare automată
  • Experiență în reglarea fină a modelelor ML
  • Familiaritate cu principiile DevOps sau MLOps

Audiență

  • DevOps ingineri
  • MLOps practicieni
  • Specialiști în implementarea AI
 21 ore

Numărul de participanți


Pret per participant

Upcoming Courses

Categorii înrudite