Schulungsübersicht

Einführung in die Produktionsbereitstellung

  • Die wichtigsten Herausforderungen bei der Bereitstellung fein abgestimmter Modelle
  • Unterschiede zwischen Entwicklungs- und Produktionsumgebungen
  • Werkzeuge und Plattformen für den Einsatz von Modellen

Vorbereiten von Modellen für die Bereitstellung

  • Exportieren von Modellen in Standardformaten (ONNX, TensorFlow SavedModel, usw.)
  • Optimieren von Modellen für Latenz und Durchsatz
  • Testen von Modellen anhand von Randfällen und realen Daten

Containerisierung für die Modellbereitstellung

  • Einführung in Docker
  • Erstellen von Docker-Images für ML-Modelle
  • Bewährte Verfahren für Containersicherheit und -effizienz

Skalierung von Einsätzen mit Kubernetes

  • Einführung in Kubernetes für KI-Workloads
  • Einrichten von Kubernetes-Clustern für das Modell-Hosting
  • Lastausgleich und horizontale Skalierung

Modellüberwachung und -wartung

  • Implementierung der Überwachung mit Prometheus und Grafana
  • Automatisierte Protokollierung für Fehlerverfolgung und Leistung
  • Umschulung von Pipelines für Modelldrift und Aktualisierungen

Gewährleistung der Sicherheit in der Produktion

  • Absicherung von APIs für die Modellinferenz
  • Authentifizierungs- und Autorisierungsmechanismen
  • Berücksichtigung von Datenschutzbedenken

Fallstudien und praktische Übungen

  • Einsatz eines Stimmungsanalysemodells
  • Skalierung eines maschinellen Übersetzungsdienstes
  • Implementierung einer Überwachung für Bildklassifizierungsmodelle

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Ausgeprägtes Verständnis von Arbeitsabläufen des maschinellen Lernens
  • Erfahrung mit der Feinabstimmung von ML-Modellen
  • Vertrautheit mit DevOps- oder MLOps-Prinzipien

Zielgruppe

  • DevOps Ingenieure
  • MLOps Praktiker
  • KI-Einsatzspezialisten
 21 Stunden

Teilnehmerzahl


Price per participant (excl. VAT)

Kommende Kurse

Verwandte Kategorien