Production Engineering bezeichnet die Arbeit an stabil betriebenen Systemen, die Rechenleistung, Speicher und Dienste für reale Anwendungen bereitstellen. Für KI- und ML-Systeme kommen dabei zusätzliche Anforderungen aus Training, Inferenz und Datenverarbeitung hinzu. Der Inhalt betrachtet diese Aufgaben im Zusammenhang.

!Kursinhalt

!1. Anforderungen produktiver KI-Systeme
*Last, Latenz und Verfügbarkeit
*Skalierung von Training und Inferenz
*Abgrenzung zu Experimentierumgebungen

!2. Infrastruktur für ML-Workloads
*Rechen- und Speicherressourcen
*GPU- und Beschleunigerbetrieb
*Containerisierung von Modellen

!3. Deployment-Muster
*Online- und Batch-Inferenz
*Blue-Green- und Canary-Rollouts
*Rollback-Strategien

!4. Betrieb und Beobachtbarkeit
*Logs, Metriken und Traces
*Kapazitätsplanung
*Wartungsfenster und Updates

!Berufliche Relevanz

*Übergang von Experimenten zu produktiven Systemen
*Verbindung von Software- und ML-Betrieb
*Strukturierter Umgang mit Last und Ausfällen