PyTorch Fundamentals
- Tensor-Operationen und Autograd-System
- Unterschiede zu anderen Deep Learning Frameworks
- Datenverwaltung und DataLoader
- GPU-Beschleunigung und Device-Management
- Dynamische Rechengraphen vs. Statische Graphen
- Implementierung grundlegender neuronaler Netzwerke
- Aktivierungsfunktionen und Layer-Typen
- Loss-Funktionen und Optimierer
- Batch-Normalisierung und Dropout
- Training und Validierung von Modellen
- Convolutional Neural Networks (CNNs)
- Recurrent Neural Networks (RNNs und LSTMs)
- Transformer-Architekturen
- Transfer Learning und Pre-trained Models
- Custom Layer und Loss-Funktionen
- Strukturierung von PyTorch-Projekten
- Lightning Module und Trainer
- Callbacks und Logging
- Multi-GPU Training
- Experiment Tracking
- Hyperparameter-Optimierung
- Quantisierung und Pruning
- Distributed Training
- Mixed Precision Training
- Memory Management
- Model Serving mit TorchServe
- ONNX Export und Integration
- Model Versioning
- Monitoring und Logging
- Performance Optimierung
- Code-Organisation und Projektstruktur
- Effizientes Debugging von Modellen
- Testing von Deep Learning Code
- Continuous Integration/Deployment
- Documentation und Reproducibility