Modul 1: Grundlagen der Adversarial AI und Bedrohungslandschaft
Einführung in Adversarial Machine Learning: Verständnis der grundlegenden Konzepte, wie Angreifer maschinelle Lernmodelle manipulieren können, veranschaulicht durch interaktive, browserbasierte Demonstrationen.

Taxonomie von KI-Angriffen: Detaillierte Analyse von Evasion, Poisoning, Extraction und Inference Attacks auf KI-Systeme, vermittelt über frei zugängliche Fallstudien.

Die Rolle von Open-Source in der KI-Sicherheit: Überblick über die wichtigsten quelloffenen Frameworks und Bibliotheken zur Analyse und Verteidigung von ML-Modellen.

Risikobewertung von KI-Modellen: Methoden zur Identifikation von Schwachstellen in neuronalen Netzen und Entscheidungsbäumen unter Verwendung cloudbasierter Analysewerkzeuge.

Online Hands-on Lab: Erste Schritte mit der Adversarial Robustness Toolbox (ART) in Google Colab. Analyse eines vortrainierten Bildklassifikators auf grundlegende Schwachstellen mittels kostenfreier Open-Source-Datensätze.

Modul 2: Evasion Attacks und Verteidigungsstrategien
Mechanismen von Evasion Attacks: Wie minimale, für den Menschen unsichtbare Störungen (Perturbationen) die Vorhersagen von KI-Modellen verfälschen, analysiert in sicheren Online-Umgebungen.

White-Box vs. Black-Box Angriffe: Unterschiede in der Vorgehensweise von Angreifern mit und ohne Kenntnis der Modellarchitektur, demonstriert an quelloffenen Modellen.

Fast Gradient Sign Method (FGSM) und Projected Gradient Descent (PGD): Mathematische Grundlagen und praktische Anwendung dieser verbreiteten Angriffstechniken in browserbasierten Jupyter-Notebooks.

Adversarial Training als Verteidigung: Integration von manipulierten Beispielen in den Trainingsprozess zur Erhöhung der Modellrobustheit, umgesetzt mit PyTorch.

Online Hands-on Lab: Implementierung von FGSM- und PGD-Angriffen auf ein MNIST-Klassifikationsmodell via Google Colab. Anschließendes Adversarial Training zur Härtung des Modells gegen diese spezifischen Angriffe.

Modul 3: Data Poisoning und Backdoor Attacks
Konzepte des Data Poisoning: Manipulation von Trainingsdaten zur gezielten Beeinflussung der Modellleistung, untersucht anhand von Open-Source-Datensätzen.

Backdoor Attacks in neuronalen Netzen: Einbringen versteckter Trigger während des Trainings, die später spezifische Fehlklassifikationen auslösen, simuliert in kostenfreien Cloud-Instanzen.

Erkennung von Poisoning-Versuchen: Statistische Methoden und Anomalieerkennung zur Identifikation manipulierter Trainingsdaten vor dem Modelltraining.

Sanitization von Trainingsdaten: Techniken zur Bereinigung und Verifizierung von Datensätzen unter Verwendung quelloffener Datenanalyse-Tools.

Online Hands-on Lab: Simulation eines Backdoor-Angriffs auf ein Textklassifikationsmodell mit Hugging Face Transformers. Entwicklung eines Python-Skripts zur Erkennung und Entfernung der manipulierten Datenpunkte im Browser.

Modul 4: Model Extraction und Intellectual Property Diebstahl
Grundlagen der Model Extraction: Wie Angreifer durch gezielte API-Abfragen die Funktionalität eines proprietären Modells rekonstruieren, analysiert an simulierten Endpunkten.

Risiken für geistiges Eigentum und Datenschutz: Die wirtschaftlichen und rechtlichen Konsequenzen des Diebstahls von KI-Modellen, diskutiert anhand öffentlicher Berichte.

Techniken zur Modellrekonstruktion: Einsatz von Surrogate Models und Transfer Learning zur Nachbildung von Zielmodellen in kostenfreien Online-Umgebungen.

Verteidigung gegen Extraction Attacks: Implementierung von API-Rate-Limiting, Watermarking und Störrauschen zur Erschwerung der Modellrekonstruktion.

Online Hands-on Lab: Durchführung eines simulierten Model Extraction Angriffs auf eine bereitgestellte, quelloffene API. Implementierung von Abwehrmechanismen wie dynamischem Rauschen in den API-Antworten mittels Python.

Modul 5: Privacy Attacks: Inversion und Membership Inference
Membership Inference Attacks: Methoden zur Feststellung, ob ein spezifischer Datenpunkt Teil des Trainingsdatensatzes eines Modells war, untersucht mit Open-Source-Tools.

Model Inversion Attacks: Rekonstruktion sensibler Trainingsdaten (z.B. Gesichter) aus den Vorhersagen eines Modells, demonstriert in sicheren, browserbasierten Containern.

Differential Privacy in Machine Learning: Mathematische Konzepte zum Schutz der Privatsphäre von Trainingsdaten und deren Implementierung in KI-Modellen.

Privacy-Preserving Machine Learning (PPML): Überblick über Techniken wie Federated Learning und Homomorphic Encryption unter Nutzung quelloffener Frameworks.

Online Hands-on Lab: Analyse eines Modells auf Anfälligkeit für Membership Inference Attacks mit der Open-Source-Bibliothek TensorFlow Privacy in Google Colab. Anwendung von Differential Privacy Techniken zur Absicherung des Modells.

Modul 6: Robustheitstests und Zertifizierung von KI-Modellen
Methoden des Robustness Testing: Systematische Evaluierung von KI-Modellen gegen eine Vielzahl von Adversarial Attacks unter Verwendung standardisierter Metriken.

Automatisierte Schwachstellen-Scans für KI: Einsatz von Open-Source-Tools zur kontinuierlichen Überprüfung von Modellen in CI/CD-Pipelines.

Zertifizierung und Compliance: Aktuelle Standards und Frameworks zur Bewertung der Sicherheit und Vertrauenswürdigkeit von KI-Systemen.

Erstellung von Robustness Reports: Dokumentation der Testergebnisse und Ableitung von Handlungsempfehlungen für Entwickler und Security-Teams.

Online Hands-on Lab: Durchführung eines umfassenden Robustheitstests eines Bildklassifikators mit der Adversarial Robustness Toolbox (ART). Generierung eines detaillierten Reports über die identifizierten Schwachstellen direkt im Browser.

Modul 7: KI-Sicherheit in der Produktion (MLSecOps)
Integration von Sicherheit in den ML-Lifecycle: Konzepte von Machine Learning Security Operations (MLSecOps) und deren Bedeutung für produktive KI-Systeme.

Überwachung von KI-Modellen zur Laufzeit: Erkennung von Model Drift und Adversarial Inputs in Echtzeit mithilfe von Open-Source-Monitoring-Tools.

Incident Response für KI-Systeme: Entwicklung von Playbooks für den Umgang mit erfolgreichen Angriffen auf maschinelle Lernmodelle.

Sicherung der ML-Infrastruktur: Best Practices für den Schutz von Trainingsumgebungen, Model Registries und Inference-APIs in der Cloud.

Online Hands-on Lab: Aufbau einer Monitoring-Pipeline für ein produktives ML-Modell mit Open-Source-Tools wie Prometheus und Grafana. Konfiguration von Alarmen für anomale Modellvorhersagen in einer kostenfreien Cloud-Umgebung.

Modul 8: Zukünftige Entwicklungen und Advanced Defense Concepts
Generative KI und neue Angriffsvektoren: Analyse von Prompt Injection und Jailbreaking bei Large Language Models (LLMs) unter Nutzung frei zugänglicher Modelle.

Verteidigung von LLMs: Techniken zur Absicherung von generativen Modellen gegen Manipulation und Missbrauch, demonstriert an Open-Source-LLMs.

Neuro-symbolische KI und formale Verifikation: Ansätze zur mathematischen Beweisbarkeit der Sicherheit von KI-Systemen.

Die Rolle der KI-Sicherheit in der globalen Cyber-Strategie: Ausblick auf zukünftige Bedrohungen und die Notwendigkeit kontinuierlicher Forschung und Entwicklung.

Online Hands-on Lab: Untersuchung von Prompt Injection Schwachstellen an einem lokalen, quelloffenen LLM (z.B. via Hugging Face). Implementierung von Input-Validierungs- und Filtermechanismen zur Abwehr dieser Angriffe im Browser.