Modul 1: Grundlagen der KI-Modellsicherheit
Bedrohungslandschaft für KI-Systeme: Einführung in die spezifischen Schwachstellen von Machine Learning Modellen und die Motivation von Angreifern, veranschaulicht durch interaktive Online-Dashboards.
Taxonomie von Angriffen auf KI: Klassifizierung von Angriffsmethoden wie Evasion, Poisoning, Inversion und Extraction, analysiert anhand von Open-Source-Dokumentationen.
Sicherheitsanforderungen im ML-Lebenszyklus: Integration von Security-by-Design-Prinzipien in die Phasen der Datensammlung, des Trainings und der Bereitstellung unter Verwendung kostenfreier Frameworks.
Risikobewertung von KI-Modellen: Identifikation und Quantifizierung von Sicherheitsrisiken in ML-Pipelines direkt im Browser mittels Python-Notebooks.
Online Hands-on Lab: Durchführung einer initialen Bedrohungsmodellierung für ein Bildklassifizierungsmodell. Nutzung von Google Colab und frei verfügbaren Datensätzen zur Identifikation potenzieller Angriffsvektoren mit Open-Source-Bibliotheken.
Modul 2: Evasion Attacks und Robustheit
Mechanismen von Evasion Attacks: Verständnis der Erzeugung von Adversarial Examples zur Täuschung von KI-Modellen während der Inferenzphase, analysiert anhand von Open-Source-Bilddaten.
White-Box vs. Black-Box Angriffe: Unterschiede in den Angriffsszenarien und die Nutzung von Gradienten-basierten Methoden (z.B. FGSM, PGD), trainiert in kostenfreien Cloud-Umgebungen.
Auswirkungen auf verschiedene Datenmodalitäten: Analyse von Evasion-Techniken in den Bereichen Computer Vision, Natural Language Processing und tabellarischen Daten mithilfe frei zugänglicher Modelle.
Bewertung der Modellrobustheit: Metriken und Verfahren zur Messung der Widerstandsfähigkeit von KI-Modellen gegen Adversarial Examples in browserbasierten Jupyter-Notebooks.
Online Hands-on Lab: Implementierung eines Fast Gradient Sign Method (FGSM) Angriffs in Python (PyTorch) via Google Colab. Generierung von Adversarial Examples zur Täuschung eines vortrainierten ResNet-Modells.
Modul 3: Data Poisoning und Backdoor Attacks
Grundlagen des Data Poisoning: Manipulation von Trainingsdaten zur Beeinträchtigung der Modellintegrität und -verfügbarkeit unter Nutzung von Open-Source-Datensätzen.
Gezielte vs. Ungezielte Angriffe: Differenzierung zwischen der Reduzierung der allgemeinen Genauigkeit und der Implementierung spezifischer Fehlklassifikationen in kostenfreien Online-Umgebungen.
Backdoor-Angriffe auf neuronale Netze: Einbettung von versteckten Triggern in KI-Modelle während des Trainingsprozesses, demonstriert an quelloffenen Frameworks.
Erkennung von vergifteten Daten: Statistische Methoden und Anomalieerkennung zur Identifikation manipulierter Trainingsinstanzen, simuliert in sicheren, browserbasierten Containern.
Online Hands-on Lab: Durchführung eines Data Poisoning Angriffs auf ein Support Vector Machine (SVM) Modell. Nutzung von Scikit-learn in einer kostenfreien Cloud-Instanz zur Analyse der Auswirkungen auf die Entscheidungsgrenzen.
Modul 4: Model Inversion und Data Extraction
Risiken für die Vertraulichkeit von Trainingsdaten: Verständnis der Mechanismen, durch die Angreifer sensible Informationen aus trainierten Modellen rekonstruieren können, mithilfe von Open-Source-Tools.
Model Inversion Attacks: Techniken zur Wiederherstellung von Eingabedaten oder Merkmalen basierend auf den Ausgaben des Modells durch Python-basierte Analyse im Browser.
Membership Inference Attacks: Bestimmung, ob ein spezifischer Datenpunkt Teil des Trainingsdatensatzes war, programmiert in kostenfreien Jupyter-Umgebungen.
Model Extraction und Stealing: Replikation der Funktionalität eines proprietären Modells durch systematische Abfragen anhand anonymisierter Open-Source-APIs.
Online Hands-on Lab: Simulation eines Membership Inference Angriffs auf ein Klassifizierungsmodell. Konfiguration von Abfragen in einer Open-Source-Umgebung zur Bewertung des Privatsphäre-Risikos des Modells.
Modul 5: Verteidigungsstrategien und Härtung
Adversarial Training: Integration von Adversarial Examples in den Trainingsprozess zur Erhöhung der Modellrobustheit, analysiert an sicheren, frei zugänglichen Modellen.
Defensive Distillation: Techniken zur Glättung der Entscheidungsgrenzen von neuronalen Netzen mittels quelloffener Python-Skripte.
Input Transformation und Sanitization: Vorverarbeitung von Eingabedaten zur Neutralisierung potenzieller Adversarial Perturbations, trainiert auf kostenfreien GPU-Instanzen (z.B. Colab).
Ensemble-Methoden zur Absicherung: Kombination mehrerer Modelle zur Reduzierung der Anfälligkeit gegenüber spezifischen Angriffen.
Online Hands-on Lab: Implementierung von Adversarial Training für ein Convolutional Neural Network (CNN). Nutzung der kostenfreien Adversarial Robustness Toolbox (ART) im Browser zur Härtung des Modells gegen Evasion Attacks.
Modul 6: Privacy-Preserving Machine Learning
Konzepte des datenschutzfreundlichen maschinellen Lernens: Herausforderungen beim Training von Modellen auf sensiblen Daten aus frei zugänglichen Quellen.
Differential Privacy im ML-Kontext: Mathematische Garantien für den Schutz individueller Datenpunkte während des Modelltrainings unter Nutzung quelloffener Bibliotheken.
Federated Learning: Dezentrales Training von KI-Modellen ohne den Austausch von Rohdaten zur proaktiven Wahrung der Privatsphäre.
Homomorphic Encryption und Secure Multi-Party Computation: Kryptographische Ansätze für sicheres maschinelles Lernen zur Einspeisung in kostenfreie Plattformen.
Online Hands-on Lab: Entwicklung eines Modells mit Differential Privacy unter Verwendung von kostenfreien Bibliotheken (z.B. Opacus) im Browser. Automatisierte Auswertung des Trade-offs zwischen Privatsphäre und Modellgenauigkeit.
Modul 7: Auditing und Zertifizierung von KI-Modellen
Frameworks für KI-Sicherheit: Überblick über Standards und Richtlinien (z.B. MITRE ATLAS, OWASP Machine Learning Security Top 10), simuliert in sicheren Online-Umgebungen.
Sicherheitsaudits für ML-Pipelines: Methodische Überprüfung von Datenquellen, Trainingsprozessen und Modellarchitekturen, demonstriert an Open-Source-Projekten.
Erklärbarkeit und Interpretierbarkeit (XAI): Nutzung von Methoden wie SHAP und LIME zur Validierung von Modellentscheidungen, analysiert in isolierten, browserbasierten Containern.
Kontinuierliches Monitoring von KI-Systemen: Strategien zur Erkennung von Model Drift und Anomalien in der Produktion mit quelloffenen Frameworks.
Online Hands-on Lab: Durchführung eines Sicherheitsaudits für ein vortrainiertes Modell unter Verwendung des kostenfreien, quelloffenen MITRE ATLAS Frameworks direkt im Browser. Anschließende Dokumentation der Schwachstellen.
Modul 8: Incident Response für KI-Systeme
Spezifika von KI-Sicherheitsvorfällen: Integration von ML-spezifischen Bedrohungen in bestehende Incident Response Prozesse.
Forensische Analyse von KI-Modellen: Untersuchung von kompromittierten Modellen und manipulierten Datensätzen, umgesetzt mit kostenfreien Analyse-Tools.
Containment und Recovery Strategien: Isolierung betroffener KI-Dienste und Wiederherstellung vertrauenswürdiger Modellversionen, konfiguriert in Open-Source-Plattformen.
Automatisierte Reaktion auf KI-Angriffe: Entwicklung von Playbooks zur dynamischen Anpassung von Sicherheitsmaßnahmen, simuliert in einer cloudbasierten Übungsumgebung.
Online Hands-on Lab: Simulation eines Incident Response Prozesses nach einem erfolgreichen Data Poisoning Angriff. Erstellung eines automatisierten Playbooks im Browser zur Analyse und Wiederherstellung des Modells unter Nutzung von Open-Source-Tools.