Modul 1: Grundlagen der KI-Ökosystem-Resilienz
Architektur moderner KI-Systeme: Analyse der Komponenten von Machine Learning Pipelines und deren Schwachstellen, visualisiert durch interaktive Online-Diagramme.
Bedrohungslandschaft für KI-Ökosysteme: Identifikation spezifischer Angriffsvektoren wie Data Poisoning und Model Inversion, veranschaulicht durch browserbasierte Fallstudien.
Resilienz-Konzepte in der KI: Strategien zur Erhöhung der Robustheit von Modellen und Dateninfrastrukturen unter ausschließlicher Verwendung kostenfreier Open-Source-Frameworks.
Risikobewertung und Compliance: Integration von KI-spezifischen Sicherheitsstandards in bestehende Risikomanagement-Prozesse direkt im Browser mittels Python-Notebooks.
Online Hands-on Lab: Aufbau einer kostenfreien Open-Source-Risikoanalyse-Umgebung. Nutzung von Google Colab und frei verfügbaren Threat-Intelligence-Feeds zur Modellierung von Angriffsvektoren mit Open-Source-Bibliotheken wie Pandas und NetworkX.
Modul 2: Absicherung von Trainingsdaten und Pipelines
Datenintegrität und Provenienz: Sicherstellung der Unverfälschtheit von Trainingsdaten durch kryptografische Verfahren, analysiert anhand von Open-Source-Datensätzen.
Erkennung von Data Poisoning: Identifikation manipulierter Datenpunkte durch statistische Anomalieerkennung, trainiert in kostenfreien Cloud-Umgebungen.
Sichere Datenpipelines: Architektur robuster ETL-Prozesse zur Vermeidung von Datenlecks und Manipulationen mithilfe frei zugänglicher Data-Engineering-Tools.
Datenschutz in der KI: Implementierung von Differential Privacy und föderiertem Lernen durch KI-gestützte Simulationen in browserbasierten Jupyter-Notebooks.
Online Hands-on Lab: Implementierung eines Differential-Privacy-Modells in Python (PyTorch) via Google Colab. Training des Modells mit kostenfreien, anonymisierten Datensätzen zur Sicherstellung des Datenschutzes.
Modul 3: Robustheit von Machine Learning Modellen
Adversarial Machine Learning: Verständnis von Evasion- und Poisoning-Angriffen auf trainierte Modelle unter Nutzung von Open-Source-Frameworks (z.B. Adversarial Robustness Toolbox).
Modell-Härtungstechniken: Anwendung von Adversarial Training und Defensive Distillation zur Erhöhung der Modellrobustheit in kostenfreien Online-Sandbox-Umgebungen.
Erkennung von Modell-Drift: Überwachung der Modellleistung zur Identifikation von Konzeptverschiebungen und potenziellen Angriffen, demonstriert an quelloffenen Monitoring-Tools.
Sichere Modell-Bereitstellung: Architektur sicherer Inferenz-APIs und Schutz vor Model Extraction Attacks, simuliert in sicheren, browserbasierten Linux-Containern.
Online Hands-on Lab: Konfiguration einer Open-Source-Modell-Monitoring-Lösung in einer kostenfreien Cloud-Instanz. Training eines robusten Klassifikators zur Erkennung von Adversarial Examples anhand frei verfügbarer Bilddatensätze.
Modul 4: Sicherheit von Large Language Models (LLMs)
Schwachstellen in LLMs: Analyse von Prompt Injection, Jailbreaking und Data Leakage in generativen KI-Modellen mithilfe von Open-Source-Analytics-Tools.
Absicherung von Prompts: Entwicklung von Filtern und Validierungsmechanismen zur Verhinderung bösartiger Eingaben durch Python-basierte Datenanalyse im Browser.
Sichere Integration von LLMs: Architektur von RAG-Systemen (Retrieval-Augmented Generation) mit Fokus auf Zugriffskontrolle, programmiert in kostenfreien Jupyter-Umgebungen.
Erkennung von LLM-Missbrauch: Identifikation von automatisierten Angriffen und Missbrauchsmustern anhand anonymisierter Open-Source-Logfiles.
Online Hands-on Lab: Analyse von LLM-Interaktionen mit dem kostenfreien LangChain-Framework. Konfiguration von Sicherheitsrichtlinien in einer Open-Source-Umgebung zur Aufdeckung von Prompt-Injection-Versuchen.
Modul 5: KI-gestützte Incident Response im Ökosystem
Automatisierte Bedrohungserkennung: Einsatz von KI zur Identifikation von Anomalien in der KI-Infrastruktur, analysiert an sicheren, frei zugänglichen Log-Daten.
KI-gestützte Forensik: Analyse von kompromittierten Modellen und Datenpipelines zur Rekonstruktion von Angriffen mittels quelloffener Python-Skripte.
Entwicklung von Playbooks: Erstellung automatisierter Reaktionspläne für KI-spezifische Vorfälle, trainiert auf kostenfreien GPU-Instanzen (z.B. Colab).
Integration in bestehende SOCs: Anbindung von KI-Sicherheitswarnungen an traditionelle Security Operations Center.
Online Hands-on Lab: Nutzung einer cloudbasierten, kostenfreien Wazuh-Instanz. Training eines PyTorch-basierten Modells im Browser zur Klassifizierung von Angriffen auf die KI-Infrastruktur anhand von Log-Daten.
Modul 6: Governance und Compliance für KI-Systeme
KI-Regulierung und Standards: Überblick über aktuelle Gesetze (z.B. AI Act) und Frameworks (z.B. NIST AI RMF) aus frei zugänglichen Quellen.
Auditing von KI-Modellen: Überprüfung von Modellen auf Fairness, Bias und Erklärbarkeit unter Nutzung quelloffener Evaluierungs-Tools.
Transparenz und Erklärbarkeit (XAI): Einsatz von Methoden wie SHAP und LIME zur Interpretation von Modellentscheidungen zur proaktiven Risikoaufklärung.
Dokumentation und Reporting: Automatisierte Erstellung von Model Cards und Compliance-Berichten zur Einspeisung in kostenfreie Governance-Plattformen.
Online Hands-on Lab: Entwicklung eines XAI-Skripts mit kostenfreien Scikit-learn-Bibliotheken im Browser. Automatisierte Auswertung eines Modells auf Bias und Einspeisung der Ergebnisse in eine cloudbasierte Open-Source-Dokumentations-Instanz.
Modul 7: Red Teaming für KI-Ökosysteme
Grundlagen des AI Red Teaming: Methodik zur proaktiven Identifikation von Schwachstellen in KI-Systemen, simuliert in sicheren Online-Umgebungen.
Simulation von Angriffen: Durchführung von Penetrationstests auf ML-Pipelines und Modelle, demonstriert an Open-Source-Umgebungen.
Automatisierte Schwachstellenscans: Einsatz von Tools zur Identifikation von Fehlkonfigurationen in der KI-Infrastruktur, analysiert in isolierten, browserbasierten Containern.
Entwicklung von Gegenmaßnahmen: Ableitung von Sicherheitsverbesserungen basierend auf Red-Teaming-Ergebnissen mit quelloffenen Frameworks.
Online Hands-on Lab: Durchführung eines simulierten Angriffs auf eine ML-Pipeline unter Verwendung des kostenfreien, quelloffenen Counterfit-Frameworks direkt im Browser. Anschließende Härtung der Infrastruktur.
Modul 8: Zukunftssichere KI-Architekturen
Zero Trust für KI: Implementierung von Zero-Trust-Prinzipien in der Kommunikation zwischen KI-Komponenten in Open-Source-Architekturen.
Dezentrale KI-Systeme: Sicherheitsaspekte von Edge AI und föderiertem Lernen, umgesetzt mit kostenfreien Tools.
Quantenresistente KI: Vorbereitung von KI-Ökosystemen auf zukünftige Bedrohungen durch Quantencomputer, konfiguriert in Open-Source-Plattformen.
Kontinuierliche Resilienz: Aufbau einer Kultur der kontinuierlichen Verbesserung und Anpassung an neue Bedrohungen, simuliert in einer cloudbasierten Übungsumgebung.
Online Hands-on Lab: Integration von Zero-Trust-Richtlinien in eine kostenfreie Open-Source-Kubernetes-Umgebung. Erstellung eines automatisierten Deployments im Browser zur sicheren Bereitstellung von KI-Modellen.