Modul 1: Grundlagen der KI-Systemarchitektur und Bedrohungslandschaft
Architektur moderner KI-Systeme: Analyse der Komponenten von Machine Learning Pipelines, von der Datenbeschaffung über das Modelltraining bis hin zur Inferenz, visualisiert durch interaktive Online-Diagramme.
Spezifische Angriffsvektoren auf KI: Untersuchung von Bedrohungen wie Data Poisoning, Model Inversion und Evasion Attacks, veranschaulicht durch browserbasierte Fallstudien.
Sicherheitsstandards und Frameworks: Anwendung von Richtlinien wie dem MITRE ATLAS (Adversarial Threat Landscape for AI Systems) zur systematischen Erfassung von KI-spezifischen Schwachstellen.
Risikobewertung von KI-Modellen: Identifikation und Klassifizierung von Sicherheitsrisiken in bestehenden KI-Implementierungen unter Verwendung frei zugänglicher Assessment-Tools.
Online Hands-on Lab: Durchführung einer initialen Bedrohungsmodellierung für eine fiktive KI-Anwendung. Nutzung von Google Colab zur Analyse von Architekturdiagrammen und Identifikation potenzieller Angriffsflächen anhand des MITRE ATLAS Frameworks.
Modul 2: Auditierung von Trainingsdaten und Datenpipelines
Integrität von Trainingsdaten: Methoden zur Überprüfung der Herkunft, Qualität und Unverfälschtheit von Datensätzen, analysiert anhand von Open-Source-Datenquellen.
Erkennung von Data Poisoning: Identifikation von manipulierten Datenpunkten, die darauf abzielen, das Verhalten des KI-Modells zu kompromittieren, trainiert in kostenfreien Cloud-Umgebungen.
Datenschutz und Anonymisierung: Auditierung von Verfahren zur Wahrung der Privatsphäre in Trainingsdaten, wie Differential Privacy, mithilfe frei zugänglicher Python-Bibliotheken.
Sicherheit der Dateninfrastruktur: Überprüfung der Zugriffskontrollen und Verschlüsselungsmechanismen innerhalb der Datenpipeline in browserbasierten Jupyter-Notebooks.
Online Hands-on Lab: Auditierung eines bereitgestellten Datensatzes auf potenzielle Poisoning-Angriffe. Einsatz von Python (Pandas, Scikit-learn) via Google Colab zur statistischen Analyse und Identifikation von Anomalien in den Trainingsdaten.
Modul 3: Sicherheit von KI-Modellen und Algorithmen
Robustheit von Machine Learning Modellen: Bewertung der Widerstandsfähigkeit von Algorithmen gegenüber Adversarial Examples und Evasion Attacks unter Nutzung von Open-Source-Frameworks.
Model Extraction und Inversion: Analyse von Schwachstellen, die es Angreifern ermöglichen, das Modell zu kopieren oder sensible Trainingsdaten zu rekonstruieren, demonstriert in sicheren Online-Sandbox-Umgebungen.
Erklärbarkeit und Transparenz (XAI): Auditierung der Nachvollziehbarkeit von KI-Entscheidungen zur Erkennung von verstecktem Fehlverhalten oder Bias, unterstützt durch quelloffene XAI-Tools.
Sichere Modellbereitstellung: Überprüfung der Sicherheitsmechanismen beim Deployment von KI-Modellen, einschließlich Container-Sicherheit und API-Schutz.
Online Hands-on Lab: Durchführung eines simulierten Evasion-Angriffs auf ein Bildklassifizierungsmodell. Nutzung der kostenfreien Adversarial Robustness Toolbox (ART) in einer Cloud-Instanz zur Bewertung der Modellrobustheit und Implementierung von Gegenmaßnahmen.
Modul 4: Auditierung von LLMs und Generativer KI
Spezifische Risiken von Large Language Models: Untersuchung von Bedrohungen wie Prompt Injection, Jailbreaking und Data Leakage bei generativen KI-Systemen.
Sicherheitsüberprüfung von Prompts: Auditierung von Eingabevalidierungs- und Filtermechanismen zur Verhinderung bösartiger Prompts mithilfe von Open-Source-Analysewerkzeugen.
Halluzinationen und Fehlinformationen: Bewertung der Zuverlässigkeit von LLM-Ausgaben und Implementierung von Kontrollmechanismen zur Reduzierung von Falschinformationen in browserbasierten Umgebungen.
Integration von LLMs in Unternehmensprozesse: Überprüfung der Sicherheitsarchitektur bei der Anbindung von generativer KI an interne Datenbanken und APIs.
Online Hands-on Lab: Auditierung einer simulierten LLM-Anwendung auf Prompt Injection Schwachstellen. Entwicklung und Test von Abwehrmechanismen unter Verwendung kostenfreier Hugging Face Modelle und Python-Skripte im Browser.
Modul 5: Sicherheit der KI-Infrastruktur und MLOps
Sicherheit in der MLOps-Pipeline: Auditierung von CI/CD-Prozessen für KI-Modelle, einschließlich Code-Review, automatisierten Sicherheitstests und Versionskontrolle.
Container- und Cloud-Sicherheit: Überprüfung der Konfiguration von Docker-Containern und Cloud-Diensten, die für das Training und Hosting von KI-Modellen genutzt werden, analysiert an sicheren, frei zugänglichen Umgebungen.
Zugriffsmanagement und Authentifizierung: Bewertung von IAM-Richtlinien (Identity and Access Management) für KI-Ressourcen und APIs mittels quelloffener Audit-Skripte.
Überwachung und Logging: Auditierung der Implementierung von Monitoring-Lösungen zur Erkennung von Anomalien und Sicherheitsvorfällen im laufenden KI-Betrieb.
Online Hands-on Lab: Durchführung eines Sicherheitsaudits einer simulierten MLOps-Umgebung. Nutzung von Open-Source-Tools wie Trivy zur Schwachstellenanalyse von Container-Images und Überprüfung von Cloud-Konfigurationen direkt im Browser.
Modul 6: Compliance, Ethik und rechtliche Rahmenbedingungen
KI-Regularien und Gesetze: Analyse aktueller und kommender rechtlicher Anforderungen an KI-Systeme, wie dem EU AI Act, und deren Auswirkungen auf Sicherheitsaudits.
Ethische KI-Prinzipien: Auditierung von KI-Systemen auf Fairness, Vermeidung von Diskriminierung und Einhaltung ethischer Richtlinien unter Nutzung quelloffener Bewertungsframeworks.
Datenschutz-Compliance (DSGVO/GDPR): Überprüfung der Einhaltung datenschutzrechtlicher Vorgaben bei der Verarbeitung personenbezogener Daten durch KI-Modelle.
Dokumentation und Reporting: Erstellung von revisionssicheren Audit-Berichten und Dokumentationen zur Nachweisbarkeit der KI-Sicherheit und Compliance.
Online Hands-on Lab: Erstellung einer Compliance-Checkliste für ein fiktives KI-Projekt basierend auf dem EU AI Act. Nutzung von browserbasierten Kollaborationstools zur Dokumentation der Audit-Ergebnisse und Ableitung von Handlungsempfehlungen.
Modul 7: Incident Response und Forensik für KI-Systeme
KI-spezifische Incident Response Pläne: Entwicklung und Auditierung von Prozessen zur Reaktion auf Sicherheitsvorfälle, die KI-Modelle oder Trainingsdaten betreffen, simuliert in sicheren Online-Umgebungen.
Forensische Analyse von KI-Angriffen: Methoden zur Untersuchung von kompromittierten KI-Systemen, einschließlich der Analyse von Logs, Modellgewichten und Eingabedaten, demonstriert an Open-Source-Tools.
Wiederherstellung und Remediation: Strategien zur Bereinigung von manipulierten Modellen und Daten sowie zur Wiederherstellung des sicheren Betriebs nach einem Vorfall.
Integration in bestehende SOC-Prozesse: Überprüfung der Anbindung von KI-spezifischen Alarmen und Response-Aktionen an traditionelle Security Operations Center.
Online Hands-on Lab: Durchführung einer forensischen Untersuchung eines simulierten Data Poisoning Vorfalls. Analyse von Log-Dateien und Modell-Metadaten in einer kostenfreien Jupyter-Umgebung zur Rekonstruktion des Angriffsablaufs.
Modul 8: Abschluss-Audit und Zertifizierungsvorbereitung
Ganzheitliche Audit-Methodik: Zusammenführung der erlernten Techniken zu einem umfassenden Audit-Prozess für komplexe KI-Systeme.
Kommunikation von Audit-Ergebnissen: Präsentation von Sicherheitsrisiken und Empfehlungen an technische Teams und das Management, umgesetzt mit kostenfreien Visualisierungstools.
Kontinuierliches Auditing: Konzepte zur Etablierung von dauerhaften Sicherheitsüberprüfungen im Lebenszyklus von KI-Anwendungen, konfiguriert in Open-Source-Plattformen.
Best Practices und Zukunftsausblick: Diskussion aktueller Trends in der KI-Sicherheit…