Im Arbeitsalltag von Entwickler-Rollen nimmt AI Threat Modeling an Bedeutung zu, weil immer mehr Anwendungen KI-Komponenten enthalten. Wer methodisch arbeitet, kann Risiken früh erkennen und in das Design einfließen lassen. Der Kurs zeigt einen praxisnahen Threat-Modeling-Ansatz für KI-Anwendungen.

!Kursinhalt

!1. Konzept des Threat Modelings
*Bekannte Modelle wie STRIDE
*Anpassung an KI-Komponenten
*Verzahnung mit Designentscheidungen

!2. Identifikation typischer Bedrohungen
*Datenmanipulation und Vergiftung
*Modell- und Promptangriffe
*Missbrauch über Werkzeuge

!3. Bewertung und Maßnahmen
*Risiko- und Auswirkungsabschätzung
*Schutzmaßnahmen im Design
*Verbindung mit Tests und Reviews

!4. Pflege im Lebenszyklus
*Aktualisierung bei Änderungen
*Lessons Learned aus Vorfällen
*Verzahnung mit Sicherheitsfunktionen

!Berufliche Relevanz

*Frühzeitige Reduktion KI-spezifischer Risiken
*Stärkere Verbindung von Engineering und Security
*Profilierung als verantwortungsvoll handelnde:r Entwickler:in