Die Absicherung und Überwachung von KI-Systemen gehört zu den wachsenden Aufgabenfeldern in der Cybersecurity. Mit steigender Verbreitung von KI in Unternehmen werden spezielle Schutzmaßnahmen relevant. Der Inhalt betrachtet diese Aufgaben aus einer sicherheitsorientierten Perspektive.
!Kursinhalt
!1. Angriffsflächen von KI-Systemen
*Daten- und Modellangriffe
*Prompt- und Tool-Manipulationen
*Umgebung und Infrastruktur
!2. Schutz von Modellen und Daten
*Zugriffsschutz auf Modelle
*Schutz sensibler Trainingsdaten
*Absicherung von Pipelines
!3. Überwachung im Betrieb
*Protokollierung von Eingaben und Ausgaben
*Erkennung von Auffälligkeiten
*Reaktion auf Vorfälle
!4. Zusammenspiel mit ISMS
*Einbindung in bestehende Sicherheitsprozesse
*Verantwortlichkeiten und Freigaben
*Dokumentation KI-spezifischer Maßnahmen
!Berufliche Relevanz
*Spezifische Absicherung moderner KI-Anwendungen
*Brücke zwischen IT-Security und KI
*Vorbereitung auf neue Sicherheitsrollen