Ziel

Der Kurs "Cybersecurity im KI-Zeitalter" zeigt, wie KI neue Cybersecurity-Risiken schafft und gleichzeitig neue Möglichkeiten bietet, Systeme zu schützen. Diese Weiterbildung vermittelt alle Kompetenzen, die für eine sichere KI-Entwicklung und den Schutz KI-gestützter Systeme notwendig sind. Der Kurs richtet sich an AI Software Engineers, Security Engineers und Entwickler, die Cybersecurity in KI-Projekten ernst nehmen möchten. Im Seminar identifizieren und beheben Teilnehmende Sicherheitslücken in KI-Systemen.

Inhalte (Auswahl)
  • KI und Cybersecurity: neue Angriffsvektoren und Schutzmöglichkeiten

  • Prompt Injection: Angriffe auf LLMs verstehen und abwehren

  • KI-Halluzinationen als Sicherheitsrisiko: Verifizierung und Absicherung

  • Datensicherheit in KI-Systemen: Trainingsdaten, Inputs und Outputs schützen

  • Secure AI Development Lifecycle: Sicherheit von Anfang an integrieren

  • Red Teaming für KI-Systeme: Schwachstellen systematisch identifizieren

  • Compliance und Regulierung für KI: EU AI Act und Sicherheitsanforderungen

  • KI-gestützte Cyberangriffserkennung: Security durch KI verbessern

Arbeitsweise

Diese Fortbildung kombiniert Cybersecurity-Grundlagenwissen mit KI-spezifischen Sicherheitsübungen, in denen Teilnehmende reale Angriffsvektoren analysieren und Schutzmaßnahmen implementieren.

Kompetenzen (Ergebnis)
  • KI-spezifische Cybersecurity-Risiken als AI Software Engineer erkennen und beheben

  • Sichere KI-Systeme nach Secure Development Lifecycle-Prinzipien entwickeln

  • Prompt Injection und andere KI-Angriffe effektiv abwehren

  • Red Teaming für KI-Systeme eigenständig durchführen

  • EU AI Act Anforderungen an Cybersecurity in KI-Systemen umsetzen

Berufsperspektiven und praktische Anwendung

Cybersecurity-Kompetenz im AI Software Engineering ist in der gesamten Tech-Branche relevant. Absolventen können sich für entsprechende Stellen als Rollen als AI Security Engineer oder Security-focused AI Developer.

Zusammenfassung

Dieser Kurs vermittelt Cybersecurity im AI Software Engineering praxisnah. Von Prompt Injection bis Red Teaming werden alle relevanten Sicherheitsaspekte direkt auf KI-Projekte angewendet.

Tools (Beispiele)

OWASP, GitHub Copilot, Claude, Python, Burp Suite, Semgrep, Docker