Zielsetzung des Kurses
Responsible AI Design adressiert die Gestaltung, Entwicklung und Bewertung von KI-Systemen unter Beachtung ethischer, rechtlicher und technischer Anforderungen. Im Fokus stehen Prinzipien wie Transparenz, Fairness, Datenschutz und Sicherheit sowie deren Umsetzung im Designprozess. Der Kurs ist im Fachgebiet Human-Centered AI und Software-/Produktentwicklung verortet und behandelt Schnittstellen zu Governance, Compliance und Risikomanagement. Ziel ist die Vermittlung eines strukturierten Vorgehens zur Integration verantwortlicher Gestaltung in den gesamten KI-Lebenszyklus.
Inhalte
Einführung in Grundbegriffe und Rahmenwerke: Begriffsbestimmungen zu Verantwortung, Fairness, Nachvollziehbarkeit und Rechenschaft; Überblick über Normen, Richtlinien und Richtungsweiser (z. B. KI-Governance, Risk-Frameworks), Rollen im Entwicklungsprozess.
Anforderungsanalyse und Stakeholder-Bezug: Erhebung von Nutzungs- und Kontextanforderungen, Abbildung von Stakeholder-Interessen, Ableitung nichtfunktionaler Anforderungen zu Ethik, Sicherheit und Datenschutz, Dokumentation mittels Datasheets und Model Cards.
Daten- und Modellgestaltung: Verfahren zur Bias-Identifikation in Datensätzen, Datendokumentation, Auswahl von Modellarchitekturen, Einsatz von Evaluationsmetriken für Fairness und Robustheit, Maßnahmen zur Risikominimierung.
Design- und Entwicklungsprozesse: Integration von Responsible-by-Design-Prinzipien in Produkt- und Softwareentwicklungszyklen, Prototyping verantwortlicher Interaktionen, Prompt- und Interface-Gestaltung für generative KI, Logging und Monitoring.
Prüfung, Validierung und Betrieb: Teststrategien für Erklärbarkeit und Sicherheit, Audit- und Freigabeprozesse, Incident-Handling, kontinuierliches Monitoring, Drift- und Performancebeobachtung, Lifecycle-Dokumentation.
Rechtliche und organisatorische Einbettung: Datenschutzanforderungen, Urheberrechtsfragen bei Trainings- und Ausgabedaten, Rollen- und Verantwortlichkeitszuordnung, interne Richtlinien, Reporting und Governance-Strukturen.
Lernziele
- Identifikation von Anforderungen zu Fairness, Transparenz, Sicherheit und Datenschutz entlang des KI-Lebenszyklus
- Durchführung von Bias-Analysen in Datensätzen und Modellen mit geeigneten Metriken
- Erstellung von Dokumentationen wie Datasheets und Model Cards für Daten, Modelle und Systeme
- Entwicklung von Designentscheidungen nach Responsible-by-Design-Prinzipien für Prototypen und Interfaces
- Implementierung von Prüf- und Monitoringprozessen für Betrieb, Incident-Handling und Drift-Erkennung
- Bewertung von Risiken und Ableitung technischer und organisatorischer Maßnahmen im Sinne der KI-Governance
Berufsperspektiven
Die Kursinhalte finden Anwendung in Berufsfeldern wie Produktmanagement für KI-Systeme mit Schwerpunkt auf Governance und Risiko. Typische Tätigkeitsfelder umfassen UX-/Service-Design für KI-gestützte Anwendungen mit Fokus auf Erklärbarkeit und Nutzerinteraktion. Der Kurs adressiert Inhalte für Tätigkeiten wie Data Stewardship oder MLOps mit Verantwortlichkeiten in Dokumentation, Monitoring und Compliance. Ein weiteres Einsatzfeld liegt im Bereich AI-Ethics- oder Compliance-Management mit Bezug zu Richtlinienumsetzung und Auditbegleitung.
Zusammenfassung
Der Kurs Responsible AI Design behandelt die Gestaltung, Entwicklung und Validierung von KI-Systemen unter Berücksichtigung von Fairness, Transparenz, Sicherheit und Datenschutz. Im Rahmen dieser Weiterbildung werden Methoden für Anforderungsanalyse, Daten- und Modellauswahl, Dokumentation, Prüfung und Betrieb im Sinne verantwortlicher KI vermittelt. Die vermittelten Themen finden Anwendung in Tätigkeitsfeldern wie Produktmanagement für KI, UX-/Service-Design, MLOps, Data Stewardship sowie AI-Ethics- und Compliance-Management.