LLM Engineering befasst sich mit der Entwicklung von Anwendungen auf Basis großer Sprachmodelle. Unternehmen nutzen solche Systeme für Assistenzfunktionen, Wissenszugriff, Automatisierung und textbasierte Prozesse. Der Kurs zeigt, wie LLM-Anwendungen technisch geplant, integriert und bewertet werden.
Kursinhalt1. Grundlagen großer Sprachmodelle
- Einordnung von LLMs, Prompts, Kontextfenstern und Modellverhalten
- Verständnis typischer Einsatzszenarien und technischer Grenzen
- Bewertung von Qualität, Halluzinationen und Antwortkonsistenz
2. Entwicklung von LLM-Anwendungen
- Aufbau von Anwendungen mit Modellzugriff und Systemprompts
- Einbindung externer Datenquellen und strukturierter Ausgaben
- Umsetzung von Workflows für Assistenz- und Automatisierungsaufgaben
3. Betrieb und Qualitätssicherung
- Testen von Prompts, Ausgaben und Fehlerfällen
- Berücksichtigung von Datenschutz, Zugriffen und Monitoring
- Bewertung von Kosten, Latenz und Skalierbarkeit im Anwendungskontext
Berufliche Relevanz
- Anwendung in KI-Projekten, Softwareentwicklung und Prozessautomatisierung
- Vorbereitung auf technische Aufgaben rund um Sprachmodelle und KI-Anwendungen
- Schnittstelle zwischen Entwicklung, Daten, Fachprozessen und KI-Governance