LLM-Entwicklung und Deployment - Kompaktkurs

Wer KI-Systeme nicht nur verstehen, sondern selbst entwickeln und produktiv betreiben möchte, erhält in dieser kompakten Weiterbildung das nötige Rüstzeug. Im Mittelpunkt steht der gesamte Lebenszyklus moderner Sprachmodelle – vom durchdachten Prompt Design über den Aufbau leistungsfähiger RAG-Pipelines bis hin zum sicheren Betrieb produktiver Anwendungen.

Der LLM-Entwicklung und Deployment - Kompaktkurs richtet sich an alle, die sich fundiertes, anwendbares Wissen rund um Large Language Models aneignen wollen. Sie lernen, wie Sie effektive Prompts gestalten, externe Wissensquellen über Embeddings und Vektorsuche einbinden und komplette Frage-Antwort-Systeme mit API-Anbindung realisieren.

Ein besonderer Schwerpunkt liegt auf dem durchgängig praxisnahen Hands-on-Ansatz, der theoretische Konzepte direkt in funktionierende Lösungen übersetzt. So entwickeln Sie Schritt für Schritt eine eigene RAG-Pipeline und vertiefen Themen wie Datenvorbereitung, semantische Abfragen und den professionellen Umgang mit Tool-Ketten.

Im Bereich LLMOps lernen Sie zudem, wie Anwendungen mit Docker containerisiert, überwacht und gegen Risiken wie Prompt Injection abgesichert werden. Auch Kostenkontrolle, Skalierung und CI/CD-Prozesse für KI-Systeme werden praxisorientiert vermittelt.

Den Abschluss bildet ein eigenes Projekt, in dem Sie eine produktionsreife Anwendung mit Logging, Monitoring und Guardrails aufbauen. Dadurch gewinnen Sie die Sicherheit, LLM-Lösungen eigenständig zu entwickeln und zuverlässig in den Betrieb zu überführen.

Dieses Seminar ist ein Angebot der PC-COLLEGE Gruppe.

Grundlagen & Architektur moderner LLMs

- Überblick Transformer, Kontext, Tokenisierung

- Prompt Design (Zero-/Few-Shot, System Prompts)

- Unterschiede zu klassischen NLP-Verfahren

- Hands-on: effektive Prompts entwickeln

Retrieval-Augmented Generation (RAG) Essentials

- Rolle von Embeddings und Vektorsuche

- Praktische Arbeit mit FAISS, ChromaDB

- Integration externer Quellen über LangChain / LlamaIndex

- Aufbau einer einfachen RAG-Pipeline

Erweiterte RAG-Pipelines in der Praxis

- Datenvorbereitung & semantische Abfragen

- Tool-Ketten in LangChain

- Query-Antwort-System mit API-Anbindung

- Best Practices: Trennung von Modell- und Wissenskomponente

LLMOps – Deployment & Infrastruktur

- Deployment-Strategien: Hosted vs. On-Premise

- Containerisierung (Docker), Frameworks (FastAPI, BentoML)

- Monitoring & Logging (LangSmith, Weights & Biases, OpenTelemetry)

- Prompt- & Model-Management

LLMOps – Governance, Security & Skalierung

- Sicherheit (Prompt Injection, Datenschutz, Auditierbarkeit)

- Kostenkontrolle: Token-Tracking, Caching, Request-Management

- CI/CD für LLM-Anwendungen

Abschlussprojekt: Bau einer produktionsreifen Anwendung mit RAG, Logging, Monitoring & Guardrails