Kurs
LLMs auf Kubernetes zum Anfassen
Private AI selbst betreiben
Hake ab, was du erledigt hast, und mach auf jedem Gerät weiter. Kostenlos registrieren
- Willkommen im Trainingslager
- Tag 0: Das Trainingsgelände ca. 45 min
- Tag 1: kind-Cluster für KI-Workloads ca. 60 min
- Tag 2: Erstes Modell im Pod ca. 75 min
- Tag 3: vLLM-Grundlagen – Engine, Sizing, Manifest ca. 75 min
- Tag 4: LiteLLM als Gateway – Aliase, Keys, Budgets ca. 90 min
- Tag 5: Chat mit Open WebUI in kind ca. 75 min
- Tag 6: Proxmox vorbereiten ca. 90 min
- Tag 7: Sechs VMs mit OpenTofu ca. 75 min
- Tag 8: RKE2 HA mit Ansible ca. 120 min
- Tag 9: Plattform-Basis ca. 120 min
- Tag 10: GPUs in Kubernetes ca. 150 min
- Tag 11: vLLM auf der GPU ca. 150 min
- Tag 12: LiteLLM produktiv ca. 150 min
- Tag 13: LLM-Chat für das Team – Open WebUI, Keycloak und RAG mit Qdrant ca. 180 min
- Tag 14: Code-LLM – Autocomplete und Chat in VS Code ca. 150 min
- Tag 15: Betrieb und Wettkampf ca. 300 min
- Anhang A: Spickzettel
- Anhang B: Abschlussprüfung 180 min Praxis + 30 min Fragen