Zum Inhalt springen
Trainingslager IT-Trainingslager

Tag 0: Trainingsgelände

Ziel: Ein kubeadm-Cluster mit drei Nodes, Ingress, Storage, Metriken und eigener Registry steht bereit für alle folgenden Tage. · Dauer: ca. 90 min · Voraussetzung: drei VMs mit Ubuntu 24.04

Briefing

Die CKAD-Prüfung verlangt keinen Clusterbau – du bekommst fertige Cluster. Dieses Kapitel baut das Labor deshalb im Schnelldurchlauf: Befehle zum Nachtippen, kaum Erklärung. Wer schon einen Cluster mit Ingress-Controller, Default-StorageClass, metrics-server und einer erreichbaren Registry hat, springt zum Kontrollpunkt.

  cp1 .126                  worker1 .228             worker2 .83
  control-plane, kubectl,   worker                   worker
  helm, podman
  4 vCPU / 12 GB            2 vCPU / 4 GB            2 vCPU / 4 GB
        |_________________________|________________________|
           172.16.0.0/24 · Pods 192.168.0.0/16 (Calico)
  NodePorts: 30080/30443 Traefik · 30500 Registry

Ersetze die IPs durch deine eigenen. Zwischen den VMs gibt es keine Namensauflösung, deshalb stehen überall IPs. Drill 1 bis 3 laufen auf allen drei VMs, der Rest auf cp1.

Drill 1: Kernel vorbereiten

printf 'overlay\nbr_netfilter\n' | sudo tee /etc/modules-load.d/k8s.conf
sudo modprobe overlay
sudo modprobe br_netfilter
cat <<'EOF' | sudo tee /etc/sysctl.d/k8s.conf
net.ipv4.ip_forward = 1
net.bridge.bridge-nf-call-iptables = 1
net.bridge.bridge-nf-call-ip6tables = 1
EOF
sudo sysctl --system >/dev/null
sysctl net.ipv4.ip_forward net.bridge.bridge-nf-call-iptables
swapon --show | wc -l

Erwartet:

net.ipv4.ip_forward = 1
net.bridge.bridge-nf-call-iptables = 1
0

Zeigt swapon etwas an: sudo swapoff -a und die Swap-Zeile in /etc/fstab auskommentieren.

Fortschritt speichern? Kostenlos registrieren

Drill 2: containerd und runc

Beides direkt vom Projekt, jeweils mit Prüfsumme:

cd /tmp
V=2.4.2
U=https://github.com/containerd/containerd/releases/download/v$V
ARCH=$(dpkg --print-architecture)
curl -sSLO $U/containerd-$V-linux-${ARCH}.tar.gz
curl -sSLO $U/containerd-$V-linux-${ARCH}.tar.gz.sha256sum
sha256sum -c containerd-$V-linux-${ARCH}.tar.gz.sha256sum
sudo tar Cxzf /usr/local containerd-$V-linux-${ARCH}.tar.gz
sudo mkdir -p /usr/local/lib/systemd/system
sudo curl -sSL -o /usr/local/lib/systemd/system/containerd.service \
  https://raw.githubusercontent.com/containerd/containerd/v$V/containerd.service
R=1.5.3
U=https://github.com/opencontainers/runc/releases/download/v$R
curl -sSLO $U/runc.${ARCH}
curl -sSLO $U/runc.sha256sum
grep " runc.${ARCH}$" runc.sha256sum | sha256sum -c
sudo install -m 755 runc.${ARCH} /usr/local/sbin/runc

Erwartet:

containerd-2.4.2-linux-amd64.tar.gz: OK
runc.amd64: OK

Konfiguration erzeugen und auf den systemd-Cgroup-Treiber umstellen (wie das kubelet):

sudo mkdir -p /etc/containerd
containerd config default | sudo tee /etc/containerd/config.toml >/dev/null
sudo sed -i 's/SystemdCgroup = false/SystemdCgroup = true/' /etc/containerd/config.toml
grep -n SystemdCgroup /etc/containerd/config.toml
sudo systemctl daemon-reload
sudo systemctl enable --now containerd
containerd --version

Erwartet:

89:            SystemdCgroup = true
containerd github.com/containerd/containerd/v2 v2.4.2 b7a25261e029...

Fortschritt speichern? Kostenlos registrieren

Drill 3: kubeadm, kubelet, kubectl

sudo apt-get update
sudo apt-get install -y apt-transport-https ca-certificates curl gpg
sudo mkdir -p -m 755 /etc/apt/keyrings
curl -fsSL https://pkgs.k8s.io/core:/stable:/v1.37/deb/Release.key \
  | sudo gpg --dearmor -o /etc/apt/keyrings/kubernetes-apt-keyring.gpg
K=/etc/apt/keyrings/kubernetes-apt-keyring.gpg
echo "deb [signed-by=$K] https://pkgs.k8s.io/core:/stable:/v1.37/deb/ /" \
  | sudo tee /etc/apt/sources.list.d/kubernetes.list
sudo apt-get update
sudo apt-get install -y kubelet=1.37.2-1.1 kubeadm=1.37.2-1.1 kubectl=1.37.2-1.1 \
  cri-tools
sudo apt-mark hold kubelet kubeadm kubectl
printf 'runtime-endpoint: unix:///run/containerd/containerd.sock\n' \
  | sudo tee /etc/crictl.yaml
printf 'image-endpoint: unix:///run/containerd/containerd.sock\n' \
  | sudo tee -a /etc/crictl.yaml
kubeadm version -o short
sudo crictl version

Erwartet:

kubelet set on hold.
kubeadm set on hold.
kubectl set on hold.
...
v1.37.2
Version:  0.1.0
RuntimeName:  containerd
RuntimeVersion:  v2.4.2
RuntimeApiVersion:  v1

Fortschritt speichern? Kostenlos registrieren

Drill 4: Cluster initialisieren und Nodes aufnehmen

Auf cp1:

sudo kubeadm init --kubernetes-version=v1.37.2 \
  --apiserver-advertise-address=172.16.0.126 --pod-network-cidr=192.168.0.0/16
mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config

Erwartet (gekürzt):

Your Kubernetes control-plane has initialized successfully!

Netzwerk-Plugin Calico per Operator:

C=https://raw.githubusercontent.com/projectcalico/calico/v3.33.1/manifests
kubectl create -f $C/operator-crds.yaml
kubectl create -f $C/tigera-operator.yaml
kubectl create -f $C/custom-resources.yaml
kubeadm token create --print-join-command

Erwartet (gekürzt):

installation.operator.tigera.io/default created
kubeadm join 172.16.0.126:6443 --token ... --discovery-token-ca-cert-hash sha256:...

Die ausgegebene kubeadm join-Zeile mit sudo auf worker1 und worker2 ausführen. Dann wieder auf cp1:

kubectl get nodes
kubectl get tigerastatus calico

Erwartet:

NAME      STATUS   ROLES           AGE   VERSION
cp1       Ready    control-plane   11m   v1.37.2
worker1   Ready    <none>          10m   v1.37.2
worker2   Ready    <none>          10m   v1.37.2
NAME     AVAILABLE   PROGRESSING   DEGRADED   SINCE   MESSAGE
calico   True        False         False      9m9s    All objects available

Fortschritt speichern? Kostenlos registrieren

Drill 5: Helm, metrics-server, local-path

cd /tmp
ARCH=$(dpkg --print-architecture)
curl -sSLO https://get.helm.sh/helm-v4.3.2-linux-${ARCH}.tar.gz
curl -sSLO https://get.helm.sh/helm-v4.3.2-linux-${ARCH}.tar.gz.sha256sum
sha256sum -c helm-v4.3.2-linux-${ARCH}.tar.gz.sha256sum
tar xzf helm-v4.3.2-linux-${ARCH}.tar.gz
sudo install -m 755 linux-${ARCH}/helm /usr/local/bin/helm
helm version --short

Erwartet:

helm-v4.3.2-linux-amd64.tar.gz: OK
v4.3.2+g8346aaa

metrics-server braucht im Labor --kubelet-insecure-tls, weil die kubelet-Zertifikate selbst signiert sind:

M=https://github.com/kubernetes-sigs/metrics-server/releases/download/v0.9.1
kubectl apply -f $M/components.yaml
kubectl -n kube-system patch deployment metrics-server --type=json -p \
  '[{"op":"add","path":"/spec/template/spec/containers/0/args/-",
     "value":"--kubelet-insecure-tls"}]'
L=https://raw.githubusercontent.com/rancher/local-path-provisioner/v0.0.37
kubectl apply -f $L/deploy/local-path-storage.yaml
kubectl patch storageclass local-path -p \
  '{"metadata":{"annotations":{"storageclass.kubernetes.io/is-default-class":"true"}}}'
kubectl get storageclass

Erwartet (gekürzt):

NAME                   PROVISIONER             RECLAIMPOLICY   VOLUMEBINDINGMODE
local-path (default)   rancher.io/local-path   Delete          WaitForFirstConsumer

WaitForFirstConsumer heißt: Das Volume entsteht erst, wenn ein Pod den PVC nutzt – auf dessen Node.

Fortschritt speichern? Kostenlos registrieren

Drill 6: Ingress-Controller Traefik

helm repo add traefik https://traefik.github.io/charts
helm install traefik traefik/traefik --version 42.4.1 -n traefik --create-namespace \
  --set service.spec.type=NodePort \
  --set ports.web.nodePort=30080 --set ports.websecure.nodePort=30443
kubectl get svc -n traefik
kubectl get ingressclass

Erwartet:

NAME      TYPE       CLUSTER-IP      EXTERNAL-IP   PORT(S)                      AGE
traefik   NodePort   10.109.178.12   <none>        80:30080/TCP,443:30443/TCP   7m
NAME                CONTROLLER                      PARAMETERS   AGE
traefik (default)   traefik.io/ingress-controller   <none>       7m

Achtung: --set service.type=NodePort scheitert am Schema des Charts mit „additional properties ‘type’ not allowed”. Der Typ steht unter service.spec.

Fortschritt speichern? Kostenlos registrieren

Drill 7: Registry im Cluster

Eigene Images aus Tag 2 brauchen ein Ziel. Eine einfache Registry als Deployment mit NodePort 30500:

kubectl create namespace registry
kubectl create deployment registry -n registry \
  --image=docker.io/library/registry:3.1.2 --port=5000
kubectl expose deployment registry -n registry --type=NodePort --port=5000 \
  --dry-run=client -o yaml > registry-svc.yaml

In registry-svc.yaml unter ports: die Zeile nodePort: 30500 ergänzen:

  ports:
  - nodePort: 30500
    port: 5000
    protocol: TCP
    targetPort: 5000
kubectl apply -f registry-svc.yaml
curl -s http://172.16.0.126:30500/v2/_catalog

Erwartet:

{"repositories":[]}

Die Registry spricht nur HTTP. Damit containerd von dort zieht, auf allen drei VMs:

sudo sed -i "s|config_path = ''|config_path = '/etc/containerd/certs.d'|" \
  /etc/containerd/config.toml
sudo mkdir -p /etc/containerd/certs.d/172.16.0.126:30500
cat <<'EOF' | sudo tee /etc/containerd/certs.d/172.16.0.126:30500/hosts.toml
server = "http://172.16.0.126:30500"

[host."http://172.16.0.126:30500"]
  capabilities = ["pull", "resolve"]
EOF
sudo systemctl restart containerd
grep -n "config_path" /etc/containerd/config.toml

Erwartet:

31:      config_path = '/etc/containerd/certs.d'
149:    plugin_config_path = '/etc/nri/conf.d'
255:    config_path = '/etc/containerd/certs.d'

Achtung: Die Registry speichert in einem emptyDir. Startet ihr Pod neu, sind alle Images weg – dann einfach erneut pushen (Tag 2).

Fortschritt speichern? Kostenlos registrieren

Drill 8: podman auf cp1

Zum Bauen von Images nutzt du podman – es braucht keinen Daemon, und die Prüfung arbeitet ebenfalls mit podman oder docker.

sudo apt-get install -y podman
podman version | head -3

Erwartet:

Client:       Podman Engine
Version:      4.9.3
API Version:  4.9.3

Fortschritt speichern? Kostenlos registrieren

Übung: Speed-Drills

  1. Zeige, auf welchem Node die Registry läuft. Zeitziel: 20 s
  2. Prüfe über die CRI, ob containerd den systemd-Cgroup-Treiber nutzt. Zeitziel: 20 s
  3. Zeige die CPU-Last aller Nodes. Zeitziel: 10 s

Lösung

kubectl get pods -n registry -o wide
sudo crictl info | grep -i systemdcgroup
kubectl top nodes

Erwartet (gekürzt):

NAME                        READY   STATUS    RESTARTS   AGE   IP               NODE
registry-75bc98b96b-gcgdq   1/1     Running   0          6m    192.168.189.70   worker2
            "SystemdCgroup": true
NAME      CPU(cores)   CPU(%)   MEMORY(bytes)   MEMORY(%)
cp1       567m         14%      1292Mi          10%
worker1   374m         18%      653Mi           17%
worker2   226m         11%      484Mi           12%

Fortschritt speichern? Kostenlos registrieren

Kontrollpunkt

kubectl get nodes -o wide

Erwartet: drei Nodes Ready, v1.37.2, containerd://2.4.2.

kubectl get pods -n kube-system --field-selector=status.phase!=Running

Erwartet: No resources found in kube-system namespace.

helm list -n traefik

Erwartet: traefik mit Chart traefik-42.4.1, Status deployed.

curl -s http://172.16.0.126:30500/v2/_catalog

Erwartet: {"repositories":[]} (nach Tag 2: {"repositories":["notes-api"]})

Challenge

Finde heraus, welches Pause-Image (Sandbox-Image) containerd für jeden Pod startet.

Hinweis: Es steht in der containerd-Konfiguration.

Lösung

grep -n "sandbox = " /etc/containerd/config.toml

Erwartet:

28:      sandbox = 'registry.k8s.io/pause:3.10.2'

Fortschritt speichern? Kostenlos registrieren

Prüfungstipp

  • In der CKAD baust du keinen Cluster. Du brauchst aber kubectl get nodes, kubectl top und den Blick auf die IngressClass und StorageClass – das kommt in Tag 5, 7 und 16 wieder.
  • Images baust du in der Prüfung mit podman oder docker auf einem vorbereiteten Host, nicht im Cluster.

Enterprise-Notiz

  • Produktive Cluster kommen aus Managed-Angeboten (EKS, AKS, GKE) oder Distributionen (OpenShift, RKE2, Talos), nicht aus Handarbeit.
  • Registries laufen mit TLS, Authentifizierung und persistentem Speicher (Harbor, GitLab, Artifactory) – nie als emptyDir mit HTTP.
  • Ingress, Storage und Metriken sind Plattform-Aufgaben; als Entwickler nutzt du sie über IngressClass, StorageClass und kubectl top.