Zum Inhalt springen
Trainingslager IT-Trainingslager

Tag 11: Lebenszyklus und Revisionen

Ziel: Du weißt, was bei jeder Änderung an RGD und Instanz passiert: wer gewinnt, wenn jemand von Hand eingreift, wie kro Versionen der RGD verwaltet, welche Schema-Änderungen gesperrt sind und warum man eine RGD nie vor ihren Instanzen löscht. · Dauer: ca. 50 min · Voraussetzung: Tag 10

Briefing

  • kro wendet Objekte per Server-Side Apply an, als Feldbesitzer kro.run/applyset. Felder, die kro setzt, gehören kro. Andere Felder lässt kro in Ruhe.
  • Jede inhaltliche Änderung an einer RGD erzeugt eine GraphRevision, eine unveränderliche Kopie mit fortlaufender Nummer. kro behält die letzten fünf.
  • Breaking Changes im Schema (Feld entfernt, Typ geändert, neues Pflichtfeld ohne Default, engere Enums oder Muster) sperrt kro. Die Annotation kro.run/allow-breaking-changes: "true" hebt die Sperre auf.
  • Eine gelöschte RGD lässt ihre CRD und Instanzen stehen, aber es gibt keinen Controller mehr für sie. Instanzen lassen sich dann nicht mehr löschen.

Drill 1: Wer gewinnt?

mkdir -p ~/kro-lab/tag11
cd ~/kro-lab/tag11
kubectl -n app scale deploy notes --replicas=3
kubectl -n app get deploy notes

Erwartet:

deployment.apps/notes scaled
NAME    READY   UP-TO-DATE   AVAILABLE   AGE
notes   1/1     1            1           11m

Wer welches Feld besitzt, steht in den managedFields:

kubectl -n app get deploy notes -o jsonpath='{.metadata.managedFields[*].manager}{"\n"}'

Erwartet:

kro.run/applyset k3s

kro.run/applyset ist kro, k3s ist der Deployment-Controller, der den Status schreibt. Dein kubectl scale hat replicas kurz übernommen, kro hat es sofort zurückgeholt. Ein Feld, das in der RGD nicht vorkommt, etwa eine Annotation, die du von Hand setzt, bleibt dagegen stehen.

Fortschritt speichern? Kostenlos registrieren

Drill 2: GraphRevisions

kubectl get gr -l kro.run/resource-graph-definition-name=notesapp
kubectl get rgd notesapp -o jsonpath='{.status.lastIssuedRevision}{"\n"}'

Erwartet (Nummern und Alter weichen ab):

NAME              REVISION   READY   AGE
notesapp-r00008   8          True    13m
notesapp-r00009   9          True    9m20s
notesapp-r00010   10         True    9m8s
notesapp-r00011   11         True    7m6s
notesapp-r00012   12         True    3m29s
12
  • Zwölf Revisionen wurden ausgestellt, fünf sind noch da. Die Zahl steht im Chart unter config.rgd.maxGraphRevisions.
  • Eine RGD, die schon die Prüfung nicht besteht (Tag 3), bekommt gar keine Revision. Die letzte gültige bleibt aktiv, und die Instanzen laufen damit weiter.

Was eine Revision enthält:

kubectl get gr notesapp-r00012 -o jsonpath='{.status.topologicalOrder}{"\n"}'

Erwartet:

["platform","announcements","secret","dbSecret","dbData","database","dbService",
"deployment","service","dbPolicy","budget","checkJobs"]

Die API der Revisionen (internal.kro.run) ist intern. Lies sie zum Nachsehen, aber baue keine Werkzeuge darauf.

Fortschritt speichern? Kostenlos registrieren

Drill 3: Ein Feld entfernen

Das Team will den Schalter networkPolicy abschaffen, die NetworkPolicy soll immer aus sein. Du baust eine Fassung ohne das Feld:

cp ../tag09/notesapp-rgd.yaml ohne-np.yaml

Lösche in ohne-np.yaml die Zeile networkPolicy: boolean | default=false und ersetze bei dbPolicy die Bedingung:

      includeWhen:
        - ${false}
kubectl apply -f ohne-np.yaml
kubectl get rgd notesapp
kubectl get rgd notesapp \
  -o jsonpath='{range .status.conditions[*]}{.type}={.status} {.message}{"\n"}{end}'

Erwartet:

resourcegraphdefinition.kro.run/notesapp configured
NAME       APIVERSION   KIND       STATE      READY   AGE
notesapp   v1alpha1     NotesApp   Inactive   False   28m
ControllerReady=True controller is running
GraphAccepted=True resource graph and schema are valid
GraphRevisionsResolved=True revision 13 compiled and active
KindReady=False cannot update CRD notesapps.lab.example.com: breaking changes
detected: Property networkPolicy was removed
Ready=False cannot update CRD notesapps.lab.example.com: breaking changes detected:
Property networkPolicy was removed

Lies die Zeilen genau:

  • GraphAccepted=True: Die neue Fassung ist in sich gültig.
  • KindReady=False: Die CRD hat kro nicht angepasst. Instanzen mit networkPolicy: true würden sonst ein Feld verlieren, das das Team gesetzt hat.
  • revision 13 compiled and active: Die neue Revision ist übersetzt. Weil die RGD aber Inactive ist, rollt kro sie nicht auf die Instanzen aus:
kubectl -n app get networkpolicy

Erwartet:

NAME       POD-SELECTOR   AGE
notes-db   app=notes-db   19s

Die NetworkPolicy ist noch da, die Instanzen bleiben auf dem alten Stand. Zurück zur alten Fassung:

kubectl apply -f ../tag09/notesapp-rgd.yaml
kubectl get rgd notesapp

Erwartet:

resourcegraphdefinition.kro.run/notesapp configured
NAME       APIVERSION   KIND       STATE    READY   AGE
notesapp   v1alpha1     NotesApp   Active   True    28m

Fortschritt speichern? Kostenlos registrieren

Drill 4: Ein neues Pflichtfeld

Kopiere die RGD und füge unter replicas: ein Pflichtfeld hinzu:

cp ../tag09/notesapp-rgd.yaml pflicht.yaml
      replicas: integer | default=1 minimum=1 maximum=5
      owner: string | required=true
kubectl apply -f pflicht.yaml
kubectl get rgd notesapp \
  -o jsonpath='{.status.conditions[?(@.type=="KindReady")].message}{"\n"}'

Erwartet:

resourcegraphdefinition.kro.run/notesapp configured
cannot update CRD notesapps.lab.example.com: breaking changes detected: Optional
property owner was added

Die Meldung klingt seltsam, gemeint ist: Ein neues Feld, das bestehende Instanzen nicht haben, und Pflicht ohne Default. Jede vorhandene NotesApp wäre danach ungültig. Mit default="plattform" wäre die Änderung erlaubt. Zurück:

kubectl apply -f ../tag09/notesapp-rgd.yaml

Fortschritt speichern? Kostenlos registrieren

Drill 5: Die Sperre bewusst aufheben

Manchmal ist ein Breaking Change gewollt, etwa solange es noch keine echten Nutzer gibt. Dafür gibt es eine Annotation an der RGD:

kubectl apply -f ohne-np.yaml
kubectl annotate rgd notesapp kro.run/allow-breaking-changes=true
kubectl get rgd notesapp

Erwartet:

resourcegraphdefinition.kro.run/notesapp configured
resourcegraphdefinition.kro.run/notesapp annotated
NAME       APIVERSION   KIND       STATE    READY   AGE
notesapp   v1alpha1     NotesApp   Active   True    28m

Jetzt hat kro auch die CRD angepasst. Setz die Annotation sofort wieder zurück und stell die gewohnte Fassung her:

kubectl annotate rgd notesapp kro.run/allow-breaking-changes-
kubectl apply -f ../tag09/notesapp-rgd.yaml
kubectl get rgd notesapp

Erwartet:

resourcegraphdefinition.kro.run/notesapp annotated
resourcegraphdefinition.kro.run/notesapp configured
NAME       APIVERSION   KIND       STATE    READY   AGE
notesapp   v1alpha1     NotesApp   Active   True    28m

Ein Feld hinzuzufügen (mit Default) ist nie ein Breaking Change.

Fortschritt speichern? Kostenlos registrieren

Drill 6: Die Falle beim Löschen

Die RGD greeting aus Tag 1 gibt es noch. Lege eine Instanz an und lösche dann die RGD zuerst:

kubectl apply -f ../tag01/hallo.yaml
kubectl delete rgd greeting
kubectl get crd greetings.kro.run
kubectl -n app get greeting,configmap hallo

Erwartet:

greeting.kro.run/hallo created
resourcegraphdefinition.kro.run "greeting" deleted
NAME                CREATED AT
greetings.kro.run   2026-11-11T17:29:59Z
NAME                       STATE    READY   AGE
greeting.kro.run/hallo     ACTIVE   True    34m

NAME              DATA   AGE
configmap/hallo   1      33m

CRD, Instanz und ConfigMap sind noch da. kro löscht keine CRD, solange config.allowCRDDeletion im Chart false ist, und das ist der Standard. Sonst wären mit der RGD auch alle Instanzen weg. Versuch, die Instanz zu löschen:

kubectl -n app delete greeting hallo --timeout=20s
kubectl -n app get greeting hallo -o jsonpath='{.metadata.finalizers}{"\n"}'

Erwartet:

greeting.kro.run "hallo" deleted from app namespace
error: timed out waiting for the condition on greetings/hallo
["kro.run/finalizer"]

Der Finalizer gehört kro, und für Greeting läuft kein Controller mehr. Die Instanz bleibt im Zustand „wird gelöscht“ hängen, die ConfigMap auch. Die Lösung ist, die RGD zurückzubringen:

kubectl apply -f ../tag01/greeting-rgd.yaml
kubectl -n app get greeting
kubectl -n app get configmap hallo

Erwartet:

resourcegraphdefinition.kro.run/greeting created
No resources found in app namespace.
Error from server (NotFound): configmaps "hallo" not found

Der neue Controller sieht die Instanz mit Löschzeitstempel, räumt die ConfigMap ab und entfernt den Finalizer. Jetzt in der richtigen Reihenfolge: erst Instanzen, dann RGD, dann CRD.

kubectl delete rgd greeting
kubectl delete crd greetings.kro.run

Erwartet:

resourcegraphdefinition.kro.run "greeting" deleted
customresourcedefinition.apiextensions.k8s.io "greetings.kro.run" deleted

Den Finalizer von Hand zu entfernen geht auch, aber dann bleiben alle Objekte der Instanz als Waisen im Cluster liegen.

Fortschritt speichern? Kostenlos registrieren

Kontrollpunkt

kubectl get rgd

Erwartet:

NAME             APIVERSION   KIND            STATE    READY   AGE
notes-settings   v1alpha1     NotesSettings   Active   True    40m
notesapp         v1alpha1     NotesApp        Active   True    36m
notesfleet       v1alpha1     NotesFleet      Active   True    10m
kubectl get rgd notesapp -o jsonpath='{.metadata.annotations}{"\n"}'

Erwartet: keine Annotation kro.run/allow-breaking-changes.

kubectl get gr -l kro.run/resource-graph-definition-name=notesapp --no-headers

Erwartet: höchstens fünf Zeilen, alle mit True.

Challenge

Ändere bei notes-settings das Enum von logLevel auf "info,warn,error" (ohne debug). Wird das gesperrt? Warum ist es hier besonders gefährlich?

Hinweis: Welchen Wert hat blau?

Lösung

Ja. KindReady wird False mit der Meldung:

cannot update CRD notessettings.lab.example.com: breaking changes detected: Enum value
"debug" was removed

Gefährlich ist es, weil blau seit Tag 2 logLevel: debug hat. Mit allow-breaking-changes würde die CRD debug verbieten, und die nächste Änderung an blau scheitert an der Validierung. Zuerst die Instanzen umstellen, dann das Schema verschärfen.

Fortschritt speichern? Kostenlos registrieren

Enterprise-Notiz

  • Versionieren statt brechen: Statt v1alpha1 umzubauen, kannst du eine zweite RGD mit apiVersion: v1alpha2 oder neuer Art anlegen und Teams umziehen lassen. Zwei Versionen in einer CRD (Conversion) kann kro nicht.
  • Schärfere Prüfung: Das Feature Gate ConservativeCRDComparison prüft weitere Schema-Details und behandelt alles Unbekannte als Breaking Change.
  • Löschen absichern: Instanzen vor RGDs löschen gehört in jedes Runbook. In GitOps-Werkzeugen sorgt die Sync-Reihenfolge dafür (Tag 14).