Zum Inhalt springen
Trainingslager IT-Trainingslager

Tag 2: Architektur und CLI

Ziel: Die Teile von OpenNebula kennen, ihre Logs lesen und verstehen, wie der Scheduler einen Host für eine VM findet, und warum er manchmal keinen findet. · Dauer: ca. 60 min · Voraussetzung: Tag 1

Briefing

  • oned ist der Kern. Er hält den Zustand aller Objekte in der Datenbank und bietet eine XML-RPC-API auf Port 2633. CLI, Sunstone, Terraform, alles spricht mit dieser API (Tag 13).
  • Treiber führen die eigentliche Arbeit aus: Der VMM-Treiber startet VMs über libvirt, der Transfer-Manager (TM) kopiert Platten, der IM-Treiber überwacht Hosts. Das sind Skripte unter /var/lib/one/remotes.
  • Der Scheduler verteilt wartende VMs auf Hosts. Er rechnet mit dem, was die Templates verlangen (allocated), nicht mit dem, was tatsächlich verbraucht wird (real).
 CLI / Sunstone / Terraform ── XML-RPC :2633 ──► oned ── MariaDB
                                                   │
                     ┌──────────────┬──────────────┼──────────────┐
                 Scheduler      VMM (kvm)      TM (qcow2)      IM (kvm)
                 wählt Host     libvirt        kopiert Disks   überwacht Host
Objekt CLI Kurz
Host onehost ein Hypervisor
Datastore onedatastore Speicherort für Images oder laufende VMs
Image oneimage eine Platte
Template onetemplate Bauplan einer VM
VM onevm eine laufende oder gestoppte Instanz
Virtual Network onevnet ein Netz mit Adressen
User, Group, ACL oneuser, onegroup, oneacl Rechte (Tag 8)

Drill 1: Dienste und Version

systemctl list-units 'opennebula*' --no-legend | cut -c1-80

Erwartet (gekürzt):

  opennebula-fireedge.service        loaded active running OpenNebula FireEdge Ser
  opennebula-flow.service            loaded active running OpenNebula Flow Service
  opennebula-gate.service            loaded active running OpenNebula Gate Service
  opennebula-hem.service             loaded active running OpenNebula Hook Executi
...
  opennebula.service                 loaded active running OpenNebula Cloud Contro
Dienst Aufgabe
opennebula oned mit Scheduler
opennebula-fireedge Sunstone, die Weboberfläche
opennebula-flow OneFlow, Services aus mehreren VMs (Tag 9)
opennebula-gate OneGate, Rückkanal aus den VMs (Tag 11)
opennebula-hem Hook Execution Manager, führt Hooks aus (Tag 11)
cat /var/lib/one/remotes/VERSION
onezone list

Erwartet:

7.4.1
C   ID NAME            ENDPOINT                                      FED_INDEX  STAT
*    0 OpenNebula      http://localhost:2633/RPC2                    -1         on

Die Zone ist eine OpenNebula-Installation. Mehrere Zonen lassen sich zu einer Föderation verbinden. Der Endpoint zeigt die XML-RPC-API.

Fortschritt speichern? Kostenlos registrieren

Drill 2: Wo die Logs liegen

sudo ls /var/log/one/

Erwartet (gekürzt):

0.log 1.log 2.log 3.log fireedge.error fireedge.log monitor.log oned.log oneflow.log
onegate.log onehem.log rank_sched.log …
  • oned.log: alles, was der Kern tut.
  • <ID>.log: eine Datei pro VM, mit jedem Schritt der Treiber (Tag 1, Challenge).
  • rank_sched.log: die Entscheidungen des Schedulers.
  • monitor.log: die Überwachung der Hosts.

Fortschritt speichern? Kostenlos registrieren

Drill 3: Allocated und Real

onehost show localhost | sed -n '/HOST SHARES/,/USED (ALLOCATED)/p'

Erwartet (Werte weichen ab):

HOST SHARES
RUNNING VMS           : 0
MEMORY
  TOTAL               : 3.8G
  TOTAL +/- RESERVED  : 3.8G
  USED (REAL)         : 1.6G
  USED (ALLOCATED)    : 0K

Darunter folgt derselbe Block für die CPU.

  • REAL misst, was der Host tatsächlich verbraucht, also auch OpenNebula selbst und MariaDB.
  • ALLOCATED zählt nur, was die VMs laut Template bekommen. Danach entscheidet der Scheduler.

Ein Host mit 3,8 GB und null zugewiesenen VMs sieht für den Scheduler also leer aus, obwohl schon 1,6 GB belegt sind. RESERVED (Tag 14) schafft hier Ordnung.

Fortschritt speichern? Kostenlos registrieren

Drill 4: Eine VM, die nicht passt

instantiate kann einzelne Werte des Templates überschreiben. Verlang 4 GB:

onetemplate instantiate 1 --name gross --memory 4096

Erwartet (deine ID weicht ab):

VM ID: 4

Eine halbe Minute später:

onevm list
onevm show gross | grep -E '^STATE|SCHED_MESSAGE'

Erwartet (gekürzt):

  ID USER     GROUP    NAME            STAT  CPU     MEM HOST             TIME
   4 oneadmin oneadmin gross           pend    1      4G              0d 00h00
STATE               : PENDING
SCHED_MESSAGE="Thu Nov 12 19:04:01 2026: [HOST] Not enough MEMORY on hosts: 0"

Die VM wartet in PENDING, und der Scheduler schreibt den Grund in die VM selbst. Der Host hat 3,8 GB, die VM will 4 GB. Sie wartet, bis ein Host frei wird, auch tagelang.

Fortschritt speichern? Kostenlos registrieren

Drill 5: Ausgaben für Skripte

Die Tabellen der CLI sind für Menschen. Für Skripte gibt es zwei Wege: ausgewählte Spalten oder JSON.

onevm list --list ID,NAME,STAT,MEM

Erwartet:

  ID NAME            STAT     MEM
   4 gross           pend      4G
onevm show gross --json | jq -r '.VM.USER_TEMPLATE.SCHED_MESSAGE'

Erwartet:

Thu Nov 12 19:04:01 2026: [HOST] Not enough MEMORY on hosts: 0

jq hat miniONE mitinstalliert. Mit -x statt --json gibt es dieselben Daten als XML, wie die API sie liefert.

Fortschritt speichern? Kostenlos registrieren

Kontrollpunkt

onevm show gross | grep '^STATE'

Erwartet: STATE : PENDING.

sudo grep -c 'Deploying VM' /var/log/one/oned.log

Erwartet: eine Zahl größer als 0, eine Zeile pro gestarteter VM.

Challenge

Bring gross zum Laufen, ohne sie zu löschen und neu anzulegen.

Hinweis: onevm hat einen Befehl, um Größen zu ändern. Schau in onevm --help nach.

Lösung

onevm resize gross --memory 512

Eine halbe Minute später:

onevm list

Erwartet:

  ID USER     GROUP    NAME            STAT  CPU     MEM HOST             TIME
   4 oneadmin oneadmin gross           runn    1    512M localhost    0d 00h01

resize geht bei wartenden und ausgeschalteten VMs. Bei laufenden VMs nur, wenn das Template Hotplug erlaubt (Tag 7). Im Log von oned steht, wann der Scheduler die VM verteilt hat:

sudo grep 'VM 4' /var/log/one/oned.log | tail -2

Erwartet (gekürzt):

… [Z0][DiM][D]: Deploying VM 4

Aufräumen:

onevm terminate --hard gross

--hard schaltet die VM sofort ab, ohne dem Betriebssystem Zeit zum Herunterfahren zu lassen. Für eine Wegwerf-VM ist das in Ordnung.

Fortschritt speichern? Kostenlos registrieren

Enterprise-Notiz

  • Überbuchen: In Templates lässt sich mit CPU (Anteil) und VCPU (sichtbare Kerne) CPU gezielt überbuchen, etwa CPU=0.25 bei VCPU=2. RAM überbucht man besser nicht, sonst greift der OOM-Killer des Hosts.
  • Scheduler-Regeln: SCHED_REQUIREMENTS und SCHED_RANK im Template steuern, wohin eine VM darf und welcher Host bevorzugt wird. Damit trennt man etwa Produktion und Test auf verschiedene Hosts.
  • Logs zentral: Im Betrieb gehen oned.log und die VM-Logs an ein zentrales System. Die VM-Logs enthalten jeden Treiberschritt und sind bei Störungen die erste Quelle.