Host:Helios

From Chaosdorf Wiki
Revision as of 15:10, 9 March 2015 by Derf (talk | contribs) (storage sind (mit RAIDs) 5TB)
helios.chaosdorf.dn42
Helios.jpg
allmighty server
Ort Serverraum
Zweck virtualization host
OS Debian Testing
Disks 5TB5,000 GB <br />5,000,000 MB <br />5,000,000,000 kB <br />
RAM 32GiB32,768 MiB <br />33,554,432 kiB <br />34,359,738,368 B <br />0.0313 TiB <br />34,359.738 MB <br />
Admin-Toolkit Yes
PAM? Yes
SSH user login? No
Besitzstatus Club-Eigentum
Benutzung Nein
Admins derf, byte, nomaster, uen
MAC address d0:50:99:2e:d1:28

Hardware

Storage

Das Gehäuse bietet Platz für 10 Platten, davon 2 intern (2.5") und 8 in Festplattenschächten (3.5"). Derzeit sind nur die vier Festplattenschächte auf der linken Gehäusehälfte verkabelt. Diese sind allesamt belegt.

Layout bei Aufsicht aufs Gehäuse:

(sys1) (sys2)
(vms1) (storage1) n.c n.c.
(vms2) (storage2) n.c. n.c.

Systemplatten

  • sys1: ???
  • sys2: ???

Sind die beiden internen 2.5"-Platten. Jeweils 1TB Western Digital Red (WDC WD10JFCX-68N6GN0). Auf beiden Platten befinden sich vier Partitionen á 250GB, die wie folgt genutzt werden.

  • 1. Partition: RAID 1 für /
  • 2. Partition: RAID 1 für helios-virt-tmp (temporärer Platz zur Migration der VM-Images von hyperion)
  • 3. Partition: RAID 1 für helios0-backup (Backup der VM-Images von hyperion)
  • 4. Partition: Wird nicht benutzt

VM-Platten

  • vms1: Hitachi Deskstar 7K2000 HDS722020ALA330 (wwn-0x5000cca222c96707)
  • vms2: Hitachi Deskstar 7K2000 HDS722020ALA330 (wwn-0x5000cca221c5cc76)

Jeweils 2TB Hitachi Deskstar 7K2000 (HDS722020ALA330). tbd.

Storage

  • storage1: LEER (Ersatz wird gesucht)
  • storage2: Seagate Barracuda 7200.14 ST2000DM001-1CH164 (wwn-0x5000c500538e357f)

Je 2TB. Die Platten sind ohne Partitionen zu einem RAID1 zusammengebunden, darauf befindet sich ein LUKS-Container (UUID 85a95dea-a9aa-748d-99b8-c6a972a9e1e4 bzw. /dev/mapper/storage). Dieser wird an die VM fileserver durchgereicht.

Netzwerk

Von hinten betrachtet hat das Mainboard drei Netzwerkinterfaces.

  • Oben links: IPMI
  • Oben rechts: eth0
  • Unten rechts: eth1

Das IPMI-Interface ist vom Betriebssystem aus nicht sichtbar. Die anderen beiden sind als bond0 per LACP / 802.3ad zusammengefasst. IP/IPv6 ist darauf nicht konfiguriert.

Aus bond0 fällt VLAN 1 (Management) untagged raus, die VLANs 3-5 tagged. VLAN 2 (WAN) ist nicht erreichbar. Alle weiteren Interfaces sind Bridges auf Basis von bond0.

Interface IP libvirt-Name Beschreibung
br0 192.168.0.9 (statisch) management Direkte Verbindung zu bond0, d.h. VLAN 1
br1 VLAN 1 auf bond0
br3 172.22.26.11 (DHCP) default VLAN 3 auf bond0
br4 freifunk-mesh VLAN 4 auf bond0
br5 freifunk-client VLAN 5 auf bond0

Die Bridges br1, br4 und br5 werden ausschließlich für VMs verwendet. IPv6 ist dorf per /etc/sysctl.d/ipv6.conf aus, IPv4 per /etc/network/interfaces.

Virtuelle Maschinen

 HostnameOperating SystemDisk sizeRAM size
DockerserverdockerserverDebian 12250 GB250,000 MB <br />250,000,000 kB <br />0.25 TB <br />16,384 MiB16,777,216 kiB <br />17,179,869,184 B <br />16 GiB <br />0.0156 TiB <br />17,179.869 MB <br />
Dorfmapserverdorfmapserver.chaosdorf.dn42Debian Sid48 GB48,000 MB <br />48,000,000 kB <br />0.048 TB <br />1,024 MiB1,048,576 kiB <br />1,073,741,824 B <br />1 GiB <br />9.765625e-4 TiB <br />1,073.742 MB <br />
FileserverfileserverNixOS 23.1132,000 GB32,000,000 MB <br />32,000,000,000 kB <br />32 TB <br />2,048 MiB2,097,152 kiB <br />2,147,483,648 B <br />2 GiB <br />0.00195 TiB <br />2,147.484 MB <br />
HassserverhassserverHass OS40 GB40,000 MB <br />40,000,000 kB <br />0.04 TB <br />4,096 MiB4,194,304 kiB <br />4,294,967,296 B <br />4 GiB <br />0.00391 TiB <br />4,294.967 MB <br />
Mqttservermqttserver.chaosdorf.spaceDebian 12 amd6416 GB16,000 MB <br />16,000,000 kB <br />0.016 TB <br />512 MiB524,288 kiB <br />536,870,912 B <br />0.5 GiB <br />4.882813e-4 TiB <br />536.871 MB <br />
RadiusserverthalassaGentoo10 GB10,000 MB <br />10,000,000 kB <br />0.01 TB <br />1,024 MiB1,048,576 kiB <br />1,073,741,824 B <br />1 GiB <br />9.765625e-4 TiB <br />1,073.742 MB <br />
SeekseekGentoo16 GB16,000 MB <br />16,000,000 kB <br />0.016 TB <br />1,536 MiB1,572,864 kiB <br />1,610,612,736 B <br />1.5 GiB <br />0.00146 TiB <br />1,610.613 MB <br />
SentryserverSentryserverUbuntu 18.04 LTS32 GB32,000 MB <br />32,000,000 kB <br />0.032 TB <br />2,048 MiB2,097,152 kiB <br />2,147,483,648 B <br />2 GiB <br />0.00195 TiB <br />2,147.484 MB <br />
Vpnservervpnserver.chaosdorf.dn42Debian Sid10 GB10,000 MB <br />10,000,000 kB <br />0.01 TB <br />512 MiB524,288 kiB <br />536,870,912 B <br />0.5 GiB <br />4.882813e-4 TiB <br />536.871 MB <br />

IPMI

Ist das Interface links und sehr seriös. Als grundlegender Alias empfiehlt sich

   helios-ipmi='ipmitool -I lanplus -H helios-ipmi.chaosdorf.dn42 -U meinnick -f datei/mit/passwort'

ipmitool benutzt wenn möglich IPv6. Nach Änderungen an der VLAN-Config ist das IPMI-Interface teils nur noch per IPv4 erreichbar, dann muss helios-ipmi.chaosdorf.dn42 durch die entsprechende IPv4-Adresse ersetzt werden. Eigentlich sollte das nicht passieren, da das IPMI-Interface an einem eigenen Switchport hängt, der von den sonstigen Änderungen unabhängig ist — Irgendwas ist da aber komisch™.

Nützliche Befehle sind unter anderem:

  • Watchdogstatus auslesen: helios-ipmi bmc watchdog get
  • Watchdog ausschalten (falls z.B. ein neues System installiert wird): helios-ipmi bmc watchdog off
  • Serielle Konsole: helios-ipmi sol activate
  • System an-/ausschalten/neustarten: helios-ipmi power on/off/cycle

Serial over LAN

ttyS1 ist per IPMI nutzbar. BIOS geht darüber auch.

Watchdog

Das Mainboard hat einen IPMI (SMS/OS) Watchdog. Der Daemon bmc-watchdog setzt diesen alle 60 Sekunden zurück. Falls er nicht läuft, wird automatisch nach 15 Minuten ein hard reset ausgelöst.

Verstärkersteuerung

Per USB ist die Verstärkerschaltung angeschlossen. Zur Anbindung an die Lichtsteuerung läuft ein Netzwerkdienst per systemd, der auf Port 1338 Befehle an die Schaltung weiterleitet. Es handelt sich dabei um das graue USB-Kabel.

Abgesehen von der Fernsteuerung und einem munin-Graphen enthält der Host keine Steuerlogik für die Verstärker.