Linuxcluster Apis
Hardwarekonfiguration
Das Linuxcluster Apis ist eine SGI Altix XE mit 36 Rechenknoten und einem Loginknoten. Die Rechenknoten sind mit Gigabit vernetzt und mit 8 oder 12 Cores ausgestattet. Dabei handelt es sich um Intel Xeon X5560 (Quad Core/Hexa, Nehalem) Prozessoren in n001-n016 und Intel Xeon X5675 (Hexa Core, Nehalem) Prozessoren in d001-d016. Die Hauptspeicherausstattung variert von 24 GB bis 96 GB.Die Knoten n001 - n016 wurden aus Mitteln eines WAP-Antrages beschafft und stehen den finanzierenden Instituten exklusiv zur Verfügung. Das Batchsystem PBSpro sorgt automatisch dafür dass nur Jobs berechtigter Nutzer auf diesen WAP-Knoten landen können.
| Knoten | CPUs | RAM | Bemerkung PBSpro |
|
|---|---|---|---|---|
| Cores | Freq. | |||
| apis | 2× 4 | 2,8 GHz | 24 GB | Login-Knoten |
| n001 | 2× 4 | 2,8 GHz | 48 GB | core = quad mem_per_core=sechs os=sles |
| . . . | ||||
| n010 | ||||
| n011 | 2× 4 | 2,8 GHz | 24 GB | core = quad mem_per_core=drei os=sles |
| . . . | ||||
| n016 | ||||
| n017 | 2× 4 | 2,8 GHz | 48 GB | core = quad mem_per_core=sechs os=sles |
| n018 | 2× 4 | 2,8 GHz | 96 GB | core = quad mem_per_core=zwoelf os=sles |
| n019 | ||||
| n020 | 2× 4 | 2,8 GHz | 48 GB | core = quad mem_per_core=sechs os=sles |
| . . . | ||||
| n022 | ||||
| n023 | 2× 4 | 2,8 GHz | 32 GB | core = quad mem_per_core=vier os=sles |
| . . . | ||||
| n026 | ||||
| n027 | 2× 4 | 2,8 GHz | 48 GB | core = quad mem_per_core=sechs os=sles |
| n028 | ||||
| n029 | 2× 4 | 2,8 GHz | 32 GB | core = quad mem_per_core=vier os=sles |
| n030 | ||||
| n031 | 2× 6 | 2,8 GHz | 72 GB | core = hexa mem_per_core=sechs os=sles |
| . . . | ||||
| n036 | ||||
| d001 | 2× 6 | 3,06 GHz | 72 GB | core = hexa mem_per_core=sechs os=rhel |
| . . . | ||||
| d016 | ||||
| data | 2× 4 | 2,533 GHz | 24 GB | Fileserver für alle Parallel-Rechner mit 22 TByte Plattenplatz |
Software
- Betriebssystem Novell SUSE Enterprise Linux 10.2 (n001-n036) und RedHat Enterprise Linux 6.1 (d001-d016)
- Batchsystem PBSpro,
- Compiler Intel, Portland Group, Gnu,
- MPI Intel MPI, OpenMP, MPICH2,
- Anwendungssoftware siehe tabellarische Softwareliste,
- Softwareverwaltung mit dem Module-Konzept.
Rechnerzugang
- Benutzerkennung :
- Die gemeinsame Zugangsberechtigung für alle Parallelrechner am RZ (SGI Altix, Linuxcluster Hali), wird mit dem Benutzerantrag (PDF, Webformular) beantragt: Compute-Server (parallel) ankreuzen.
- Zugangsrechner
- Auf dem Loginknoten apis.rz.tu-harburg.de, kann interaktiv gearbeitet werden, alle anderen Knoten sind über das Batchsystem erreichbar (Interaktive Batchjobs: qsub -I).
- Einloggen nur über SSH (Linux: ssh
username@apis.rz.tu-harburg.de, Windows: z.B. mit putty),
Datenübertragung
mit scp oder sftp. Mehr zum Thema auf den RZ-Seiten zu ssh.
- Homeverzeichnis
- Das Homeverzeichnis wird vom Fileserver gemountet und ist auch auf SGI Altix, Linuxcluster Hali und den RZ-Poolrechnern Homeverzeichnis,
- Standardquotas: 2 GB Soft- und 3 GB Hardlimit (können bei Bedarf erhöht werden),
- langsamer Speicher vor allem für wichtige Daten, die gesichert werden müssen.
- Lokale Festplatten /usertemp
- Jeder Knoten hat eigene Festplatten. Im Pfad /usertemp findet jeder Nutzer einen persönlichen Bereich.
- Der Pfad /usertemp lautet auf allen Knoten gleich, zeigt aber jeweils auf die lokale Festplatte. Jeder Knoten sieht nur seinen eigenen /usertemp-Bereich.
- Daten im /usertemp-Bereich werden nicht im Backup gesichert und werden nach 14 Tagen Inaktivität sowie nach einem Reboot des Knotens gelöscht.
- Als schneller Speicher für Arbeitsverzeichnisse.
- Globale Festplatte /data für Cluster und Compute-Server
- Der Pfad /data das auf allen Cluster-Knoten und dem Compute-Server (altix4) per NFS sichtbar.
- Langsamer als lokales /usertemp, schneller als das Homeverzeichnis.
- Daten im /data-Bereich werden nicht im Backup gesichert.
- Lösch-Aktivitäten werden erst bei 80% Füllgrad gestartet und bei ca. 70% wieder gestoppt. Es sollen die ältesten Daten gelöscht werden.
- Kompromiss zwischen Home (überall sichtbar, sicher, langsam, quotiert) und lokaler Festplatte (nur lokal sichtbar, schnell).
- Globale Festplatte /apistemp
- Am Loginknoten apis liegt auf der lokalen Festplatte neben dem Verzeichnis /usertemp auch das Verzeichnis /apistemp, das auf allen Apis-Knoten per NFS sichtbar ist.
- Langsamer als lokales /usertemp, schneller als das Homeverzeichnis.
- Daten im /apistemp-Bereich werden nicht im Backup gesichert und nach 14 Tagen Inaktivität gelöscht (nicht aber bei Knoten-Reboot).
- Kompromiss zwischen Home (überall sichtbar, sicher, langsam, quotiert) und lokaler Festplatte (nur lokal sichtbar, schnell).
Ansprechpartner am Rechenzentrum
Liste der Ansprechpartner für die Compute-Server
