KI-Server & Hardware
KI-Server & Hardware
Welcher Rechner soll in den KI-Schrank?
Die Auswahl des richtigen KI-Schranks beginnt mit der Hardware
Leistungsfähige KI-Server und GPU-Server unterscheiden sich teilweise erheblich von klassischen 19"-Servern. Moderne Systeme können mehrere Hochleistungs-GPUs aufnehmen und benötigen dadurch deutlich mehr Platz, Strom und Kühlleistung.
Für die Auswahl eines geeigneten KI-Server-Schranks, GPU-Server-Racks oder 19 Zoll KI-Schranks reicht deshalb die Angabe „19 Zoll“ allein nicht aus.
Entscheidend sind die tatsächlichen technischen Anforderungen des eingesetzten Servers.
Je nach Hersteller, GPU-Anzahl und Systemkonfiguration können sich insbesondere Abmessungen, Einbautiefe, Gewicht, Leistungsaufnahme, Wärmeentwicklung, Luftbedarf und Kühltechnik deutlich unterscheiden.
NVIDIA bietet beispielsweise zertifizierte Systeme in unterschiedlichen Leistungsklassen an – von GPU-Workstations und Edge-Systemen bis hin zu leistungsfähigen Multi-GPU-Servern für den professionellen Einsatz.
Für 19 Zoll-Tec bedeutet das:
Der KI-Schrank wird nach dem KI-Server dimensioniert – nicht der KI-Server nach dem Schrank.
Deshalb werden vor der Planung die wichtigsten Hardwaredaten ermittelt.
Welche Daten benötigen wir für die Planung?
Checkliste KI-Server & Hardware
A. Abmessungen und Einbau
- ☐ Hersteller des KI-Servers
- ☐ Modellbezeichnung
- ☐ Breite des Servers
- ☐ Höhe des Servers
- ☐ benötigte Höheneinheiten (HE)
- ☐ Einbautiefe
- ☐ zusätzlicher Platz für Kabel und Anschlüsse
- ☐ erforderlicher Abstand zur Vorder- und Rückseite
- ☐ benötigte Montageschienen
- ☐ Schwerlastschienen erforderlich?
- ☐ besondere Anforderungen an die Montage
B. Gewicht und Tragfähigkeit
- ☐ Gewicht des KI-Servers
- ☐ Gewicht der einzelnen Komponenten
- ☐ Gewicht der GPUs
- ☐ Gewicht zusätzlicher Storage-Systeme
- ☐ Gesamtgewicht aller Rack-Komponenten
- ☐ erforderliche Tragfähigkeit der 19"-Montageebenen
- ☐ erforderliche Tragfähigkeit von Schienen und Boden
Besonders bei Multi-GPU-Servern ist die Tragfähigkeit ein wichtiger Planungsfaktor.
C. GPU- und Rechenleistung
Die eingesetzte GPU-Technik beeinflusst wesentlich die Anforderungen an Stromversorgung und Kühlung.
- ☐ Anzahl der GPUs
- ☐ GPU-Modell
- ☐ GPU-Leistung
- ☐ CPU-Typ
- ☐ Anzahl der CPUs
- ☐ Arbeitsspeicher
- ☐ Storage-Kapazität
- ☐ Anzahl der Netzteile
- ☐ redundante Netzteile
- ☐ geplante zukünftige GPU-Erweiterungen
Warum ist die GPU-Anzahl wichtig?
Ein Server mit einer oder zwei GPUs stellt andere Anforderungen an den KI-Server-Schrank als ein Multi-GPU-System mit mehreren Hochleistungs-GPUs.
Mit zunehmender Rechenleistung steigen in der Regel auch:
Leistungsaufnahme → Wärmeentwicklung → Kühlbedarf → Luftmenge → Anforderungen an die Infrastruktur
D. Stromversorgung
Die elektrische Leistungsaufnahme ist eine der wichtigsten Angaben für die Planung eines KI-Racks.
- ☐ Nennleistung des Servers
- ☐ maximale Leistungsaufnahme
- ☐ tatsächlicher Leistungsbedarf
- ☐ benötigte Anschlussleistung
- ☐ Anzahl der Netzteile
- ☐ Leistung je Netzteil
- ☐ redundante Netzteile
- ☐ erforderliche PDU
- ☐ intelligente PDU erforderlich?
- ☐ USV erforderlich?
- ☐ redundante Stromversorgung erforderlich?
- ☐ zukünftige Leistungsreserve
Beispiel
Ein leistungsfähiger GPU-Server kann eine wesentlich höhere elektrische Leistung benötigen als ein klassischer Standardserver.
Diese Leistung muss nicht nur am Stromanschluss zur Verfügung stehen. Sie muss auch bei der Kühlung des KI-Schranks berücksichtigt werden.
E. Wärmeentwicklung und Kühlleistung
Nahezu die gesamte elektrische Leistung, die ein KI-Server aufnimmt, wird letztlich als Wärme an die Umgebung abgegeben.
Deshalb muss aus der elektrischen Leistungsaufnahme die erforderliche thermische Kühlleistung abgeleitet werden.
- ☐ elektrische Leistungsaufnahme in kW
- ☐ maximale Leistungsaufnahme
- ☐ thermische Verlustleistung
- ☐ erforderliche Kühlleistung
- ☐ Luftkühlung
- ☐ Flüssigkeitskühlung
- ☐ Wasserkühlung
- ☐ erforderliche Luftmenge
- ☐ erforderlicher Luftdruck
- ☐ Ablufttemperatur
- ☐ Zulufttemperatur
- ☐ zulässige Betriebstemperatur
Besonders wichtig:
1 kW elektrische Leistung entspricht im Betrieb näherungsweise 1 kW thermischer Leistung, sofern die elektrische Energie letztlich als Wärme im betrachteten System/Raum endet.
Bei mehreren GPU-Servern kann dadurch schnell eine erhebliche Wärmelast entstehen.
Beispielsweise können:
5 kW Serverleistung ≈ 5 kW Wärme
bedeuten.
Bei 20 kW Serverleistung ≈ 20 kW Wärme muss entsprechend eine sehr leistungsfähige Wärmeabfuhr vorgesehen werden.
F. Kühltechnik
Nicht jeder KI-Server wird auf die gleiche Weise gekühlt.
- ☐ klassische Luftkühlung
- ☐ Hochleistungs-Luftkühlung
- ☐ Flüssigkeitskühlung
- ☐ Direct Liquid Cooling
- ☐ Cold-Plate-Kühlung
- ☐ wasserbasierte Kühlung
- ☐ vorhandene Kühlschnittstellen
- ☐ erforderlicher Wasserdurchfluss
- ☐ erforderliche Vorlauftemperatur
- ☐ erforderliche Rücklauftemperatur
- ☐ externe Wärmetauscher erforderlich?
Die Kühlart des Servers beeinflusst unmittelbar die Konstruktion und Ausstattung des KI-Server-Racks.
G. Luftführung
Bei luftgekühlten GPU-Servern muss die erforderliche Kühlluft kontrolliert zugeführt und die erwärmte Abluft abgeführt werden.
- ☐ Luftmenge des Servers
- ☐ Ansaugung vorne
- ☐ Abluft hinten
- ☐ Kaltgangprinzip
- ☐ Warmluftführung
- ☐ definierte Zuluft
- ☐ definierte Abluft
- ☐ Abluftkanal möglich?
- ☐ Abluft nach außen möglich?
- ☐ Doppelboden vorhanden?
- ☐ Luftführung innerhalb des KI-Schranks erforderlich?
- ☐ Wärmerückgewinnung möglich?
Eine optimale Luftführung kann entscheidend dazu beitragen, die vorhandene Kühlleistung effizient zu nutzen und eine Vermischung von Kalt- und Warmluft zu vermeiden.
H. Platzbedarf für zusätzliche Technik
Ein KI-Schrank wird häufig nicht ausschließlich mit dem GPU-Server bestückt.
Für die Gesamtplanung müssen deshalb auch weitere Komponenten berücksichtigt werden:
- ☐ zusätzliche Server
- ☐ Storage
- ☐ NAS/SAN
- ☐ Netzwerk-Switch
- ☐ Router
- ☐ Firewall
- ☐ KVM
- ☐ Patchfelder
- ☐ Glasfasertechnik
- ☐ PDU
- ☐ USV
- ☐ Monitoring
- ☐ Steuerungstechnik
Zusätzlich wichtig:
- ☐ benötigte Gesamt-HE
- ☐ freie Reserve-HE
- ☐ zukünftige Erweiterungen
- ☐ zusätzliche Kühlreserve
- ☐ zusätzliche Stromreserve
I. Geräuschentwicklung
Bei einem KI-Server spielt nicht nur die Rechenleistung eine Rolle.
Die hohe Leistungsdichte führt bei luftgekühlten Systemen häufig zu einer entsprechend hohen erforderlichen Luftmenge. Die dafür eingesetzten Lüfter können eine erhebliche Geräuschentwicklung verursachen.
- ☐ Geräuschpegel des Servers bekannt?
- ☐ Aufstellung im Technikraum?
- ☐ Aufstellung im Büro?
- ☐ Arbeitsplatznähe?
- ☐ Labor?
- ☐ Entwicklungsabteilung?
- ☐ schallgedämmter KI-Schrank erforderlich?
- ☐ zusätzliche Akustikmaßnahmen erforderlich?
Für solche Anwendungen kann das 19 Zoll-Tec AI Silent Rack mit einer Kombination aus Schalldämmung, Schallabsorbern, Schallschikanen und optimierter Luftführung ausgestattet werden.
J. Zukunftssicherheit
Ein KI-Schrank sollte nicht ausschließlich auf die heutige Hardware ausgelegt werden.
Die Entwicklung bei GPUs und KI-Servern ist sehr dynamisch. Deshalb sollte bereits bei der Planung berücksichtigt werden, ob später leistungsfähigere oder zusätzliche Systeme installiert werden sollen.
- ☐ freie HE für zukünftige Komponenten
- ☐ zusätzliche Stromreserve
- ☐ zusätzliche Kühlreserve
- ☐ zusätzliche Traglastreserve
- ☐ Reserve bei der Netzwerkverkabelung
- ☐ Erweiterung um weitere GPU-Server möglich?
- ☐ spätere Umrüstung der Kühlung möglich?
- ☐ Austausch gegen leistungsfähigere Hardware möglich?
Die wichtigsten Parameter auf einen Blick
| Parameter | Bedeutung für den KI-Schrank |
|---|---|
| HE | Benötigte Montagehöhe |
| Breite | Erforderliche Rackbreite |
| Tiefe | Bestimmt die erforderliche Schranktiefe |
| Gewicht | Bestimmt die erforderliche Tragfähigkeit |
| GPU-Anzahl | Gibt Hinweise auf Rechen- und Leistungsdichte |
| Leistungsaufnahme kW | Grundlage für Stromversorgung und Kühlung |
| thermische Leistung kW | Grundlage für die erforderliche Kühlleistung |
| Luftmenge | Dimensionierung der Luftführung und Lüfter |
| Kühlart | Luft-, Wasser- oder Flüssigkeitskühlung |
| Netzteile | Bestimmung der Stromversorgung |
| Storage/Netzwerk | Zusätzlicher Platz- und Leistungsbedarf |
| Reserve | Grundlage für zukünftige Erweiterungen |
Erst die Hardware – dann der passende KI-Schrank
Die Planung eines KI-Server-Racks beginnt deshalb immer mit einer möglichst vollständigen Erfassung der eingesetzten Hardware.
Erst wenn bekannt ist,
wie groß der Server ist,
wie schwer er ist,
wie viele GPUs eingesetzt werden,
wie viel Strom benötigt wird,
wie viel Wärme entsteht,
welche Kühlung erforderlich ist
und welche zusätzlichen Komponenten vorgesehen sind,
kann der passende 19 Zoll KI-Schrank dimensioniert werden.
19 Zoll-Tec entwickelt daraus eine individuelle Lösung für Schrank, Stromversorgung, Kühlung, Luftführung, Akustik und Erweiterbarkeit.
Ihr KI-Server steht bereits fest?
Dann können wir anhand der technischen Daten gemeinsam bestimmen:
Welcher KI-Schrank?
Welche Schranktiefe?
Welche Kühlleistung?
Welche Stromversorgung?
Welche Luftführung?
Welche Schalldämmung?