Zum Hauptinhalt springen

KI-Server & Hardware

KI-Server & Hardware

Welcher Rechner soll in den KI-Schrank?

Die Auswahl des richtigen KI-Schranks beginnt mit der Hardware

Leistungsfähige KI-Server und GPU-Server unterscheiden sich teilweise erheblich von klassischen 19"-Servern. Moderne Systeme können mehrere Hochleistungs-GPUs aufnehmen und benötigen dadurch deutlich mehr Platz, Strom und Kühlleistung.

Für die Auswahl eines geeigneten KI-Server-Schranks, GPU-Server-Racks oder 19 Zoll KI-Schranks reicht deshalb die Angabe „19 Zoll“ allein nicht aus.

Entscheidend sind die tatsächlichen technischen Anforderungen des eingesetzten Servers.

Je nach Hersteller, GPU-Anzahl und Systemkonfiguration können sich insbesondere Abmessungen, Einbautiefe, Gewicht, Leistungsaufnahme, Wärmeentwicklung, Luftbedarf und Kühltechnik deutlich unterscheiden.

NVIDIA bietet beispielsweise zertifizierte Systeme in unterschiedlichen Leistungsklassen an – von GPU-Workstations und Edge-Systemen bis hin zu leistungsfähigen Multi-GPU-Servern für den professionellen Einsatz.

Für 19 Zoll-Tec bedeutet das:

Der KI-Schrank wird nach dem KI-Server dimensioniert – nicht der KI-Server nach dem Schrank.

Deshalb werden vor der Planung die wichtigsten Hardwaredaten ermittelt.


Welche Daten benötigen wir für die Planung?

Checkliste KI-Server & Hardware

A. Abmessungen und Einbau

  • ☐ Hersteller des KI-Servers
  • ☐ Modellbezeichnung
  • ☐ Breite des Servers
  • ☐ Höhe des Servers
  • ☐ benötigte Höheneinheiten (HE)
  • ☐ Einbautiefe
  • ☐ zusätzlicher Platz für Kabel und Anschlüsse
  • ☐ erforderlicher Abstand zur Vorder- und Rückseite
  • ☐ benötigte Montageschienen
  • ☐ Schwerlastschienen erforderlich?
  • ☐ besondere Anforderungen an die Montage

B. Gewicht und Tragfähigkeit

  • ☐ Gewicht des KI-Servers
  • ☐ Gewicht der einzelnen Komponenten
  • ☐ Gewicht der GPUs
  • ☐ Gewicht zusätzlicher Storage-Systeme
  • ☐ Gesamtgewicht aller Rack-Komponenten
  • ☐ erforderliche Tragfähigkeit der 19"-Montageebenen
  • ☐ erforderliche Tragfähigkeit von Schienen und Boden

Besonders bei Multi-GPU-Servern ist die Tragfähigkeit ein wichtiger Planungsfaktor.


C. GPU- und Rechenleistung

Die eingesetzte GPU-Technik beeinflusst wesentlich die Anforderungen an Stromversorgung und Kühlung.

  • ☐ Anzahl der GPUs
  • ☐ GPU-Modell
  • ☐ GPU-Leistung
  • ☐ CPU-Typ
  • ☐ Anzahl der CPUs
  • ☐ Arbeitsspeicher
  • ☐ Storage-Kapazität
  • ☐ Anzahl der Netzteile
  • ☐ redundante Netzteile
  • ☐ geplante zukünftige GPU-Erweiterungen

Warum ist die GPU-Anzahl wichtig?

Ein Server mit einer oder zwei GPUs stellt andere Anforderungen an den KI-Server-Schrank als ein Multi-GPU-System mit mehreren Hochleistungs-GPUs.

Mit zunehmender Rechenleistung steigen in der Regel auch:

Leistungsaufnahme → Wärmeentwicklung → Kühlbedarf → Luftmenge → Anforderungen an die Infrastruktur


D. Stromversorgung

Die elektrische Leistungsaufnahme ist eine der wichtigsten Angaben für die Planung eines KI-Racks.

  • ☐ Nennleistung des Servers
  • ☐ maximale Leistungsaufnahme
  • ☐ tatsächlicher Leistungsbedarf
  • ☐ benötigte Anschlussleistung
  • ☐ Anzahl der Netzteile
  • ☐ Leistung je Netzteil
  • ☐ redundante Netzteile
  • ☐ erforderliche PDU
  • ☐ intelligente PDU erforderlich?
  • ☐ USV erforderlich?
  • ☐ redundante Stromversorgung erforderlich?
  • ☐ zukünftige Leistungsreserve

Beispiel

Ein leistungsfähiger GPU-Server kann eine wesentlich höhere elektrische Leistung benötigen als ein klassischer Standardserver.

Diese Leistung muss nicht nur am Stromanschluss zur Verfügung stehen. Sie muss auch bei der Kühlung des KI-Schranks berücksichtigt werden.


E. Wärmeentwicklung und Kühlleistung

Nahezu die gesamte elektrische Leistung, die ein KI-Server aufnimmt, wird letztlich als Wärme an die Umgebung abgegeben.

Deshalb muss aus der elektrischen Leistungsaufnahme die erforderliche thermische Kühlleistung abgeleitet werden.

  • ☐ elektrische Leistungsaufnahme in kW
  • ☐ maximale Leistungsaufnahme
  • ☐ thermische Verlustleistung
  • ☐ erforderliche Kühlleistung
  • ☐ Luftkühlung
  • ☐ Flüssigkeitskühlung
  • ☐ Wasserkühlung
  • ☐ erforderliche Luftmenge
  • ☐ erforderlicher Luftdruck
  • ☐ Ablufttemperatur
  • ☐ Zulufttemperatur
  • ☐ zulässige Betriebstemperatur

Besonders wichtig:

1 kW elektrische Leistung entspricht im Betrieb näherungsweise 1 kW thermischer Leistung, sofern die elektrische Energie letztlich als Wärme im betrachteten System/Raum endet.

Bei mehreren GPU-Servern kann dadurch schnell eine erhebliche Wärmelast entstehen.

Beispielsweise können:

5 kW Serverleistung ≈ 5 kW Wärme

bedeuten.

Bei 20 kW Serverleistung ≈ 20 kW Wärme muss entsprechend eine sehr leistungsfähige Wärmeabfuhr vorgesehen werden.


F. Kühltechnik

Nicht jeder KI-Server wird auf die gleiche Weise gekühlt.

  • ☐ klassische Luftkühlung
  • ☐ Hochleistungs-Luftkühlung
  • ☐ Flüssigkeitskühlung
  • ☐ Direct Liquid Cooling
  • ☐ Cold-Plate-Kühlung
  • ☐ wasserbasierte Kühlung
  • ☐ vorhandene Kühlschnittstellen
  • ☐ erforderlicher Wasserdurchfluss
  • ☐ erforderliche Vorlauftemperatur
  • ☐ erforderliche Rücklauftemperatur
  • ☐ externe Wärmetauscher erforderlich?

Die Kühlart des Servers beeinflusst unmittelbar die Konstruktion und Ausstattung des KI-Server-Racks.


G. Luftführung

Bei luftgekühlten GPU-Servern muss die erforderliche Kühlluft kontrolliert zugeführt und die erwärmte Abluft abgeführt werden.

  • ☐ Luftmenge des Servers
  • ☐ Ansaugung vorne
  • ☐ Abluft hinten
  • ☐ Kaltgangprinzip
  • ☐ Warmluftführung
  • ☐ definierte Zuluft
  • ☐ definierte Abluft
  • ☐ Abluftkanal möglich?
  • ☐ Abluft nach außen möglich?
  • ☐ Doppelboden vorhanden?
  • ☐ Luftführung innerhalb des KI-Schranks erforderlich?
  • ☐ Wärmerückgewinnung möglich?

Eine optimale Luftführung kann entscheidend dazu beitragen, die vorhandene Kühlleistung effizient zu nutzen und eine Vermischung von Kalt- und Warmluft zu vermeiden.


H. Platzbedarf für zusätzliche Technik

Ein KI-Schrank wird häufig nicht ausschließlich mit dem GPU-Server bestückt.

Für die Gesamtplanung müssen deshalb auch weitere Komponenten berücksichtigt werden:

  • ☐ zusätzliche Server
  • ☐ Storage
  • ☐ NAS/SAN
  • ☐ Netzwerk-Switch
  • ☐ Router
  • ☐ Firewall
  • ☐ KVM
  • ☐ Patchfelder
  • ☐ Glasfasertechnik
  • ☐ PDU
  • ☐ USV
  • ☐ Monitoring
  • ☐ Steuerungstechnik

Zusätzlich wichtig:

  • ☐ benötigte Gesamt-HE
  • ☐ freie Reserve-HE
  • ☐ zukünftige Erweiterungen
  • ☐ zusätzliche Kühlreserve
  • ☐ zusätzliche Stromreserve

I. Geräuschentwicklung

Bei einem KI-Server spielt nicht nur die Rechenleistung eine Rolle.

Die hohe Leistungsdichte führt bei luftgekühlten Systemen häufig zu einer entsprechend hohen erforderlichen Luftmenge. Die dafür eingesetzten Lüfter können eine erhebliche Geräuschentwicklung verursachen.

  • ☐ Geräuschpegel des Servers bekannt?
  • ☐ Aufstellung im Technikraum?
  • ☐ Aufstellung im Büro?
  • ☐ Arbeitsplatznähe?
  • ☐ Labor?
  • ☐ Entwicklungsabteilung?
  • ☐ schallgedämmter KI-Schrank erforderlich?
  • ☐ zusätzliche Akustikmaßnahmen erforderlich?

Für solche Anwendungen kann das 19 Zoll-Tec AI Silent Rack mit einer Kombination aus Schalldämmung, Schallabsorbern, Schallschikanen und optimierter Luftführung ausgestattet werden.


J. Zukunftssicherheit

Ein KI-Schrank sollte nicht ausschließlich auf die heutige Hardware ausgelegt werden.

Die Entwicklung bei GPUs und KI-Servern ist sehr dynamisch. Deshalb sollte bereits bei der Planung berücksichtigt werden, ob später leistungsfähigere oder zusätzliche Systeme installiert werden sollen.

  • ☐ freie HE für zukünftige Komponenten
  • ☐ zusätzliche Stromreserve
  • ☐ zusätzliche Kühlreserve
  • ☐ zusätzliche Traglastreserve
  • ☐ Reserve bei der Netzwerkverkabelung
  • ☐ Erweiterung um weitere GPU-Server möglich?
  • ☐ spätere Umrüstung der Kühlung möglich?
  • ☐ Austausch gegen leistungsfähigere Hardware möglich?

Die wichtigsten Parameter auf einen Blick

ParameterBedeutung für den KI-Schrank
HEBenötigte Montagehöhe
BreiteErforderliche Rackbreite
TiefeBestimmt die erforderliche Schranktiefe
GewichtBestimmt die erforderliche Tragfähigkeit
GPU-AnzahlGibt Hinweise auf Rechen- und Leistungsdichte
Leistungsaufnahme kWGrundlage für Stromversorgung und Kühlung
thermische Leistung kWGrundlage für die erforderliche Kühlleistung
LuftmengeDimensionierung der Luftführung und Lüfter
KühlartLuft-, Wasser- oder Flüssigkeitskühlung
NetzteileBestimmung der Stromversorgung
Storage/NetzwerkZusätzlicher Platz- und Leistungsbedarf
ReserveGrundlage für zukünftige Erweiterungen

Erst die Hardware – dann der passende KI-Schrank

Die Planung eines KI-Server-Racks beginnt deshalb immer mit einer möglichst vollständigen Erfassung der eingesetzten Hardware.

Erst wenn bekannt ist,

wie groß der Server ist,
wie schwer er ist,
wie viele GPUs eingesetzt werden,
wie viel Strom benötigt wird,
wie viel Wärme entsteht,
welche Kühlung erforderlich ist
und welche zusätzlichen Komponenten vorgesehen sind,

kann der passende 19 Zoll KI-Schrank dimensioniert werden.

19 Zoll-Tec entwickelt daraus eine individuelle Lösung für Schrank, Stromversorgung, Kühlung, Luftführung, Akustik und Erweiterbarkeit.

Ihr KI-Server steht bereits fest?

Dann können wir anhand der technischen Daten gemeinsam bestimmen:

Welcher KI-Schrank?
Welche Schranktiefe?
Welche Kühlleistung?
Welche Stromversorgung?
Welche Luftführung?
Welche Schalldämmung?