Das ist das 2U 4

Jan 17, 2024

Auf der Computex 2023 haben wir einen 2U-4-Knoten-NVIDIA-Grace-Superchip-Server von ASUS gesehen. Es trägt den Namen ASUS RS720QN-E11-RS24U und kombiniert das 2,5-Zoll-2U-Gehäuse mit 24 Einschüben, das wir in mehreren ASUS-Rezensionen gesehen haben, mit vier NVIDIA Grace Superchip-Knoten.

Interessant war, dass das NVIDIA Grace Superchip-Modul umwerfend aussieht, es aber nicht das ist, was wir auf vielen Servern sehen. Dennoch steckt hier das Modul in seiner Schönheitshaut.

Zur Erinnerung: Bei der NVIDIA Grace-CPU handelt es sich um ein 72-Kern-Arm-Neoverse-V2-Design. NVIDIA gibt an, dass zwei dieser 72-Kern-CPUs in der Konfiguration namens „Grace Superchip“ eine SPECint_rate_2017 von etwa 740 erreichen sollten. Das ist eine geschätzte Zahl, da es sich nicht um offiziell übermittelte Ergebnisse handelt. In einigen Veröffentlichungen heißt es, dass diese Dual-Chip-Lösung mit 144 Kernen die schnellste CPU (oder Dual-CPU-Konfiguration) auf dem Markt sei. ASUS mit einem einzelnen AMD EPYC 9654 liegt hier beispielhaft bei 898. Angesichts der geschätzten Zahlen von NVIDIA sollte die Dual-Grace-Lösung auf der Integer-Seite mit dem 84-96-Core-Single-Socket-AMD EPYC „Genoa“ konkurrenzfähig sein.

Was diese Lösung bietet, ist eine Hochgeschwindigkeits-Chip-zu-Chip-Verbindung sowie LPDDR5X-Speicher mit integriertem ECC.

Mit 500 W und dem darin enthaltenen Speicher ist es recht energieeffizient. Dieser AMD EPYC 9654 hat eine TDP von 360 W, verfügt aber auch über 12 Speicherkanäle, die weitere 60 W+ nutzen können. Was NVIDIA damit jedoch erhält, sind 960 GB ECC-Speicher mit etwa 1 TB/s Speicherbandbreite. Der NVIDIA Grace Superchip ist also wirklich auf eine hohe Speicherbandbreite ausgelegt, ohne HBM-Speicher wie die Intel Xeon MAX-CPU zu verwenden.

Da dies unser erster Beitrag zu einem System mit dem NVIDIA Grace Superchip ist, wollten wir ein wenig über die Chips aufklären, da NVIDIA populär geworden ist und Verbraucherseiten behaupten, dies sei der schnellste Chip, ohne zu erklären, warum er der schnellste ist.

Hier sind die kurzen technischen Daten des ASUS RS720QN-E11-RS24U. Interessant ist, dass ASUS LPDDR5 bei 512G/256G angibt. Die Module sollen mit LPDDR5X in 240-GB-, 480-GB- und 960-GB-Konfigurationen (mit ECC) erhältlich sein.

Das System sieht aus wie die meisten ASUS-Knoten, mit I/O und Verwaltung auf der Rückseite. Ein großer Unterschied besteht darin, dass wir hier nicht die POST-Code-LED erhalten.

Im Inneren des Systems erhalten wir zwei PCIe Gen5-Steckplätze sowie einen OCP NIC 3.0-Steckplatz. Wir können auch den ASPEED BMC an Bord sehen.

Der NVIDIA Grace Superchip verfügt über einen riesigen Kühlkörper, der speziell an das Gehäuse angepasst ist und sich über die gesamte Breite des Knotens erstreckt. Das ist tatsächlich ein großer Unterschied zu aktuellen x86-Servern, bei denen Kühlkörper auf den Bereich um den Sockel bis zu den DIMM-Steckplätzen beschränkt sind. Aus einer kühlenden Perspektive macht „Grace“ sehr viel Sinn.

Ein weiteres cooles Feature ist, dass es neben den sechs vorderen 2,5-Zoll-Schächten pro Knoten ein duales M.2-Modul für Startlaufwerke gibt.

Der Knoten ist über hochdichte Steckverbinder mit dem Gehäuse verbunden.

Wir werden uns nicht zu sehr auf das Chassis konzentrieren, da wir das schon einmal gesehen haben.

Insgesamt war es großartig, das NVIDIA Grace Superchip-System persönlich kennenzulernen. Der integrierte LPDDR5X-Speicher verleiht dieser Lösung zusammen mit den 144 Arm Neoverse V2-Kernen viel Speicherbandbreite. Was wir wahrscheinlich unterschätzt haben, bevor wir uns Systeme angesehen haben, ist, wie stark der integrierte Speicher die Art und Weise verändert, wie Kühllösungen für diese Server gebaut werden können, da sie die Höhe der DIMM-Steckplätze nicht berücksichtigen müssen.

Hoffentlich werden wir bald weitere dieser Systeme im STH-Labor zu sehen bekommen.