KI und HPC im Fokus: NVIDIA GH200 Grace Hopper Superchip zeigt Potenzial in ersten Tests

Die NVIDIA Grace CPU stellt eine Alternative zu den herkömmlichen x86-CPUs im Serverbereich dar. Sie basiert auf der Arm-Architektur und verfügt über bis zu 144 Neoverse V2-Kerne. Es gibt zwei Varianten der Grace CPU: Zum einen den Grace Hopper Superchip mit der H200 GPU und einem einzelnen Grace-Chip mit 72 Kernen und HBM-Speicher, und zum anderen den Grace Superchip, der zwei Grace-CPUs enthält, jeweils mit 72 Kernen – insgesamt also 144 Kerne – und LPDDR5x-Speicher. Mit der Entwicklung dieses Chips strebt NVIDIA danach, seine Abhängigkeit vom x86-CPU-Markt, in dem Unternehmen wie AMD und Intel dominieren, zu verringern und seinen Kunden eine eigene Lösung anzubieten.

Einige der herausragendsten Merkmale von Grace sind:

• Hochleistungs-CPU für HPC und Cloud Computing
• Super-Chip-Design mit bis zu 144 Arm-v9-CPU-Kernen
• Weltweit erstes LPDDR5x mit ECC-Speicher, Gesamtbandbreite von 1 TB/s
• SPECrate2017_int_base über 740 (geschätzt)
• Kohärente Schnittstelle mit 900 GB/s, 7-mal schneller als PCIe Gen 5
• 2-mal höhere Verpackungsdichte als DIMM-basierte Lösungen
• 2-mal höhere Leistung pro Watt als führende CPUs von heute
• Unterstützt alle NVIDIA-Softwarestapel und Plattformen, einschließlich RTX, HPC, KI und Omniverse

NVIDIA hat in offiziellen Benchmarks behauptet, dass die Grace-CPU im Vergleich zu den Intel Sapphire Rapids und AMD Genoa-CPUs eine bis zu doppelte Leistung bei gleicher Leistung bieten würde. Außerdem wurde gezeigt, dass die Effizienz bis zu 3,5-mal höher ist als bei den letzten AMD-EPYC-Milan-CPUs. Phoronix hat nun umfangreiche HPC-Benchmarks auf Linux-Basis durchgeführt, um diese Behauptungen zu überprüfen.

Die NVIDIA Grace CPU scheint fast mit Intels Topmodell, dem Emerald Rapids Xeon CPU mit 60 Kernen, und den 64-Kern-EPYC-Genoa-Chips von AMD gleichauf zu liegen. Dies ist zu erwarten, da die Grace CPU über eine höhere Kernanzahl von 72 Kernen verfügt. Da es sich jedoch um einen neuen Chip handelt, ist zu erwarten, dass die Leistung weiter verbessert wird, da die Arm-Architektur von NVIDIA speziell für HPC- und Serveranwendungen optimiert wird.
Der wichtigste Test, nämlich die Leistungsaufnahme und Effizienz des Chips, wurde nicht durchgeführt, da das Technik-Outlet berichtet, dass für den GH200 Grace Hopper Superchip noch keine Unterstützung für die Leistungsüberwachung verfügbar ist.

Diese Unterstützung wird jedoch hinzugefügt, sobald sie verfügbar ist. Der Grace Superchip mit zwei Grace-CPUs und 144 Kernen wird mit einer Gesamtleistung von bis zu 500W bewertet, daher könnte man eine Leistungsaufnahme von 200-250W pro CPU schätzen, was deutlich niedriger ist als die TDP-Werte von 320-350W der Topmodelle von AMD EPYC und Intel Xeon CPUs.

Alles in allem scheint NVIDIAs Grace-CPU ein vielversprechender Einstieg für das Team Green in das Arm-CPU-Segment zu sein. Der 144-Kern-Grace-Superchip wird besonders spannend sein, da wir die Leistungssteigerung durch die doppelte Anzahl an Kernen und die Skalierung der Leistung beobachten können.

Quelle: Phoronix