Nvidia & MediaTek: Wenn der Supercomputer in die Lunchbox passt

[Redaktion]

Es wirkt fast wie ein technologisches Paradoxon: NVIDIA, einst Lieferant von überdimensionierten Server-Klonen für Rechenzentren, macht plötzlich mobil. Mit dem DGX Spark liefert Team Green eine Antwort auf die wachsende Nachfrage nach leistungsstarken, aber kompakten KI-Systemen – und bringt damit seine Rechenmonster in ein Schuhkarton-Format. Die Gerüchteküche spricht von einem Marktstart im Juli 2025. Offizielle […] (read full article...)

 

[konkretor]

Habe den Preis vom Nvidia Partner die Woche bekommen. Statt 3000$ sind es nun 4500 € für die Kiste. Die Nachfrage ist hoch. Bekomme wohl keine ab am Anfang. Mal sehen wie es im Herbst dann aussieht

 

[eastcoast_pete]

Habe den Preis vom Nvidia Partner die Woche bekommen. Statt 3000$ sind es nun 4500 € für die Kiste. Die Nachfrage ist hoch. Bekomme wohl keine ab am Anfang. Mal sehen wie es im Herbst dann aussieht

Die Nachfrage wird enorm sein, und wahrscheinlich auch bleiben. Da man zwei dieser Kisten mit sehr hoher Geschwindigkeit miteinander vernetzen und dann ein ziemlich großes KI Modell (Nvidias Webseite redet von bis zu 405 Milliarden Parameter) darauf zum laufen bringen kann, sind zwei dieser Kisten in solchen Situationen eine starke Alternative zu einer Workstation mit einer Blackwell RTX 6000 (mit "nur" 96 GB VRAM). Und selbst zwei Sparks zu ~ € 4500 pro Stück sind billiger als eine RTX 6000.
Mögliche, billigere Alternative: "Battlematrix" (4 x 2B60) von Intel, die soll insgesamt angeblich für weniger zu haben sein als eine RTX6000, und bis Q4 dieses Jahres erhältlich sein.

 

[grimm]

Wie krass schnell die relevante Produkte raushauen, die dann auch noch aussehen wie jahrelang designt. Hab wenig Sympathie für den Laden muss aber der Geschäftstüchtigkeit der Produktstrategie Respekt zollen.

 

[cunhell]

Naja, ist ja nicht so, dass Nvidia erst seit gestern die Dinger plant. Und mit "Mini"-PCs haben die ja schon auf Grund ihrer Erfahrung mit ihren Tegra-Chips vorwissen.
Soll nicht heissen, dass die Dinger nicht gut sind, nur "schnell" hergestellt ist mMn. relativ.

Cunhell

 

[grimm]

Dann sag ich es mal so: Zur Marktreife gebracht. Die sind echt gut aufgestellt. Ich mein, schau dir mal Intel an. War mal ne ähnlich große Nummer aber außer Vertriebsterror haben die nicht viel hingekriegt.

 

[cunhell]

Intel hat sich einfach auf ihren Lorbeeren ausgeruht und zusätzlich noch ihre Fabs nicht zum Laufen bekommen.
Es reicht halt nicht, dem Mitbewerber immer nur Stöcke zwischen die Beine zu werfen.

Nvidia liefert halt ab und sichert sich eben so massiven Einfluß. In meinen Augen zu viel Einfluß, aber das ist ein anderes Thema.

Cunhell

 

[HerrFornit]

SInd die auch für andere DInge als KI Modelle gut? Oder sind das Spezialisten?

 

[eastcoast_pete]

SInd die auch für andere DInge als KI Modelle gut? Oder sind das Spezialisten?

Nach allem was ich so gelesen habe, inklusive der offiziellen Webseite von Nvidia, sind die Sparks sehr stark auf KI ausgerichtet, also Spezialisten. Auch das OS, das die DGX mitbringt, ist von Nvidia auf KI hin optimiert. Jetzt hat die Grace Blackwell in den Sparks durchaus auch ziemlich starke CPU Leistung zu bieten (10 Cortex-X925 + 10 Cortex-A725), aber für mehr allgemeine Zwecke wird man, sofern es eine APU sein soll, wahrscheinlich mit einer Strix Halo (Ryzen AI Max 395) deutlich glücklicher. Die gibt's zB von Framework als mini-ITX System auch für ungefähr die Hälfte des Preises einer DGX Spark. Bei KI allerdings wird eine Spark auch einer Strix Halo in Vollausbau (128 GB) auf-und-davon ziehen, und zwei Sparks im Verbund wohl auch einer großen TR Workstation mit RTX 6000 weit über sein. Schon eine Tour-de-Force von Nvidia.

Wenn's eher was "mini-PC" mäßiges sein soll, wär uU ein Minisforum MS-2 mit der 9955HX und einer halb-hohen dGPU Karte eine Erwägung wert. Kostet auch voll ausgestattet noch weniger als ein Framework AI Max.

 

[HerrFornit]

Nach allem was ich so gelesen habe, inklusive der offiziellen Webseite von Nvidia, sind die Sparks sehr stark auf KI ausgerichtet, also Spezialisten. Auch das OS, das die DGX mitbringt, ist von Nvidia auf KI hin optimiert. Jetzt hat die Grace Blackwell in den Sparks durchaus auch ziemlich starke CPU Leistung zu bieten (10 Cortex-X925 + 10 Cortex-A725), aber für mehr allgemeine Zwecke wird man, sofern es eine APU sein soll, wahrscheinlich mit einer Strix Halo (Ryzen AI Max 395) deutlich glücklicher. Die gibt's zB von Framework als mini-ITX System auch für ungefähr die Hälfte des Preises einer DGX Spark. Bei KI allerdings wird eine Spark auch einer Strix Halo in Vollausbau (128 GB) auf-und-davon ziehen, und zwei Sparks im Verbund wohl auch einer großen TR Workstation mit RTX 6000 weit über sein. Schon eine Tour-de-Force von Nvidia.

Wenn's eher was "mini-PC" mäßiges sein soll, wär uU ein Minisforum MS-2 mit der 9955HX und einer halb-hohen dGPU Karte eine Erwägung wert. Kostet auch voll ausgestattet noch weniger als ein Framework AI Max.

Ok, danke für Deine ausführliche Antwort! Mein Interesse an KI ist dann noch nicht so groß, dass ich das für 4000,- brauche. Konvetionelle IC in gewohntem OS sind wir wichtiger.

Von den chinesichen Mini PC lass ich auch immer noch die Finger, obwohl es mich, wie bei dem von Dir erwähnten Minisforum, doch juckt.