AMD wagt sich mit Instinct MI450 an Rack-Scale-Architektur – Angriff auf NVIDIAs Vormachtstellung im KI-Rechenzentrum

Redaktion

Artikel-Butler
Mitarbeiter
Mitglied seit
Aug 6, 2018
Beiträge
2.801
Bewertungspunkte
12.966
Punkte
1
Standort
Redaktion
Mit der Ankündigung seiner ersten Rack-Scale-Infrastruktur will AMD offenbar ernsthaft ins Rennen um die großen KI-Rechenzentren einsteigen. Die neue Instinct-MI450-Serie, deren erste Vertreter im Jahr 2026 auf den Markt kommen sollen, zielt darauf ab, NVIDIA im lukrativen Segment der skalierbaren KI-Cluster Paroli zu bieten – zumindest auf dem Papier. Erste Details zeigen, dass AMD gewillt […] (read full article...)
 
Na gut, der Post von Semi-Analysis (vom April) bringt zwar schon einige wichtige Punkte, allerdings wird viel davon abhängen, ob:
- AMD hier wirklich einige "wins" by Hyperscalern landen kann (zB in KI: OpenAI, AWS, Microsoft, u.a.m.)
- AMD wirklich etwas ähnliches wie Nvidias Software Ökosystem aufbauen kann
- Nvidia ihnen den Gefallen tut und bis 2026 keine eigenen großen Fortschritte macht.

Vor allem letzteres ist die Variable, die schwer abzuschätzen ist.
 
Na gut, der Post von Semi-Analysis (vom April) bringt zwar schon einige wichtige Punkte, allerdings wird viel davon abhängen, ob:
- AMD hier wirklich einige "wins" by Hyperscalern landen kann (zB in KI: OpenAI, AWS, Microsoft, u.a.m.)
- AMD wirklich etwas ähnliches wie Nvidias Software Ökosystem aufbauen kann
- Nvidia ihnen den Gefallen tut und bis 2026 keine eigenen großen Fortschritte macht.
NVidia's Roadmap ist doch bekannt. Und auch die anderen Themen sind klar, OpenAI, MS und Meta nutzen AMD neben NVidia schon länger, weil deren Karten kostengünstig viel Rechenleistung bieten. Und AMD arbeitet auch schon länger mit den großen AI Framework Anbietern zusammen, sonst könnten die Kunden ja nicht so einfach wechseln.
Allerdings hat NVidia aktuell klar den Vorteil, dass sie ihre neuen Chips schon auf dem Markt haben, während AMD noch braucht. Bis MI4xx da ist, wird AMD nicht viele Kunden gewinnen (höchstens über den Preis), weil MI350X lediglich ein verbesserter MI300X mit mehr Speicher ist, aber weit von einer neuen Architektur weg ist.
 
NVidia's Roadmap ist doch bekannt. Und auch die anderen Themen sind klar, OpenAI, MS und Meta nutzen AMD neben NVidia schon länger, weil deren Karten kostengünstig viel Rechenleistung bieten. Und AMD arbeitet auch schon länger mit den großen AI Framework Anbietern zusammen, sonst könnten die Kunden ja nicht so einfach wechseln.
Allerdings hat NVidia aktuell klar den Vorteil, dass sie ihre neuen Chips schon auf dem Markt haben, während AMD noch braucht. Bis MI4xx da ist, wird AMD nicht viele Kunden gewinnen (höchstens über den Preis), weil MI350X lediglich ein verbesserter MI300X mit mehr Speicher ist, aber weit von einer neuen Architektur weg ist.
Das Hauptproblem, daß AMD hier hat (und das sie auch wissen) ist nach wie vor die Software, die IMHO zentral für Nvidias Burggraben (moat) ist. Die Rechenleistung der Instinct KI Beschleuniger ist eigentlich schon heute sehr kompetitiv, v.a. wenn man Preis/Leistung ansieht. AMD weiß daß dies ihre Achillesferse ist, und macht durchaus Anstrengungen, hier aufzuholen. Allerdings bleibt Nvidia eben auch nicht stehen.

Auch um die nächste Generation von Entwicklern, KI und angewandter KI, auf sich einzustimmen, wäre es wirklich wichtig, daß AMD ihre "Baby Instincts" (mein Name dafür, nicht AMDs), also die Strix Halos, mit mehr deutlich mehr als 128 GB RAM anbieten würden. Und auch trotzdem deutlich billiger zu halten als Nvidias DGX Spark.
Denn die nächste Welle von KI wird ziemlich sicher von Distills der großen Modelle geprägt sein.
 
[...]also die Strix Halos, mit mehr deutlich mehr als 128 GB RAM anbieten würden. Und auch trotzdem deutlich billiger zu halten als Nvidias DGX Spark.
Denn die nächste Welle von KI wird ziemlich sicher von Distills der großen Modelle geprägt sein.
Aktuell ist das Limit angeblich bei 128GB. Ob das am Speicher liegt (keine größeren Speichermodule) oder am Speichercontroller, wird man wohl erst mit der Zeit sehen. Beim Preis muss man schauen, Halo ist nicht gerade billig, aber aktuell scheinbar merklich billiger als DGX Spark, welche man wohl nur über NVidia bekommt (für 3999$). Halo ist da wohl grob nen Tausender billiger, aber aktuell gibt's auch noch sehr wenige Geräte, könnte noch mehr werden.

Bezüglich Software hat AMD durchaus schon einiges gemacht, aber auch noch einiges vor sich. Je nach Anwendung kann man sich auch mit ZLuda helfen, aber native AMD Lösungen wären da wünschenswert. Und das funktioniert auch nicht überall. Für RDNA4 hatte AMD ja auch viel Tamtam bezüglich KI gemacht. Ich hoffe, da kommt noch was. Sonst wäre das ziemlich ernüchternd.
 
Advanced Mühlen Mahlen Langsam aber Beständig. ;)

@Oberst
Was erwarten wir bei KI ?

- Einen Lebensberater ?
- Eine erweiterte Google Suche ?
- Jemand der meinen Befehlen gehorcht ?
- Oder einfach ein einfacheres Leben ?

Im Grunde sehen wir nur das Ergebnis der KI, aber nicht das was wir erwarten würden.
 
Oben Unten