AI/KI Grafikkarten News

AMD Radeon 7900 XTX erreicht 890% Geschwindigkeitszuwachs bei generativer KI mit Stable Diffusion Optimization

In der KI-Diskussion beherrscht NVIDIA zu Recht die Szene. deren Grafikprozessoren sind sofort betriebsbereit und genießen den Vorrang bei Fachleuten und Unternehmen, die in die Welt der Künstlichen Intelligenz einsteigen möchten. Allerdings haben sowohl Intel als auch AMD gerade in dieser Woche ihre Software-Stacks optimiert, um erhebliche Geschwindigkeitssteigerungen im Bereich der generativen KI zu erzielen. Diese Aktualisierungen führten dazu, dass AMDs RTX 7900 XTX im Kontext generativer KI, insbesondere bei der Anwendung von Stable Diffusion mit A111/Xformers, ein besseres Leistungsverhältnis pro investiertem Dollar bietet als eine NVIDIA RTX 4080.

Quelle: AMD

 

Note: Tuning for GenAI, much like tuning for crypto mining performance, will have mileage vary significantly depending on the model/configuration being used. This article is about the most common A111 Xformers config (you can get a running tally of average performance by GPU here: https://vladmandic.github.io/sd-extension-system-info/pages/benchmark.html) but there *are* hyper tuned boutique optimizations where the NVIDIA RTX 4080 is faster still.

Die Verwendung von Microsoft Olive und DirectML anstelle des PyTorch-Pfades könnte die Geschwindigkeit des AMD 7900 XTX von 1,87 Iterationen pro Sekunde auf 18,59 Iterationen pro Sekunde erhöhen. Die detaillierte Anleitung von AMD dazu kann eingesehen werden. Das erreichte Leistungsniveau in Automatic111 könnte Ähnlichkeiten zum SHARK-basierten Ansatz von Stable Diffusion aufweisen und zweifellos die Präsenz des Unternehmens im Bereich der generativen KI festigen. Es dürfte damit auch erkennbar sein, dass die 7900 XTX zudem im Vergleich zur ähnlichen RTX 4080 eine potenziell bessere GenAI-Leistung pro Dollar bei Stable Diffusion /A111 aufweist, zumindest unter den aktuellen Preisen.

Die preisgünstigste NVIDIA RTX 4080, die zum aktuellen Zeitpunkt (Stand: 19.8.2023) bei Newegg erhältlich ist, ist die MSI Ventus GeForce RTX 4080 16GB. Die kostengünstigste AMD Radeon 7900 XTX, die ebenfalls bei Newegg verfügbar ist, ist die MSI Gaming Radeon RX 7900 XTX 24GB. Vor der Analyse der Zahlen sollte aber beachtet werden, dass der AMD-Ansatz etwas mehr technisches Verständnis erfordern könnte als der NVIDIA-Ansatz. Beim AMD-Ansatz wird Microsoft Olive anstelle von PyTorch verwendet, wobei die meisten automatischen Installationsprogramme möglicherweise nicht von sich aus die notwendigen Abhängigkeiten installieren düften. Bei Betrachtung des Bequemlichkeitsfaktors könnte NVIDIA also weiterhin die unkompliziertere Wahl bleiben. Dennoch könnten Fachleute und kleine Unternehmen normalerweise die anfänglichen Herausforderungen bei der Installation meistern, insbesondere wenn die Kostenbasis attraktiv genug ist – was hier der Fall sein könnte.

Wie erkennbar ist, beginnt das AMD-Silizium im Bereich der GenAI endlich zu glänzen. So kann man inzwischen einen höheren Wert als die RTX 4080 in Stable Diffusion A111 erreichen. Die AMD 7900 XTX soll eine Geschwindigkeit von 18,59 Iterationen pro Sekunde zu einem Preis von 52,1 $ pro Iteration erzielen, während die NVIDIA RTX 4080 eine Geschwindigkeit von 19,41 Iterationen pro Sekunde zu einem Preis von 56,6 $ pro Iteration erreicht. Bei der weniger verbreiteten SHARK-Implementierung könnte das Preis-Leistungs-Verhältnis der Radeon 7900 XTX sogar auf nur 46,6 $ pro Iteration gesteigert werden. AMD ist möglicherweise ein ernstzunehmender Mitbewerber für Verbraucher, die ein Interesse an generativer KI haben.

Dies könnte auch zur Folge haben, dass AMD bei angemessener Aufmerksamkeit zu einem bedeutsamen Konkurrenten für NVIDIAs KI-Ambitionen heranwachsen könnte. Während die Mehrheit der Menschen keine LLMs im Keller haben, könnten GenAI sowie SLMs/ULMs in den kommenden 12 Monaten allgegenwärtiger und ein wichtiger Teil zahlreicher Produktivitäts-Workflows werden. Die Art und Weise, wie sich Intel und AMD in einem Markt positionieren, in dem NVIDIA einen signifikanten Vorsprung innehat, könnte darüber entscheiden, wie sie in einer von KI dominierten Welt abschneiden.

Quelle: AMD

 

Kommentar

Lade neue Kommentare

S
Shama

Mitglied

85 Kommentare 45 Likes

Und das gesparte Geld verballert man dann bei der Leistungsaufnahme?

Antwort Gefällt mir

Nulight

Veteran

245 Kommentare 165 Likes

Schön zu sehen.
Bisweilen arbeite ich mit der 4090 in Stable Diffusion, welche auch mehrere Optimierungen erhalten hatte.

Macht doch Spaß Stable Diffusion.
Laboratory, pc battlestation, led light, watercooling, hardware, old men in center, old men, wearing glasses, looking at viewer, gaming room,

Titel: Die ersten Quantenchips werden auf Herz und Nieren getestet.

View image at the forums

Schönen Sonntag

Antwort 1 Like

Y
Yumiko

Urgestein

513 Kommentare 222 Likes

Die max. Leistungsaufnahme sind gar nicht so unterschiedlich - die laufen dabei ja auf Vollast. Wenn man bei der Dauergeneration von KI ist, könnte es interessant werden, ansonsten alle Stunde mal eine KI-Funktion in der Bildbearbeitungssoftware anklicken sollte nicht so stark ins Gewicht fallen.
Soweit sind wir aber noch nicht überall - könnte für die nächste Generation der Software/Hardware eher entscheidend sein und da wissen wir noch nichts über die Hardware und deren Leistung in dem Segment.

Antwort Gefällt mir

8j0ern

Urgestein

2,667 Kommentare 835 Likes

Dann schauen wir mal, wer den Rechen-Job schneller erledigt hat.

Race to IDLE matters, wer schneller fertig ist, braucht auch schneller kein Strom mehr. ;)

Antwort Gefällt mir

e
eastcoast_pete

Urgestein

1,635 Kommentare 953 Likes

Wobei es bei Nvidia eben immer auch noch einfacher ist (weniger Gefrickel). Darf man glaub ich nicht unterschätzen wie wichtig das ist; vielleicht bin ich mit den Jahren auch etwas fauler geworden, oder weiser. Warum mit dem Kopf durch die Wand, wenn's daneben auch ne Tür gibt?

Antwort Gefällt mir

Nulight

Veteran

245 Kommentare 165 Likes

Nvidia macht meiner Erfahrung nach, circa 15 Jahre im PC Bereich, die wenigsten Software und Hardware Probleme.
Das ist aber ganz alleine meine Erfahrung und ich hatte beides.
Jedes Mal, wenn ich eine AMD Karte hatte, sie funktionierte, aber es war eben nur okay aber nicht wirklich so rund und stressfrei.
Da ich öfter Probleme mit dem Treiber hatte, wurde es nach der 7900XT die 4090, einbauen, Treiber drauf und läuft.

Antwort Gefällt mir

8j0ern

Urgestein

2,667 Kommentare 835 Likes

Danke für die Spende



Du fandest, der Beitrag war interessant und möchtest uns unterstützen? Klasse!

Hier erfährst Du, wie: Hier spenden.

Hier kannst Du per PayPal spenden.

About the author

Igor Wallossek

Chefredakteur und Namensgeber von igor'sLAB als inhaltlichem Nachfolger von Tom's Hardware Deutschland, deren Lizenz im Juni 2019 zurückgegeben wurde, um den qualitativen Ansprüchen der Webinhalte und Herausforderungen der neuen Medien wie z.B. YouTube mit einem eigenen Kanal besser gerecht werden zu können.

Computer-Nerd seit 1983, Audio-Freak seit 1979 und seit über 50 Jahren so ziemlich offen für alles, was einen Stecker oder einen Akku hat.

Folge Igor auf:
YouTube   Facebook    Instagram Twitter

Werbung

Werbung