AMD Radeon 7900 XTX erreicht 890% Geschwindigkeitszuwachs bei generativer KI mit Stable Diffusion Optimization

In der KI-Diskussion beherrscht NVIDIA zu Recht die Szene. deren Grafikprozessoren sind sofort betriebsbereit und genießen den Vorrang bei Fachleuten und Unternehmen, die in die Welt der Künstlichen Intelligenz einsteigen möchten. Allerdings haben sowohl Intel als auch AMD gerade in dieser Woche ihre Software-Stacks optimiert, um erhebliche Geschwindigkeitssteigerungen im Bereich der generativen KI zu erzielen. Diese Aktualisierungen führten dazu, dass AMDs RTX 7900 XTX im Kontext generativer KI, insbesondere bei der Anwendung von Stable Diffusion mit A111/Xformers, ein besseres Leistungsverhältnis pro investiertem Dollar bietet als eine NVIDIA RTX 4080.

Note: Tuning for GenAI, much like tuning for crypto mining performance, will have mileage vary significantly depending on the model/configuration being used. This article is about the most common A111 Xformers config (you can get a running tally of average performance by GPU here: https://vladmandic.github.io/sd-extension-system-info/pages/benchmark.html) but there *are* hyper tuned boutique optimizations where the NVIDIA RTX 4080 is faster still.

Die Verwendung von Microsoft Olive und DirectML anstelle des PyTorch-Pfades könnte die Geschwindigkeit des AMD 7900 XTX von 1,87 Iterationen pro Sekunde auf 18,59 Iterationen pro Sekunde erhöhen. Die detaillierte Anleitung von AMD dazu kann eingesehen werden. Das erreichte Leistungsniveau in Automatic111 könnte Ähnlichkeiten zum SHARK-basierten Ansatz von Stable Diffusion aufweisen und zweifellos die Präsenz des Unternehmens im Bereich der generativen KI festigen. Es dürfte damit auch erkennbar sein, dass die 7900 XTX zudem im Vergleich zur ähnlichen RTX 4080 eine potenziell bessere GenAI-Leistung pro Dollar bei Stable Diffusion /A111 aufweist, zumindest unter den aktuellen Preisen.

Die preisgünstigste NVIDIA RTX 4080, die zum aktuellen Zeitpunkt (Stand: 19.8.2023) bei Newegg erhältlich ist, ist die MSI Ventus GeForce RTX 4080 16GB. Die kostengünstigste AMD Radeon 7900 XTX, die ebenfalls bei Newegg verfügbar ist, ist die MSI Gaming Radeon RX 7900 XTX 24GB. Vor der Analyse der Zahlen sollte aber beachtet werden, dass der AMD-Ansatz etwas mehr technisches Verständnis erfordern könnte als der NVIDIA-Ansatz. Beim AMD-Ansatz wird Microsoft Olive anstelle von PyTorch verwendet, wobei die meisten automatischen Installationsprogramme möglicherweise nicht von sich aus die notwendigen Abhängigkeiten installieren düften. Bei Betrachtung des Bequemlichkeitsfaktors könnte NVIDIA also weiterhin die unkompliziertere Wahl bleiben. Dennoch könnten Fachleute und kleine Unternehmen normalerweise die anfänglichen Herausforderungen bei der Installation meistern, insbesondere wenn die Kostenbasis attraktiv genug ist – was hier der Fall sein könnte.

Wie erkennbar ist, beginnt das AMD-Silizium im Bereich der GenAI endlich zu glänzen. So kann man inzwischen einen höheren Wert als die RTX 4080 in Stable Diffusion A111 erreichen. Die AMD 7900 XTX soll eine Geschwindigkeit von 18,59 Iterationen pro Sekunde zu einem Preis von 52,1 $ pro Iteration erzielen, während die NVIDIA RTX 4080 eine Geschwindigkeit von 19,41 Iterationen pro Sekunde zu einem Preis von 56,6 $ pro Iteration erreicht. Bei der weniger verbreiteten SHARK-Implementierung könnte das Preis-Leistungs-Verhältnis der Radeon 7900 XTX sogar auf nur 46,6 $ pro Iteration gesteigert werden. AMD ist möglicherweise ein ernstzunehmender Mitbewerber für Verbraucher, die ein Interesse an generativer KI haben.

Dies könnte auch zur Folge haben, dass AMD bei angemessener Aufmerksamkeit zu einem bedeutsamen Konkurrenten für NVIDIAs KI-Ambitionen heranwachsen könnte. Während die Mehrheit der Menschen keine LLMs im Keller haben, könnten GenAI sowie SLMs/ULMs in den kommenden 12 Monaten allgegenwärtiger und ein wichtiger Teil zahlreicher Produktivitäts-Workflows werden. Die Art und Weise, wie sich Intel und AMD in einem Markt positionieren, in dem NVIDIA einen signifikanten Vorsprung innehat, könnte darüber entscheiden, wie sie in einer von KI dominierten Welt abschneiden.

Quelle: AMD