GPUs Graphics Pro Reviews Software Workstations

Workstation Graphics Cards Charts 2023 with Cards from AMD and NVIDIA – Benchmarks of Real Applications and Full Versions, Plus an Efficiency Test

Efficiency and power consumption

As this is a roundup, the many details about the individual cards are somewhat out of place here and there would simply be too much content for one article. There will certainly be follow-ups and one or two new details. But today and for these charts, a general overview is of course much more useful.

And how does the power consumption of the cards shape up in different load scenarios? In this context, I consider the light 2D workloads, the medium-heavy 3D shading as well as the rendering and compute tasks separately. I don’t want to create a kind of efficiency index, because the results of the individual programs are much too different for that. Especially in mixed load, NVIDIA is much more efficient than the AMD cards, especially with Ada, even though the current Radeon Pro W7000 have caught up significantly. However, they have unfortunately not yet caught up with NVIDIA. What is generally not liked are the high idle rates of the newer generations of both manufacturers. This has also been much more frugal in the past.

Conclusion after 19 cards

Even though I’m still missing a few cards in the benchmark results, I feel confident enough to draw a preliminary conclusion. AMD has caught up significantly with the Radeon Pro W7000 series, often offering more performance for the same price, as long as you don’t rely on NVIDIA’s feature set, from AI to basic things like CUDA. Unfortunately, solutions with a HIP implementation are still scarce, but Blender at least shows the potential direction. And that brings us to a ‘but’.

Where I see a significant need for driver optimization with AMD is in the various Autodesk suites, where the cards often perform below their potential. Even the impressive performance in Creo or Solidworks is quickly relativized when FSAA is activated, which many do. Nonetheless, RDNA3 is back in the game, and that’s something to acknowledge fairly. Whether through price or not, the performance is often right in many applications, and that’s frequently all that matters. Time is money, and this isn’t about colorful games but real productive use.

And what about Ada? The RTX 6000 Ada, like the GeForce RTX 4090 in gaming, is the real standout. Even an RTX 5000 Ada looks really good, especially when it comes to efficiency. And even the smaller RTX 4000 Ada SFF is a fast card in many respects, even foregoing an extreme power connection. Yes, there are various applications where the performance difference to Ampere and the RTX Axxxx cards is not as significant as one might assume, but the progress is noticeable, especially in the significantly reduced power consumption. The Ada cards once again operate very close to the sweet spot, which naturally also helps with simpler cooling. AMD still has some catching up to do here.

In summary, it can be stated that a lot has happened in 2023 and both graphics card manufacturers have rediscovered the workstation market for themselves. AMD is back, yet NVIDIA has managed to maintain or even expand its lead in certain areas like compute. Much is now highly application-dependent, and as a user, you are more challenged than ever to gather information or test yourself to find out what is truly optimal. Long live the three big “P’s” – Performance, Price, and Product Support… as always.

Best Workstation Graphics Cards 2020 (Update)

 

PNY RTX 6000 Ada Generation, 48GB GDDR6, 4x DP, Smallbox (VCNRTX6000ADA-SB)

MindfactoryZentrallager: verfügbar, Lieferung 3-5 WerktageFiliale Wilhelmshaven: nicht lagerndStand: 09.05.24 07:078430,99 €*Stand: 09.05.24 07:14
tease Shopsiehe Shop8431,00 €*Stand: 09.05.24 06:02
grafikkarten.comlagernd (>5 Stück), Lieferung sofort möglich8447,81 €*Stand: 09.05.24 07:13
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

PNY RTX 5000 Ada Generation, 32GB GDDR6, 4x DP (VCNRTX5000ADA-PB)

BA-ComputerAbhol-/Versandbereit in 1-3 Werktagen4992,11 €*Stand: 09.05.24 07:13
Jacob Elektronik direktLieferzeit 3-5 Werktage4999,06 €*Stand: 09.05.24 07:00
Proshop.deVerfügbar - 5-7 Werktage Lieferzeit5119,25 €*Stand: 09.05.24 03:04
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

PNY RTX 4000 SFF Ada Generation, 20GB GDDR6, 4x mDP (VCNRTX4000ADALP-PB)

MindfactoryZentrallager: verfügbar, Lieferung 3-5 WerktageFiliale Wilhelmshaven: nicht lagerndStand: 09.05.24 07:071555,80 €*Stand: 09.05.24 07:14
Jacob Elektronik direktAb Zentrallager sofort lieferbar1555,81 €*Stand: 09.05.24 07:00
Plexcom Hardware For Youlagernd, 1-3 Werktage1555,85 €*Stand: 09.05.24 06:37
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

PNY RTX A6000, 48GB GDDR6, 4x DP, Smallbox (VCNRTXA6000-SB)

MindfactoryZentrallager: verfügbar, Lieferung 3-5 WerktageFiliale Wilhelmshaven: nicht lagerndStand: 09.05.24 07:074926,37 €*Stand: 09.05.24 07:14
tease Shopsiehe Shop4926,38 €*Stand: 09.05.24 06:02
electronis.de2-4 Tage4928,66 €*Stand: 09.05.24 07:08
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

AMD Radeon PRO W7900, 48GB GDDR6, 3x DP, mDP (100-300000074)

MindfactoryZentrallager: verfügbar, Lieferung 3-5 WerktageFiliale Wilhelmshaven: nicht lagerndStand: 09.05.24 07:073318,99 €*Stand: 09.05.24 07:14
computeruniverse.netSofort lieferbar, Lieferzeit max. 1-3 Werktage3319,00 €*Stand: 09.05.24 06:38
Cyberport.deSofort verfügbar, Lieferzeit max. 1-3 Werktage3319,00 €*Stand: 09.05.24 07:04
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

AMD Radeon PRO W7800, 32GB GDDR6, 3x DP, mDP (100-300000075)

MindfactoryZentrallager: verfügbar, Lieferung 3-5 WerktageFiliale Wilhelmshaven: nicht lagerndStand: 09.05.24 07:072285,87 €*Stand: 09.05.24 07:14
tease Shopsiehe Shop2285,88 €*Stand: 09.05.24 06:02
Plexcom Hardware For Youlagernd, 1-3 Werktage2297,15 €*Stand: 09.05.24 06:37
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

AMD Radeon PRO W7600, 8GB GDDR6, 4x DP (100-300000077)

MindfactoryZentrallager: verfügbar, Lieferung 3-5 WerktageFiliale Wilhelmshaven: nicht lagerndStand: 09.05.24 07:07609,17 €*Stand: 09.05.24 07:14
Jacob Elektronik direktAb Zentrallager sofort lieferbar609,18 €*Stand: 09.05.24 07:00
electronis.de2-4 Tage609,22 €*Stand: 09.05.24 07:08
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

AMD Radeon PRO W7500, 8GB GDDR6, 4x DP (100-300000078)

MindfactoryZentrallager: verfügbar, Lieferung 3-5 WerktageFiliale Wilhelmshaven: nicht lagerndStand: 09.05.24 07:07435,53 €*Stand: 09.05.24 07:14
electronis.de2-4 Tage435,54 €*Stand: 09.05.24 07:08
Plexcom Hardware For Youlagernd, 1-3 Werktage435,94 €*Stand: 09.05.24 06:37
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

 

Kommentar

Lade neue Kommentare

Not_A_Nerd

Mitglied

49 Kommentare 45 Likes

Ich würde mir einen Nachtest oder Update wünschen, wenn AMD im Herbst das die ROCm API in vollem Umfang für Windows released hat. Sie sind ja nun mit dem HIP SDK gestartet und das HIPIFY Tool soll in Kürze folgen wenn die neue AMD Software Pro Edition erscheint, noch ist diese ja Stand Q22.
Ich denke dann könnte sich gerade in Anwendung die derzeit noch Cuda Hochburg sind nochmal etwas tun unter Windows.
Linux ist man hier ja bereits schon deutlich weiter.

Auch wäre hier dann sicherlich mal ein Test interessant, wie gut oder wie schlecht es sich mit den normalen Consumer GPUs "arbeiten" lässt unter Windows.

Antwort 1 Like

w124

Mitglied

57 Kommentare 20 Likes

Lieben Dank für die Übersicht 👍

Mein Eindruck dabei ist, das die ganzen Karten doch recht beisammen sind und auch ältere Karten nicht schlecht dabei wegkommen.
Ist das allenfalls eine Frage der Treiberpflege?

Antwort Gefällt mir

Igor Wallossek

1

10,224 Kommentare 18,928 Likes

Keine der Suiten läuft mit nicht zertifizierten Karten. Creo verweigert den Start und bei Solidworks ist nicht nur RealView gesperrt. Zumal es einen tieferen Sinn hat, das Gaming-Geraffel dort auszusperren.

Aber: Hardware-technische Leichtgewichte wie AutoCAD tun es auch mit Consumer-Karten. Rendern kann man auch gut. Aber spätestens dann, wenn es um echte Simulationen geht, hätte ich Angst ums Ergebnis. Da reicht eine gekippte Speicherzelle und die Boeing macht Boing :D

Antwort 4 Likes

Igor Wallossek

1

10,224 Kommentare 18,928 Likes

Genau das. Würde AMD noch etwas liebevoller mit FSAA umgehen, wären die aktuellen Pro-Karten für Viele eine echte Alternative. Die "alte" RTX A6000 klebt der 6000 Ada ganz schön dicht am Popo, solange nicht die Tensor- und RT-Cores ins Spiel kommen. Selbst eine RTX 4000 (Turing) ist in vielen Bereichen noch gut dabei. Denn diese ganzen Karten haben auch genügend Speicher für fast noch alle Lebenslagen :D

Das Einzige, was voll nervt: RDNA2 und RDNA3 haben verschiedene Treiber-Pakete. Es ist technisch unmöglich, die Karten gemischt im PC zu verbauen.

Antwort 1 Like

echolot

Urgestein

942 Kommentare 727 Likes

Das ist mir auch sofort aufegafallen. Photoshop rennt dafür umso besser. Alle CAD-Arbeitsplätze sind momentan noch mit Nvidia ausgerüstet und wenn da nicht bald etwas passiert, wird das in näherer Zukunft auch so bleiben. Wobei die BIM-Siftware von ACAD (Revit, ich zähle Navisworks mal mit dazu) mittlerweile sehr gut mit weniger auskommt.

Antwort Gefällt mir

w124

Mitglied

57 Kommentare 20 Likes

Ich hatte mich seinerzeit, alsdie Verfügbarkeit aktueller GPUs eine Lotterie war, für eine gebrauchte RTX A4000 entschieden und finde bis dato deren Genügsamkeit an der Steckdose bemerkenswert.
Das erfreut mich umso mehr, wenn ich hier sehe, wo diese kleine Karte im Vergleich steht 👍

Antwort Gefällt mir

M
McFly_76

Veteran

396 Kommentare 136 Likes

Danke Igor für den Test :)

Wenn ich mir die Ergebnisse ansehe mit dem Wissen dass NAVI 31 von der Rechenleistung ( FP16, FP32, FP64 ) gegenüber dem Vorgänger um den Faktor 3 - 4 höher liegt dann frage ich mich warum der Leistungsvorsprung so klein ausfällt.

Ein Multi-GPU Aufbau bestehend aus der vorletzten Generation müsste demnach praktisch schneller arbeiten ( wenn die Software es untersützt ).

Antwort Gefällt mir

Alkbert

Urgestein

936 Kommentare 710 Likes

Unabhängig davon, dass ich eine Consumerkarte verwende, da meine Software keine zertifizierten Treiber braucht (Solid Edge, TurboCAD) bin ich zumindest fürs 3D Scanning leider zwingend auf CUDA angewiesen (Shining 3D, hier ExScan und ExStar). Die mögen einfach nicht mit AMD und Intel. Schade eigentlich.

Antwort Gefällt mir

e
eastcoast_pete

Urgestein

1,507 Kommentare 852 Likes

Super, danke für die Vergleichstests. Da steckt viel Arbeit drin, die aber nicht für nichts war und ist - ganz im Gegenteil! Sowas ist viel wert, und man findet es sonst sehr selten oder nie woanders. Und jetzt muss ich den Artikel erst mal gründlich lesen.

Nachtrag nach dem ersten vollen Lesen: Ja, da steckt wirklich VIEL Arbeit drin - Danke!

Gerade bei den AMD Karten kommt's wohl wirklich darauf an, wie speziell oder breit die Anwendungen gesetzt sind, die man mit den Karten machen will bzw muss. Da ist es uU hilfreich, auch den Kontext der PugetBench Tests einzubeziehen. Puget Systems baut ja (wie auch von Dir - @Igor Wallossek - beschrieben) Workstations v.a. für Photo, Video und Multimedia Anwendungen, und verkaufen und unterstützen auch die Software dazu. Und Puget empfehlen und verwenden durchaus AMD Karten in ihren Builds (Natürlich gibt's auch Systeme mit Nvidia Karten).

Ein Wunsch zur Webseite, v.a. bei solchen, sehr datenreichen Artikeln: eine Option, einen Artikel kontinuierlich auf einer Seite lesen zu können. Wobei mir klar ist, daß so eine Option auch einiges an Arbeit verursachen kann.

@Igor Wallossek : Sind Korrekturen von Tippfehlern etc erwünscht, und wenn ja, wie sollten die mitgeteilt werden?

Antwort 1 Like

Klicke zum Ausklappem
Igor Wallossek

1

10,224 Kommentare 18,928 Likes

Am einfachsten per PN, ich kann nicht immer im Thread mitlesen. Ich bin ja schon froh, dass ich heute kurz vor 6 fertig geworden bin. :D

Fehler am besten mit "Seite 7: vor einer Wnad..." (Exemplarisch) :D

Antwort 2 Likes

N
Novasun

Veteran

124 Kommentare 75 Likes

Das muss dank HIP aber in Zukunft nicht mehr so bleiben. Interessant wird es dann aber ob die Lösung leistungstechnisch mithalten kann.
Igor hat da wenigstens mal etwas Licht ins Dunkel mit Blender gebracht. Und das sieht gut aus und lässt hoffen.

Aber kaputt macht mich das AMD Autodesk so außen vor lässt. Warum?? Zahlt da wer wem was das der andere darf oder nicht darf??
AMD das ist auch ein Industriezweig wie die Filmbranche. Und wenn es stimmt was Igor vermutet dann bekommt euren Arsch hoch... Ganz ehrlich das schadet Nv nicht wenn im Autodesk zumindest bei den Balken etwas druck entsteht. Power ist ja da.

Ist FSAA eigentlich auch "nur" ein Treiberproblem?? Oder limitiert da in Hardware was?

Antwort Gefällt mir

Igor Wallossek

1

10,224 Kommentare 18,928 Likes

Ich denke mal, es ist die die leidige Treiber-Optimierung.

AMD schreibt selbst:
Aber man vergleicht z.B. eine Radeon Pro W6600 (112 Watt, 460 Euro) mit einer RTX A2000 12GB (66 Watt, 549 Euro), macht es also über den Preis.

View image at the forums

Ja, auch ich messe knapp 56 Prozentpunkte mehr als eine RTX A2000 6GB. Aber beide Karten sind nur etwas anders langsam. AMD muss die eigentlich potentere Karte über den Preis an den Kunden bringen, damit überhaupt was geht. Und NVIDIA schlägt immer noch fett drauf, weil man es scheinbar kann.

View image at the forums

Antwort 1 Like

Not_A_Nerd

Mitglied

49 Kommentare 45 Likes

AMD gibt das HIPIFY Tool für Windows in den nächsten Tagen frei. Damit kann man dann Cuda Anwendungen (ausser KI) automatisiert in AMD HIP übersetzen und auf AMD GPU direkt ausführen. HIP SDK und Radeon Software Pro Edition vorrausgesetzt.

Antwort Gefällt mir

Not_A_Nerd

Mitglied

49 Kommentare 45 Likes

Wird das selbe Spiele wie bei Adobe Produkten sein. Nvidia unterstützt Adobe finanziell und bekommt dafür weitreichende Optimierungen.

Antwort Gefällt mir

W
Wolfmind84

Neuling

1 Kommentare 0 Likes

Da hat sich ein Fehler im "Test System" eingeschlichen ;-)

SSD 2x 2 GB Netac NI7000-t NVMe

Antwort Gefällt mir

N
Novasun

Veteran

124 Kommentare 75 Likes

Ist das eine Vermutung deiner seits - oder gibt es da gesicherte Informationen zu?

Mir geht es nur darum. Wenn da Geld fließt oder politisch man einen bevorzugt - dann muss es @Igor Wallossek auch nicht negativ z.B. AMD anlasten. Weil dann wird sich da nichts ändern (können) sogar unter Umständen...

Wobei auch - wenn ich es jetzt richtig verstehe - auch @Igor Wallossek es nur vermutet das es im Treiber liegt... Problem könnte auch sein wenn NV irgendwo ne Art Algorithmus hat der das Sghading halt super effizient kann man diesen auch patentiert hat... Dann weiß AMD die Lösung zwar und wäre vielleicht genau so schnell kann diesen Algorithmus dann aber eben nicht nutzen...

Antwort Gefällt mir

MechUnit

Mitglied

64 Kommentare 38 Likes

Mich würde bei der Thematik einmal interessieren, ob es performancetechnische Unterschiede zw. 3DS 2016 und einer aktuelleren Version auf Softwareebene/Treiberkommunikation/Hardwareauslastung gibt - ähnlich wie bei Cinema 4D/Cinebench.

Oder ob man alternativ C4D/Cinebench bei solchen Tests mit im Parcours aufnehmen könnte.

Antwort Gefällt mir

Igor Wallossek

1

10,224 Kommentare 18,928 Likes

Können tut man alles, aber man braucht schon normierte Benchmarks, die konsistente Resultate liefern. Ich habe hier auch Maya 2023 und diverse Plugins getestet. Das war mir einfach nicht konsistent genug. Ja, man sieht Trends, aber es ist mir zu ungenau. Da müsste man sich selbst was bauen, was aber wiederum extrem zeit fressen würde. :(

Antwort 1 Like

n
nichimen

Neuling

2 Kommentare 0 Likes

Hi,thanks for these benchmarks,really useful as ever!
anyway looking at the graphs,they are confusing...(thanks Nvidia for this mess in the naming scheme!!)
with RTX 4000,5000,6000 are you referring to the Quadro RTX 4000,Quadro RTX 5000 and Quadro RTX 6000,that is the old cards based on Turing architecture?
or the RTX 5000 is actually the Ada Lovelace and you simply forgot to put Ada at the end?
with the RTX 4000 you meant the RTX 4000 SFF Ada or again the Quadro RTX 4000? (Turing based)
I ask you because the description of cards you give at the beginning of the article and the one on the graphs doesn't match

Antwort Gefällt mir

Danke für die Spende



Du fandest, der Beitrag war interessant und möchtest uns unterstützen? Klasse!

Hier erfährst Du, wie: Hier spenden.

Hier kannst Du per PayPal spenden.

About the author

Igor Wallossek

Editor-in-chief and name-giver of igor'sLAB as the content successor of Tom's Hardware Germany, whose license was returned in June 2019 in order to better meet the qualitative demands of web content and challenges of new media such as YouTube with its own channel.

Computer nerd since 1983, audio freak since 1979 and pretty much open to anything with a plug or battery for over 50 years.

Follow Igor:
YouTube Facebook Instagram Twitter

Werbung

Werbung