GPUs Graphics Pro Reviews Software Workstations

Workstation Graphics Cards Charts 2023 with Cards from AMD and NVIDIA – Benchmarks of Real Applications and Full Versions, Plus an Efficiency Test

Where do current workstation graphics cards from both manufacturers stand when it comes to design, construction, simulation, 3D visualization and creation? Has AMD been able to catch up or even overtake with the new lineup of Radeon Pro graphics cards or are Ada and Ampere still the measure of all things? I’ll try to find objective answers to this today and have therefore largely dispensed with automatable, synthetic benchmarks. The insights gained are quite interesting, because one can certainly come close to many things, but probably never reach the absolute truth.

Professional applications are much too complex to be able to make a truly universal statement. However, it is possible to work out trends that are either architecture- or driver-related. In the end, everyone can decide for themselves in which area they see the best card for the money. Whereby the money in the workstation sector is rather relative, because if you want to earn money, you first have to spend it. Unfortunately, this old wisdom still applies today

Small selection of tested cards

NVIDIA RTX Ada, RTX Ampere as well as RTX Pascal

These cards are also largely archived as permanent loans or direct acquisitions. By now, the Ada and Ampere lineups are almost complete, so I extend my special thanks to PNY and MIFCOM today. MIFCOM was kind enough to complete my Ampere lineup, with the remaining cards, including the new Ada cards, predominantly coming from PNY. Of course, some patience was required, as the newly launched cards always take their time to arrive. But by now, almost everything has been processed and data has been incorporated into the many charts.

What was available was, of course, tested immediately, so that in total, I now have 19 current test subjects. This number might increase if I test the pending RTX 4500 Ada and the older Pascal cards at a later date. But for a current inventory, this number is already sufficient, as the test samples are quite representative of the respective manufacturer’s generation.

AMD Radeon Pro W7900, W7800, W7700, W7600 and W7500

All these cards are still quite new, and I have also recently added the newly launched Radeon Pro W7700 to the mix. I don’t want to preempt the results, but AMD certainly has a chance to score well in some areas with these cards. Of course, there is still some catching up to do in NVIDIA’s forte, but the gap has generally narrowed. And if the price is right (and AMD likes to compare cards based on price), then the professional user can certainly find some bargains if they are confident in making the switch to AMD.

If you can even put it that easy at these prices. Thanks to AMD’s sampling, these cards are permanently in my inventory and can therefore be permanently tested. There are also two cards from the somewhat neglected previous generation.

Test software and workstation

The software package includes 4 large software suites from PTC Inc, Dassault Systèmes, Autodesk as well as Adobe and of course the usual standard software like Blender. I use professional or standardized workloads and do without synthetic benchmarks for this. The only exception here is SPECviewperf 2020, which I deliberately included because it allows you to do two things. Firstly, you can see in direct comparison to the full versions where the graphics card manufacturers have optimized the drivers to look particularly good. And secondly, everyone can benchmark it themselves to be able to draw a direct comparison.

Even if NVIDIA would have liked to see it differently, today it is only conditionally about AI and computers (but also). It was important for me that there are programs in the test that run on all architectures and thus also allow a direct comparison. We’ll also see that some tasks don’t require an ultra-expensive high-end card at all. These findings are also important when it comes to an investment decision. Practicality is the new magic word.

The workstation is a PC with an Intel Core i9-13900K on an MSI Z790 Godlike (I know, it’s a gaming board) and 64GB of DDR5 PC6000 CL30, though I intentionally run the memory as DDR5 5200 only. The performance difference to DDR5 6000 is marginal in this application area, especially since I had a case where after a longer Creo run with 5 iterations with DDR5 6000 the system froze shortly before the end. By the way, this is also the reason why I only allow the Core i9-13900K a PL1 and PL2 of 125 watts. It’s not a gaming PC and stability, as always, comes first. Time is pure money and a potential data loss can’t be excused with anything. It’s all cooled with a simple 360 Silent-Loop 2 AiO from be quiet! and I put the workstation in a Fractal Meshify XL, just like the VGA test station.

I deliberately chose a professional solution for the monitor. The almost frameless BenQ PD322020U is large enough with its 31.5 inch diagonal and 3840 x 2160 pixels, has an excellent AHVA panel from AU Optronics and almost completely covers the required color spaces with 10 bit color depth (1.07 billion colors). The ergonomics are almost perfect and you can turn it (up to the pivot function) however you want – a setting always fits. Not quite up to date, but proven.

Test System
CPU Intel Core i9-13900K @ 125W (PL2 = PL1)
RAM 64 (2x 32) GB Corsair Dominator Platinum DDR5 PC6000 CL30 @ DDR5 5200
Mainboard MSI MEG Z790 Godlike
Cooler Be Quiet Silent Loop 2, 360 mm
PSU Be Quiet! Dark Power 1000 Watt
SSD 2x 2 GB Netac NI7000-t NVMe
Case Fractal Meshify XL
Monitor BenQ PD322020U
OS Windows 11 Professional (all updates)
Drivers NVIDIA Branch/Studio:
R535 U8 (537.70) WHQL

AMD Software Pro Edition:
23.Q3.1 (W7000 series), 23.30.02 (W7700)
23.Q3.1 (W6000 series)

PNY RTX 6000 Ada Generation, 48GB GDDR6, 4x DP, Smallbox (VCNRTX6000ADA-SB)

MindfactoryZentrallager: verfügbar, Lieferung 3-5 WerktageFiliale Wilhelmshaven: nicht lagerndStand: 18.05.24 23:358447,79 €*Stand: 18.05.24 23:49
Jacob Elektronik direktLieferzeit 3-5 Werktage8447,80 €*Stand: 18.05.24 23:34
grafikkarten.comlagernd (>5 Stück), Lieferung sofort möglich8447,81 €*Stand: 18.05.24 23:39
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

PNY RTX 5000 Ada Generation, 32GB GDDR6, 4x DP (VCNRTX5000ADA-PB)

Proshop.deVerfügbar - 5-7 Werktage Lieferzeit5120,25 €*Stand: 18.05.24 23:08
Jacob Elektronik direktLieferzeit 3-5 Werktage5125,22 €*Stand: 18.05.24 23:34
galaxusLager Lieferant: Sofort lieferbar, 2-4 Werktage5125,24 €*Stand: 18.05.24 23:07
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

PNY RTX 4000 SFF Ada Generation, 20GB GDDR6, 4x mDP (VCNRTX4000ADALP-PB)

electronis.de2-4 Tage1574,17 €*Stand: 18.05.24 23:30
Jacob Elektronik direktAb Zentrallager sofort lieferbar1574,18 €*Stand: 18.05.24 23:34
Future-X.deAuf Lager1574,19 €*Stand: 18.05.24 23:47
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

PNY RTX A6000, 48GB GDDR6, 4x DP, Smallbox (VCNRTXA6000-SB)

tease Shopsiehe Shop4935,97 €*Stand: 18.05.24 23:35
electronis.de2-4 Tage4937,34 €*Stand: 18.05.24 23:30
Jacob Elektronik direktLieferzeit 3-5 Werktage4948,98 €*Stand: 18.05.24 23:34
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

AMD Radeon PRO W7900, 48GB GDDR6, 3x DP, mDP (100-300000074)

computeruniverse.netSofort lieferbar, Lieferzeit max. 1-3 Werktage3199,99 €*Stand: 18.05.24 22:52
Proshop.deVerfügbar - 5-7 Werktage Lieferzeit3244,50 €*Stand: 18.05.24 23:08
Cyberport.deSofort verfügbar, Lieferzeit max. 1-3 Werktage3326,00 €*Stand: 18.05.24 23:38
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

AMD Radeon PRO W7800, 32GB GDDR6, 3x DP, mDP (100-300000075)

MindfactoryZentrallager: verfügbar, Lieferung 3-5 WerktageFiliale Wilhelmshaven: nicht lagerndStand: 18.05.24 23:352243,49 €*Stand: 18.05.24 23:49
tease Shopsiehe Shop2243,50 €*Stand: 18.05.24 23:35
Jacob Elektronik direktAb Zentrallager sofort lieferbar2318,99 €*Stand: 18.05.24 23:34
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

AMD Radeon PRO W7600, 8GB GDDR6, 4x DP (100-300000077)

MindfactoryZentrallager: verfügbar, Lieferung 3-5 WerktageFiliale Wilhelmshaven: nicht lagerndStand: 18.05.24 23:35603,82 €*Stand: 18.05.24 23:49
Jacob Elektronik direktAb Zentrallager sofort lieferbar603,83 €*Stand: 18.05.24 23:34
electronis.de2-4 Tage603,84 €*Stand: 18.05.24 23:30
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

AMD Radeon PRO W7500, 8GB GDDR6, 4x DP (100-300000078)

MindfactoryZentrallager: verfügbar, Lieferung 3-5 WerktageFiliale Wilhelmshaven: nicht lagerndStand: 18.05.24 23:35433,16 €*Stand: 18.05.24 23:49
electronis.de2-4 Tage433,17 €*Stand: 18.05.24 23:30
digitalo.deLieferzeit 7-10 Werktage434,77 €*Stand: 18.05.24 22:44
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von geizhals.de

 

 

Kommentar

Lade neue Kommentare

Not_A_Nerd

Mitglied

49 Kommentare 45 Likes

Ich würde mir einen Nachtest oder Update wünschen, wenn AMD im Herbst das die ROCm API in vollem Umfang für Windows released hat. Sie sind ja nun mit dem HIP SDK gestartet und das HIPIFY Tool soll in Kürze folgen wenn die neue AMD Software Pro Edition erscheint, noch ist diese ja Stand Q22.
Ich denke dann könnte sich gerade in Anwendung die derzeit noch Cuda Hochburg sind nochmal etwas tun unter Windows.
Linux ist man hier ja bereits schon deutlich weiter.

Auch wäre hier dann sicherlich mal ein Test interessant, wie gut oder wie schlecht es sich mit den normalen Consumer GPUs "arbeiten" lässt unter Windows.

Antwort 1 Like

w124

Mitglied

58 Kommentare 24 Likes

Lieben Dank für die Übersicht 👍

Mein Eindruck dabei ist, das die ganzen Karten doch recht beisammen sind und auch ältere Karten nicht schlecht dabei wegkommen.
Ist das allenfalls eine Frage der Treiberpflege?

Antwort Gefällt mir

Igor Wallossek

1

10,276 Kommentare 19,019 Likes

Keine der Suiten läuft mit nicht zertifizierten Karten. Creo verweigert den Start und bei Solidworks ist nicht nur RealView gesperrt. Zumal es einen tieferen Sinn hat, das Gaming-Geraffel dort auszusperren.

Aber: Hardware-technische Leichtgewichte wie AutoCAD tun es auch mit Consumer-Karten. Rendern kann man auch gut. Aber spätestens dann, wenn es um echte Simulationen geht, hätte ich Angst ums Ergebnis. Da reicht eine gekippte Speicherzelle und die Boeing macht Boing :D

Antwort 4 Likes

Igor Wallossek

1

10,276 Kommentare 19,019 Likes

Genau das. Würde AMD noch etwas liebevoller mit FSAA umgehen, wären die aktuellen Pro-Karten für Viele eine echte Alternative. Die "alte" RTX A6000 klebt der 6000 Ada ganz schön dicht am Popo, solange nicht die Tensor- und RT-Cores ins Spiel kommen. Selbst eine RTX 4000 (Turing) ist in vielen Bereichen noch gut dabei. Denn diese ganzen Karten haben auch genügend Speicher für fast noch alle Lebenslagen :D

Das Einzige, was voll nervt: RDNA2 und RDNA3 haben verschiedene Treiber-Pakete. Es ist technisch unmöglich, die Karten gemischt im PC zu verbauen.

Antwort 1 Like

echolot

Urgestein

979 Kommentare 753 Likes

Das ist mir auch sofort aufegafallen. Photoshop rennt dafür umso besser. Alle CAD-Arbeitsplätze sind momentan noch mit Nvidia ausgerüstet und wenn da nicht bald etwas passiert, wird das in näherer Zukunft auch so bleiben. Wobei die BIM-Siftware von ACAD (Revit, ich zähle Navisworks mal mit dazu) mittlerweile sehr gut mit weniger auskommt.

Antwort Gefällt mir

w124

Mitglied

58 Kommentare 24 Likes

Ich hatte mich seinerzeit, alsdie Verfügbarkeit aktueller GPUs eine Lotterie war, für eine gebrauchte RTX A4000 entschieden und finde bis dato deren Genügsamkeit an der Steckdose bemerkenswert.
Das erfreut mich umso mehr, wenn ich hier sehe, wo diese kleine Karte im Vergleich steht 👍

Antwort Gefällt mir

M
McFly_76

Veteran

396 Kommentare 136 Likes

Danke Igor für den Test :)

Wenn ich mir die Ergebnisse ansehe mit dem Wissen dass NAVI 31 von der Rechenleistung ( FP16, FP32, FP64 ) gegenüber dem Vorgänger um den Faktor 3 - 4 höher liegt dann frage ich mich warum der Leistungsvorsprung so klein ausfällt.

Ein Multi-GPU Aufbau bestehend aus der vorletzten Generation müsste demnach praktisch schneller arbeiten ( wenn die Software es untersützt ).

Antwort Gefällt mir

Alkbert

Urgestein

943 Kommentare 717 Likes

Unabhängig davon, dass ich eine Consumerkarte verwende, da meine Software keine zertifizierten Treiber braucht (Solid Edge, TurboCAD) bin ich zumindest fürs 3D Scanning leider zwingend auf CUDA angewiesen (Shining 3D, hier ExScan und ExStar). Die mögen einfach nicht mit AMD und Intel. Schade eigentlich.

Antwort Gefällt mir

e
eastcoast_pete

Urgestein

1,540 Kommentare 870 Likes

Super, danke für die Vergleichstests. Da steckt viel Arbeit drin, die aber nicht für nichts war und ist - ganz im Gegenteil! Sowas ist viel wert, und man findet es sonst sehr selten oder nie woanders. Und jetzt muss ich den Artikel erst mal gründlich lesen.

Nachtrag nach dem ersten vollen Lesen: Ja, da steckt wirklich VIEL Arbeit drin - Danke!

Gerade bei den AMD Karten kommt's wohl wirklich darauf an, wie speziell oder breit die Anwendungen gesetzt sind, die man mit den Karten machen will bzw muss. Da ist es uU hilfreich, auch den Kontext der PugetBench Tests einzubeziehen. Puget Systems baut ja (wie auch von Dir - @Igor Wallossek - beschrieben) Workstations v.a. für Photo, Video und Multimedia Anwendungen, und verkaufen und unterstützen auch die Software dazu. Und Puget empfehlen und verwenden durchaus AMD Karten in ihren Builds (Natürlich gibt's auch Systeme mit Nvidia Karten).

Ein Wunsch zur Webseite, v.a. bei solchen, sehr datenreichen Artikeln: eine Option, einen Artikel kontinuierlich auf einer Seite lesen zu können. Wobei mir klar ist, daß so eine Option auch einiges an Arbeit verursachen kann.

@Igor Wallossek : Sind Korrekturen von Tippfehlern etc erwünscht, und wenn ja, wie sollten die mitgeteilt werden?

Antwort 1 Like

Klicke zum Ausklappem
Igor Wallossek

1

10,276 Kommentare 19,019 Likes

Am einfachsten per PN, ich kann nicht immer im Thread mitlesen. Ich bin ja schon froh, dass ich heute kurz vor 6 fertig geworden bin. :D

Fehler am besten mit "Seite 7: vor einer Wnad..." (Exemplarisch) :D

Antwort 2 Likes

N
Novasun

Veteran

124 Kommentare 75 Likes

Das muss dank HIP aber in Zukunft nicht mehr so bleiben. Interessant wird es dann aber ob die Lösung leistungstechnisch mithalten kann.
Igor hat da wenigstens mal etwas Licht ins Dunkel mit Blender gebracht. Und das sieht gut aus und lässt hoffen.

Aber kaputt macht mich das AMD Autodesk so außen vor lässt. Warum?? Zahlt da wer wem was das der andere darf oder nicht darf??
AMD das ist auch ein Industriezweig wie die Filmbranche. Und wenn es stimmt was Igor vermutet dann bekommt euren Arsch hoch... Ganz ehrlich das schadet Nv nicht wenn im Autodesk zumindest bei den Balken etwas druck entsteht. Power ist ja da.

Ist FSAA eigentlich auch "nur" ein Treiberproblem?? Oder limitiert da in Hardware was?

Antwort Gefällt mir

Igor Wallossek

1

10,276 Kommentare 19,019 Likes

Ich denke mal, es ist die die leidige Treiber-Optimierung.

AMD schreibt selbst:
Aber man vergleicht z.B. eine Radeon Pro W6600 (112 Watt, 460 Euro) mit einer RTX A2000 12GB (66 Watt, 549 Euro), macht es also über den Preis.

View image at the forums

Ja, auch ich messe knapp 56 Prozentpunkte mehr als eine RTX A2000 6GB. Aber beide Karten sind nur etwas anders langsam. AMD muss die eigentlich potentere Karte über den Preis an den Kunden bringen, damit überhaupt was geht. Und NVIDIA schlägt immer noch fett drauf, weil man es scheinbar kann.

View image at the forums

Antwort 1 Like

Not_A_Nerd

Mitglied

49 Kommentare 45 Likes

AMD gibt das HIPIFY Tool für Windows in den nächsten Tagen frei. Damit kann man dann Cuda Anwendungen (ausser KI) automatisiert in AMD HIP übersetzen und auf AMD GPU direkt ausführen. HIP SDK und Radeon Software Pro Edition vorrausgesetzt.

Antwort Gefällt mir

Not_A_Nerd

Mitglied

49 Kommentare 45 Likes

Wird das selbe Spiele wie bei Adobe Produkten sein. Nvidia unterstützt Adobe finanziell und bekommt dafür weitreichende Optimierungen.

Antwort Gefällt mir

W
Wolfmind84

Neuling

1 Kommentare 0 Likes

Da hat sich ein Fehler im "Test System" eingeschlichen ;-)

SSD 2x 2 GB Netac NI7000-t NVMe

Antwort Gefällt mir

N
Novasun

Veteran

124 Kommentare 75 Likes

Ist das eine Vermutung deiner seits - oder gibt es da gesicherte Informationen zu?

Mir geht es nur darum. Wenn da Geld fließt oder politisch man einen bevorzugt - dann muss es @Igor Wallossek auch nicht negativ z.B. AMD anlasten. Weil dann wird sich da nichts ändern (können) sogar unter Umständen...

Wobei auch - wenn ich es jetzt richtig verstehe - auch @Igor Wallossek es nur vermutet das es im Treiber liegt... Problem könnte auch sein wenn NV irgendwo ne Art Algorithmus hat der das Sghading halt super effizient kann man diesen auch patentiert hat... Dann weiß AMD die Lösung zwar und wäre vielleicht genau so schnell kann diesen Algorithmus dann aber eben nicht nutzen...

Antwort Gefällt mir

MechUnit

Mitglied

70 Kommentare 40 Likes

Mich würde bei der Thematik einmal interessieren, ob es performancetechnische Unterschiede zw. 3DS 2016 und einer aktuelleren Version auf Softwareebene/Treiberkommunikation/Hardwareauslastung gibt - ähnlich wie bei Cinema 4D/Cinebench.

Oder ob man alternativ C4D/Cinebench bei solchen Tests mit im Parcours aufnehmen könnte.

Antwort Gefällt mir

Igor Wallossek

1

10,276 Kommentare 19,019 Likes

Können tut man alles, aber man braucht schon normierte Benchmarks, die konsistente Resultate liefern. Ich habe hier auch Maya 2023 und diverse Plugins getestet. Das war mir einfach nicht konsistent genug. Ja, man sieht Trends, aber es ist mir zu ungenau. Da müsste man sich selbst was bauen, was aber wiederum extrem zeit fressen würde. :(

Antwort 1 Like

n
nichimen

Neuling

2 Kommentare 0 Likes

Hi,thanks for these benchmarks,really useful as ever!
anyway looking at the graphs,they are confusing...(thanks Nvidia for this mess in the naming scheme!!)
with RTX 4000,5000,6000 are you referring to the Quadro RTX 4000,Quadro RTX 5000 and Quadro RTX 6000,that is the old cards based on Turing architecture?
or the RTX 5000 is actually the Ada Lovelace and you simply forgot to put Ada at the end?
with the RTX 4000 you meant the RTX 4000 SFF Ada or again the Quadro RTX 4000? (Turing based)
I ask you because the description of cards you give at the beginning of the article and the one on the graphs doesn't match

Antwort Gefällt mir

Danke für die Spende



Du fandest, der Beitrag war interessant und möchtest uns unterstützen? Klasse!

Hier erfährst Du, wie: Hier spenden.

Hier kannst Du per PayPal spenden.

About the author

Igor Wallossek

Editor-in-chief and name-giver of igor'sLAB as the content successor of Tom's Hardware Germany, whose license was returned in June 2019 in order to better meet the qualitative demands of web content and challenges of new media such as YouTube with its own channel.

Computer nerd since 1983, audio freak since 1979 and pretty much open to anything with a plug or battery for over 50 years.

Follow Igor:
YouTube Facebook Instagram Twitter

Werbung

Werbung