GPUs Graphics Pro Reviews Workstations

NVIDIA RTX A5000 Review – How good is the successor of the Quadro RTX 5000?

Disclaimer: The following article is machine translated from the original German, and has not been edited or checked for errors. Thank you for understanding!

With the NVIDIA RTX A5000, I have a workstation graphics card in review today that should not only easily replace its predecessor, the Quadro RTX 5000, but can even beat the Quadro RTX 6000 in some areas. Plus, of course, the new features Ampere offers over Turing, as well as various tweaks that NVIDIA says make it more than just a more efficient replacement. This is exactly why I’ll be testing the RTX A5000 in a variety of workloads, not just pure raster graphics.

NVIDIA also offers NVLink on the RTX A5000 (similar to the RTX A6000), a 112 GB/s GPU interconnect that is a much faster alternative for multi-GPU systems than traditional PCI-E based solutions. By interconnecting two NVIDIA graphics cards with NVLink, memory and performance can be elegantly scaled to meet the demands of large visual computing tasks.

The RTX A5000 can also leverage NVIDIA RTX Virtual Workstation software (vWS), which provides space for visual computing to harness the power of virtual workstations from the data center or cloud on any device. This means that even the most demanding applications can be run on any device at the same level as a physical workstation, while still meeting the necessary security requirements. IT can virtualize any application from the data center, creating a work environment locally that is indistinguishable from a physical workstation. So in the end, each device offers the same performance as a workstation.

This is a feature for distributing a graphics card to several users in a virtual environment “portion by portion”. The appropriate profiles, in which the allocated resources are regulated, are distributed to the VMS. However, this product is subject to licensing and Enterprise Plus licences must be available, especially in the VMware environment. In addition, special Nvidia drivers are required, which are only available with a suitable account. The vGPU does not work without the licence server, which also increases the administrative effort.

 

Unboxing, look, feel and connectivity

The card weighs 1013 grams and is even almost 100 grams lighter than AMD’s Radeon Pro W6800 and thus not really a heavyweight. It is with its usual 27 cm well installable, is 10.5 cm high (installation height from PEG) and in addition 3.5 cm thick (dual slot design), whereby here no backplate is used, since also at the rear no memory was installed. The total of 12 modules GDDR6 with ECC functionality are all located on the front, which is an interesting solution in terms of design.

The card is supplied with a TBP of up to 230 watts via a standard 8-pin socket, so everything remains as known and expected. Interestingly, you can still see the free solder lugs for two 8-pin sockets at the right end of the upper edge of the board. As usual, NVIDIA also relies on the DHE principle (Direct Heat Exhaust) for cooling and a quite potent, but not too loud 6.5 cm radial fan. So the sucked air leaves the case on a direct way at the back, which is really convenient.

The slot bezel has a honeycomb grille for airflow and supports four DisplayPort (1.4) bays side by side. This creates space so that the hot exhaust air can really escape well.

Technical data

The GA102-850’s total of 8,192 CUDA cores (by NVIDIA’s count) can already handle larger workflows, and the card is only slightly more trimmed than a GeForce RTX 3080 with 8704 CUDA cores. With a total of 256 Tensor Cores, 64 RT Cores, 256 TMUs and 96 ROPs, the card with the trimmed GA 102 relies on a total of 64 Streaming Multiprocessors (SM), which have been completely redesigned at Ampere. The basis may still be similar to that of Turing, but important and above all decisive things have changed.

The SM have made a really big transformation which ultimately results in the increased performance. A single SM at Turing still consisted of 64 FP32-ALUs for floating point calculations and 64 INT32-ALUs for integer calculations, divided into four blocks of 16 FP32- and 16 INT32-ALUs each. The trick here is that the FP and INT ALUs can be addressed simultaneously. And amps? The 64 pure FP32-ALUs per SM are still available, but the 64 INT32-ALUs are increased by 64 additional ones, which are still able to perform floating point and integer calculations, with one restriction: this is no longer possible in parallel. The division into 4 blocks each remains, but with a separate data path.

While the base clock is specified with 1170 MHz, the boost clock is up to 1695 MHz, which isn’t always reached under absolute full load in practice, though. The card relies on a whopping 24GB of GDDR6 at 16Gbps, which is made up of 12 2GB sized modules on the front of the board. This includes the 384-bit memory interface (768 GB/s bandwidth).

nvidia-rtx-a5000-datasheet

 

PNY RTX A5000, 24GB GDDR6, 4x DP, Smallbox (VCNRTXA5000-SB)

MindfactoryZentrallager: verfügbar, Lieferung 3-5 WerktageFiliale Wilhelmshaven: nicht lagerndStand: 17.09.21 22:082484,96 €*Stand: 17.09.21 22:11
grafikkarten.comlagernd (13 Stück), Lieferung sofort möglich2485,00 €*Stand: 17.09.21 22:21
Future-X.deAuf Lager2493,99 €*Stand: 17.09.21 22:14
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von www.geizhals.de

PNY Quadro RTX 5000, 16GB GDDR6, 4x DP, USB-C (VCQRTX5000-PB / VCQRTX5000-BSP)

edigitechSofort versandfertig, Lieferzeit ca. 1-3 Werktage1969,00 €*Stand: 17.09.21 17:41
HEINZSOFTca. 2-3 Werktage1998,00 €*Stand: 17.09.21 22:08
grafikkarten.comlagernd (12 Stück), Lieferung sofort möglich1999,00 €*Stand: 17.09.21 22:21
*Alle Preise inkl. gesetzl. MwSt zzgl. Versandkosten und ggf. Nachnahmegebühren, wenn nicht anders beschriebenmit freundlicher Unterstützung von www.geizhals.de

 

Lade neue Kommentare

konkretor

Veteran

145 Kommentare 111 Likes

Morgen Igor, Danke für den Test

Das Feature vWS habe ich hier mal verlinkt. Dabei handelt es sich um ein Feature in einer virtuellen Umgebungen eine Grafikkarte an mehrere Benutzer quasi in Scheiben zu schneiden. Man verteilt an die VMS Profile zum Beispiel jede VM bekommt 2 GB RAM. Die genauen Profile stehen in der zweiten PDF.
Zudem ist das Produkt Lizenz pflichtig.
Dazu müssen gerade im VMware Umfeld Enterprise Plus Lizenzen vorhanden sein.
Um das umzusetzen musst du einen speziellen Nvidia Treiber runterladen den es nur mit Account gibt. Dort trägt man einen Lizenz Server ein der das Feature freischalten. Besser gesagt die vGPU funktioniert nicht ohne den Lizenz Server. Der Lizenz Server ist ne VM mit Windows drauf auf dem ein Nvidia Lizenz Server installiert wird. Der Treiber in der VM frägt dann den Lizenz Server ab. Bekommt dann die Freischaltung.
Unter Linux brauchst auf allen VMS einen Desktop installiert um den Lizenz Server im Nvidia Treiber einzutragen. Total nervig und aus der Steinzeit. Ich wollte das ursprünglich bei mir in der Firma umsetzen. Der Aufwand ist doch extrem hoch und die Komplexität steigt extrem. Von den Lizenz Kosten die anfallen ganz zu schweigen....

Antwort 1 Like

Klicke zum Ausklappem
B
Besterino

Urgestein

5,294 Kommentare 2,183 Likes

Danke für den Test!

Auf Seite 15 scheint ein Textabschnitt von AMD noch nicht ganz angepasst zu sein:

„Betrachten wir nun die Temperaturen. Die AMD-intern als Edge-Temperatur bezeichnete “GPU-Diode” (kennen wir ja auch von NVIDIA) liegt mit den Werten bei meist 86 °C im 3D Loop. Wirklich kühl geht anders, das haben sogar leistungsstärkere Karten wie eine NVIDIA RTX Quadro A6000 mit einer TDP von 300 Watt sichtbar kühler lösen können. Die Platine ist ebenfalls reichlich heiß und die rückwärtige Backplate kühlt den auf der Rückseite verlöteten Speicher auch nur mit Ach und Krach.“

Vor allem hat die Karte doch rückseitig gar keinen Speicher, sitzt doch alles vorne?

Antwort Gefällt mir

Klicke zum Ausklappem
Igor Wallossek

Format©

5,749 Kommentare 8,919 Likes

Diesen einen Absatz habe ich dummerweise in der Ablage gehabt, ist schon gefixt. Leider zu spät gesehen, aber danke für den Tip! :)

Antwort 1 Like

Igor Wallossek

Format©

5,749 Kommentare 8,919 Likes

Danke für die Ergänzung. Das kann ich hier ja leider mangels monetärer Ressourcen nicht selbst testen. Ein Kollege hat davon geschwärmt und... nun ja :D
Ich habs mal ergänzt: :D

Antwort 1 Like

Blubbie

Urgestein

697 Kommentare 215 Likes

Hallo zusammen,
Ich würde das gerne verstehen :
Igor @Igor Wallossek schrieb im test "die Karte ist nur unwesentlich mehr beschnitten als eine GeForce RTX 3080 mit 8704 CUDA Cores."

D.h. Eine einzige rtx 3080/ti oder gar 3090 ist schon besser/schneller fürs rendern und auch deutlich günstiger so lange man keine Virtualisierung braucht und nicht mehrere dieser teuren Workstation Karten zusammen schließen und dann skalieren will?

Ich bin auch sehr über den geringen Strombedarf überrascht. 230 W bei Workstation im vgl. Zu > 340 Watt im Consumer Bereich. Und da sagt man die Industrie verbraucht viel Strom... Okay die laufen/rendern wahrscheinlich auch 24h/7 tage durch.

Einen performance Vergleich beim rendern zu einer normalen Consumer 3080/3090 wäre aber echt schon interessant gewesen. 😀

Antwort Gefällt mir

Klicke zum Ausklappem
D
Deridex

Urgestein

1,696 Kommentare 511 Likes

Ich frage mich noch immer, warum man sich eine Workstation Grafikkarte für Rendering (nicht Konstruktion!), Bildbearbeitung usw. kaufen sollte. Da sollte aus meiner Sicht eine Consumerkarte mit Studiotreiber mehr als ausreichend sein. Im CAD hingegen scheinen aus meiner Sicht beide Hersteller brauchbar zu sein.

Antwort 1 Like

Igor Wallossek

Format©

5,749 Kommentare 8,919 Likes

Fürs Rendering... naja. Ich habe hier Maya und Rhino Projekte, die knallen schon mal weit über 20 GB in den VRAM, wenn sie dürfen. Da ist mir letztens sogar die 3090 verreckt. Nur die A6000 kam noch klar. :D

Sicher, den Bot bekomme ich auf jeder Consumer-Karte gedingst.

Antwort 1 Like

p
pintie

Mitglied

68 Kommentare 32 Likes

Danke für den Test. Sehr hilfreich.
wird auch noch was zur A6000 kommen ?

Antwort Gefällt mir

g
goch

Veteran

335 Kommentare 112 Likes

Bezüglich der Lizenzen oder der (virtuellen) Hardware? Ansonsten gibt es von beiden Seiten (VMware / Nvidia) entsprechende Eval-Lizenzen.

Antwort Gefällt mir

D
Deridex

Urgestein

1,696 Kommentare 511 Likes

@Igor Wallossek
Ich hoffe mit "verreckt" meinst du sehr langsam geworden und nicht abgestürzt oder defekt.

Antwort Gefällt mir

Danke für die Spende



Du fandest, der Beitrag war interessant und möchtest uns unterstützen? Klasse!

Hier erfährst Du, wie: Hier spenden.

Hier kannst Du per PayPal spenden.

About the author

Igor Wallossek

Editor-in-chief and name-giver of igor'sLAB as the content successor of Tom's Hardware Germany, whose license was returned in June 2019 in order to better meet the qualitative demands of web content and challenges of new media such as YouTube with its own channel.

Computer nerd since 1983, audio freak since 1979 and pretty much open to anything with a plug or battery for over 50 years.

Follow Igor:
YouTube Facebook Instagram Twitter

Werbung

Werbung