Artificial Intelligence Pro Reviews

NVIDIA vs. AMD and workstation vs. consumer: Who has the edge in the AI graphics card benchmarks?

Real-ESRGAN (Enhanced Super-Resolution Generative Adversarial Networks) is an advanced architecture for image super-resolution that aims to convert low-resolution images into high-resolution versions. This technology uses Generative Adversarial Networks (GANs) combined with advanced techniques to significantly improve image quality. Real-ESRGAN represents a significant advance in image super-resolution. By combining GANs, RRDBs and perceptual loss, it offers outstanding image quality and enables the enhancement of low-resolution images in an impressive way. This technology is versatile and has applications in many areas where high resolution images are required.

Architectural features

  1. Generative Adversarial Networks (GANs):
    • Real-ESRGAN uses a GAN consisting of two adversarial networks: a generator that attempts to generate realistic high-resolution images and a discriminator that attempts to distinguish real high-resolution images from the generated ones.
  2. Residual-in-Residual Dense Blocks (RRDB):
    • Real-ESRGAN’s architecture includes RRDBs that enable deep and complex feature extraction while improving the stability and efficiency of training. These blocks help to capture finer details and textures in the high-resolution image.
  3. Multi-Scale Discriminators:
    • Real-ESRGAN uses multi-scale discriminators to ensure that both global and local image details are realistic and coherent.

Technical innovations

  1. Perceptual Loss:
    • Rather than just minimizing errors pixel by pixel, Real-ESRGAN uses perceptual loss based on the activations of a pre-trained network. This leads to more visually appealing results as the perception of the image content is taken into account.
  2. GAN Loss and Pixel Loss:
    • The combination of GAN loss and pixel loss helps to reconstruct the fine details and textures in the image while minimizing overall texture loss.
  3. Iterative training:
    • The training process of Real-ESRGAN is iterative, with the generator and discriminator being updated alternately. This promotes the continuous improvement of image quality.

Applications and areas of use

Real-ESRGAN is versatile and can be used in many areas where high-resolution images are required. Here are some typical applications:

  1. Photography and image processing:
    • Real-ESRGAN is often used to improve the quality of old or low-resolution photos, making them sharper and more detailed.
  2. Film and video production:
    • In film and video production, Real-ESRGAN is used to enhance older film material or videos in low resolution and prepare them for modern high-definition formats.
  3. Medical imaging:
    • In medical imaging, Real-ESRGAN can help improve the quality of diagnostic images such as MRIs or X-rays, leading to more accurate diagnoses.

Benchmarks

Average inference time is a critical performance indicator for deep learning models, especially in real-time applications. The seemingly slower GPU can be faster in practice if it is better optimized for the specific workloads, offers lower latency, works more efficiently with certain data formats or benefits from better driver and software support. For short compute times, the latency caused by initialization and communication between the GPU and CPU can have a greater impact than pure computing power. GPUs that are better at minimizing these latencies can therefore work more effectively. Some GPUs are also more thermally and energetically efficient, which means they can maintain their maximum performance over longer periods of time without throttling.

Kommentar

Lade neue Kommentare

echolot

Urgestein

1,059 Kommentare 810 Likes

Das war sehr umfangreich. Also mit einer 4070 Ti super ist man schon gut bedient und ich bereue es nach wie vor, dass ich Nvidia nicht schon 2015 ins Portfolio genommen habe. Dieses Unternehmen kennt gerade keine Grenzen.
Nachtrag:

View image at the forums

Antwort 2 Likes

l
letauch

Mitglied

12 Kommentare 9 Likes

Ahoi,

an der Börse gilt wie immer: hinterher ist man immer schlauer.

Grüße
letauch

Antwort 1 Like

e
eastcoast_pete

Urgestein

1,635 Kommentare 953 Likes

Ja, momentan ist Nvidia hier dominant, keine Frage. Da ja jetzt die viel beworbenen NPUs/AI ASICs auch ihren Einzug in Notebooks feiern (die Snapdragon X mit Windows-on-ARM sind ja gerade überall zu sehen), wär es auch spannend, diese SoCs mit (laut Microsoft) starken, dedizierten NPU Kernen durch einige der Test Parkours hier zu schicken, auch um die KI Leistung dieser SoCs einordnen zu können (gilt mE ebenso für Phoenix/Hawks). Und, zumindest theoretisch, sollten hier Anwendungen, die besonders auf schnelle Kommunikation zwischen CPU und GPU bzw NPU Kernen angewiesen sind, besonders profitieren.

Antwort 2 Likes

R
RazielNoir

Veteran

428 Kommentare 194 Likes

Die RTX 4000 ADA SFF mit TensorRT ist ziemlich das effizienteste Modell, wenn ich den Overallscore richtig sehe. Auf Niveau einer 4070ti bzw. 7900XT bei 70w!

Antwort Gefällt mir

8j0ern

Urgestein

2,672 Kommentare 837 Likes

Sehr interessant, wie soll das Unabhängig Funktionieren, wenn der Tensor Code nur von einem Hardware Hersteller Supportet wird ?

Anders herum gefragt, warum sollte ich als Unabhängiger Coder auf Tensor Cores gehen ?

Davon mal ab, Bilder Generieren in 1024p ?

Warten wir besser auf die NPUs ;)

Antwort Gefällt mir

Igor Wallossek

1

10,398 Kommentare 19,365 Likes

Warum wohl habe ich die NV-Karten wohl auch mit alternativem Code gemessen? Bei der Bildgenerierung gabs dann für NV alternativ Intels OpenVINO. Ich kenne keinen Benchmark, der mehr APIs unterstützt und vor allem in der Pro Version vom Tester auch gescriptet werden kann. Insofern ist Dein Einwurf etwas am Thema vorbei. Heute gings auch nur um Grafikkarten und keine NPUs. Das ist wieder ein anderes Thema und längst in Vorbereitung. Nur ist es so, dass nicht mal AMD irgendeinen vergleichbaren Absatz bietet.

Du arbeitest lokal, nicht auf einer Serverfarm. Und es sind viele, nicht nur eins. :D

Die werden gegen jede noch so kleine NV Karte mit Tensor Cores erst mal gehörig abstinken. Aber für einfache LM wirds schon reichen. Ich versuche gerade, passende Hardware zu beschaffen, aber fast alle mauern noch.

Antwort 1 Like

8j0ern

Urgestein

2,672 Kommentare 837 Likes

Ich meinte jetzt nicht deine Vergleich hier, daher habe ich auch die Homepage des Benchmarks verlinkt.

Falls es doch noch Nvidia unabhängige Coder gibt: https://www.amd.com/en/products/sof... including open frameworks, models, and tools.

Antwort Gefällt mir

echolot

Urgestein

1,059 Kommentare 810 Likes

Tensor Cores und Frame Generation. War da was? Solange AMD da nicht nachziehen kann, wird Nvidia immer davonziehen.

Antwort 1 Like

Igor Wallossek

1

10,398 Kommentare 19,365 Likes

ROCm... Naja, da muss schon noch mehr kommen. AMDs Software bietet eine Reihe von Optimierungen für KI-Workloads, aber das wars dann auch schon.

Aktuell sind Microsofts Windows ML, Qualcomms SNPE, Intels OpenVINO, Apples Core ML und halt NVIDIAs TensorRT das Maß der Dinge.

Antwort Gefällt mir

Y
Yumiko

Urgestein

513 Kommentare 222 Likes

Ist das so?
Beispielsweise für den Preis einer 4090 bekommt man 3x 7900xt welche zusammen deutlich schneller sind nach obigen Benchmarks (KI Anwendungen sind massiv parallel).
Beim Verbrauch (je nach Stromkosten) kann sich das natürlich irgendwann drehen.

Antwort Gefällt mir

Igor Wallossek

1

10,398 Kommentare 19,365 Likes

Je nach Anwendung. Wenn TensorRT genutzt werden kann, ist AMD mit RDNA3 fast komplett hilflos. Nicht alles lässt sich über veile Devices hin parallelisieren und dann braucht man immer noch ein performantes API. Da sehe ich meist ein Software-Problem bei AMD, zumindest im Desktop-Bereich.

Antwort 3 Likes

echolot

Urgestein

1,059 Kommentare 810 Likes

Und ein performantes Netzteil für 3x 7900XT

Antwort 1 Like

R
RazielNoir

Veteran

428 Kommentare 194 Likes

Oder die Passende Plattform

Antwort Gefällt mir

8j0ern

Urgestein

2,672 Kommentare 837 Likes
ipat66

Urgestein

1,390 Kommentare 1,397 Likes

Stand heute bekommt man eine 4090 für 1730 Euro.
Eine 7900XTX bekommt man für ab 950 Euro...
Das sind also eher knapp zwei 7900 XTX für den Preis einer 4090.
Edit: Bei den 7900 XT für 700 Euro wären wir bei 2100 Euro, bei 3 Stück

Zudem braucht es im KI-Produktivbereich nur eine 4070 TI Super, um die gleiche bzw. teils viel bessere Leistung im Vergleich zu einer 7900 XTX zu erreichen.
Eine 4070 TI Super bekommt man ab 850 Euro....
Also: 100 Euro gespart mit im Vergleich weniger Energieverbrauch .

Das erkenne ich zumindest aus Igor's Diagrammen... :)

Antwort 2 Likes

8j0ern

Urgestein

2,672 Kommentare 837 Likes

Auf den Benchmark bezogen stimmt das auch.
Die Frage ist, welche Relevanz hat z.B. ein Mobile Benchmark auf einer 4070 TI ?

Kommt jetzt wieder: Liebling, ich habe die Kinder geschrumpft ?

Antwort Gefällt mir

echolot

Urgestein

1,059 Kommentare 810 Likes

Ist auch mein Denkansatz. Da muss AMD bei der nächsten Generation noch ein, zwei Schippen drauflegen.

Antwort Gefällt mir

8j0ern

Urgestein

2,672 Kommentare 837 Likes

Dann will ich dich sehen, wie du ein, zwei Geldbeutel mehr drauflegst. ;)

Antwort Gefällt mir

echolot

Urgestein

1,059 Kommentare 810 Likes

Der Markt bestimmt den Preis. Siehe Nvidia. Soviele 4090 Besitzer gibbet nicht.

Antwort 1 Like

Danke für die Spende



Du fandest, der Beitrag war interessant und möchtest uns unterstützen? Klasse!

Hier erfährst Du, wie: Hier spenden.

Hier kannst Du per PayPal spenden.

About the author

Igor Wallossek

Editor-in-chief and name-giver of igor'sLAB as the content successor of Tom's Hardware Germany, whose license was returned in June 2019 in order to better meet the qualitative demands of web content and challenges of new media such as YouTube with its own channel.

Computer nerd since 1983, audio freak since 1979 and pretty much open to anything with a plug or battery for over 50 years.

Follow Igor:
YouTube Facebook Instagram Twitter

Werbung

Werbung