GPUs Latest news Security

ZLUDA: The Trojan horse in the CUDA cosmos – or just a storm in a teacup?

The open source library ZLUDA is back. And with a bang that echoes even through the thick concrete walls of NVIDIA’s developer bunker. After AMD had quietly and secretly buried the project out of legal fear and presumably after a few worried letters from lawyers, the developers are now back – independent, twice as strong (two developers instead of one!) and ready to break through the fortress walls of CUDA exclusivity.

A brief review: David versus Goliath 2.0

ZLUDA is, or rather: was, a pretty clever idea. Take the dominant industry standard for GPU-accelerated computing – NVIDIA’s CUDA – and build a layer in between that brings this API to other GPUs. Originally intended for Intel’s GPUs, AMD snapped up the project, presumably with a mischievous grin and a calculator full of LLM dreams. But then came the legal reality – and AMD dropped ZLUDA like a hot potato. But as is the case with good ideas: they don’t just die. They mature underground.

Now it’s getting serious – or is it?

According to a recent report on Phoronix, ZLUDA is not only active again, but is also developing into a genuine multi-GPU solution. Running CUDA code on non-NVIDIA hardware? Sounds like blasphemy in Santa Clara, but that is exactly what is now being attempted again. Two developers are currently working on the project – a 100% increase in personnel. When you consider that NVIDIA probably has hundreds of engineers working on TensorRT alone, it’s an almost romantic David-versus-Goliath metaphor.

What has been achieved so far?

  • Bit-precise execution: ZLUDA emulates CUDA so precisely that even the smallest computing operations work exactly as they would on a GeForce. Not “almost the same”, but really the same. This is not trivial.
  • PhysX support: The dead live longer – ZLUDA even breathes new life into NVIDIA’s dusty physics engine. Will anyone want that? Doubtful. But it is feasible.
  • LLM and PyTorch on Radeon & Co The first steps have been taken. ZLUDA can partially pass CUDA code. It’s still a bit bumpy, but at least the train is rolling.

 

The double-edged sword of openness

On the one hand, an open bridge between CUDA and other platforms would be a blessing for developers who no longer want to be gagged by one provider. On the other hand, NVIDIA has paid dearly for its sovereignty over CUDA – in years, billions and market monopolies. And this is precisely why the success of ZLUDA is a ticking time bomb. Legally, the situation is nebulous. ZLUDA is now being developed completely independently of AMD – presumably for good reason. But if you use third-party header files and API structures, a shrewd lawyer could quickly suspect copyright infringement.

What does this mean for the market?

If ZLUDA works, it won’t be a technical revolution. But a political one. Because it shows that developers cannot be locked in the golden cage of the CUDA world forever. It could increase the pressure on NVIDIA to be more open with its software platform – or at least to document its interfaces better. For AMD and Intel, in turn, it could mean that they also make their hardware more usable in CUDA-driven ecosystems. But the road ahead is rocky. Performance will be one issue. Compatibility will be another. And without broader community participation, the project will remain as fragile as a house of cards on the Las Vegas strip.

A diplomatic capitulation – or just an interim step?

ZLUDA is a fascinating attempt to tear down a wall that has been in place for over a decade. With CUDA, NVIDIA has built the Apple ecosystem of the GPU world: closed, high-performance, with no alternative. ZLUDA is – with a wink – the Hackintosh of this world. Those who use it are dancing on thin legal ice, but perhaps also into a freer future. Whether this ends up being a valid bridge-building project or just a PR flash in the pan depends on the usual three factors: time, money and will. But at least someone has rekindled the fire.

Source: Phoronix

 

Kommentar

Lade neue Kommentare

OldMan

Urgestein

510 Kommentare 245 Likes

Ich drücke die Daumen dass das Projekt gelingt und die Community hier aktiv unterstützt. Monopole waren auf Dauer gesehen noch nie zielführend. Über NV kann man denken wie man will, aber wenn hier die marktbeherrschende Stellung durchbrochen wird profitieren vor allem die Anwender. Konkurrenz belebt den Markt und neu Innovationen können nur dann kommen wenn das quasi Monopol gebrochen wird.

Antwort Gefällt mir

FfFCMAD

Urgestein

944 Kommentare 360 Likes

Man könnte auch versuchen, ein Lizenzmodell für andere Hersteller aufzufahren. Dadurch wird Nvidia zwar noch fetter, aber das sei denen gegönnt. Denn sie haben hart dafür gearbeitet, dieses Ökosystem aufzustellen. Der Druck auf Nvidia wird so oder so steigen, sei es durch Zluda, oder eben durch Lizensierung.

Antwort Gefällt mir

Homerclon

Veteran

159 Kommentare 86 Likes

Wenn NVIDIA ein Lizenzmodell anbieten würde, wäre das ja immerhin ein Fortschritt. Aber dagegen wehren sie sich offensichtlich. Sie wollen es der Konkurrenz so schwer wie möglich machen, in ihrem Fischteich Fuß zu fassen. Eine Lizenz würde schließlich bedeuten, das Kunden keine Hardware von NVIDIA kaufen müssen. In der Folge würden sie wohl nicht nur Lizenzkosten von den Hardwareentwickler fordern, sondern früher oder später auch den Software-Entwickler die CUDA in ihre Software einbauen.

Jensen (iirc) hat zwar mal gesagt, NVIDIA sei inzwischen eine Software-Firma, aber ihr Geld verdienen sie dennoch hauptsächlich durch den Verkauf von Chips, und nicht durch den Verkauf von Software-Lizenzen.

Es braucht ein Industriestandard, der von allen Unterstützt werden muss. Notfalls, indem man NVIDIA dazu zwingt CUDA offen zu legen.

Antwort Gefällt mir

ipat66

Urgestein

1,653 Kommentare 1,808 Likes

Das käme einer Enteignung geistigen Eigentums gleich und ist vollkommen ausgeschlossen ....
Das würde jegliche Forschung und Neuentwicklung in der Industrie und Arbeitswelt ad absurdum führen .

Antwort Gefällt mir

S
Supie

Veteran

196 Kommentare 45 Likes

Physix wäre schonmal echt gut, da NV ja mindestens den 32 Bit Support in der RTX 5xxx Reihe gestrichen haben soll, wenn das Softwaremässig einigermaßen zufriedenstellend funktoniert, wäre ich gleich dabei. Und als Privatperson sollte die Nutzung dann doch auch kein Problem sein, wenn ich keinen Profit daraus schlage, oder?

Ich hätte zwar demnächst eine RTX 2070 über, aber diesen Stromschlucker zusätzlich zu einer 5xxx Karte betreiben, nur für einige alte Games, bei NV hackts doch, das es da auf diesen neuen Karten, die sicher kein Powerproblem in diesen älteren Games, bei einer Emulation hätten nutzen zu müssen, wenns nach denen geht.....

Antwort 1 Like

Smartengine

Veteran

173 Kommentare 173 Likes

Ich wär schon froh wenn ich mal HiP support unter Linux für die 9070XT bekommen würde -.-
Ohne die funktioniert auch ZLUDA nicht.

Antwort Gefällt mir

Alkbert

Urgestein

1,159 Kommentare 942 Likes

Wir machen immer den Fehler, derartige Innovationen und Vorstöße vor dem juristischen Korsett des "Westens" zu betrachten. Die Frage ist doch viel eher: Juckt die Chinesen ein Nvidia "lawsuit", oder die Inder, oder die Russen. Oder springen die gerne auf den ZLUDA Zug auf, wenn eigenentwickelte GPU´s dazu passen, oder die von Intel oder AMD. Europa und die USA haben ca. 650 Mio Einwohner. Das ist gerade mal 1/2 China oder 1/2 Indien. Die Entwicklungspotentiale von Afrika und Südamerika noch gar nicht eingerechnet (und die scheren sich auch herzlich wenig um Patentrecht). Wir sind hier im Westen vielleicht noch der Pacemaker am aktuellen Entwicklungshimmel, aber nicht mehr der Nabel, um den sich die Welt dreht.

Antwort Gefällt mir

R
RazielNoir

Urgestein

680 Kommentare 317 Likes

Mich würde vielmehr interessieren inwiefern das im Hintergrund funktioniert. Wird der CUDA-Software dann eine x-beliebige Nvidia-GPU "vorgegaukelt"? Meine Versuche mit Badaboom sind zwar schon Jahre her, aber ohne Nvidia-GPU im System war die Software ja nichtmal startfähig.

Antwort Gefällt mir

OldMan

Urgestein

510 Kommentare 245 Likes

So ungefähr aber nicht ganz. Ds macht doch AMD mit ROCm, wo im Hintergrund ja auch ZLUDA läuft. Da gab es hier Februar schon einen Artikel zu https://www.igorslab.de/amd-gpus-nutzen-jetzt-nvidia-cuda-bibliotheken-mit-rocm-und-zluda/

Das spannende bei der Sache ist die Wirtschaftlichkeit. Im Vergleich zu einer 4090 (die Zahlen für die 5090 oder die neuen AMD 7090 kenne ich leider noch nicht) bedeutet das folgendes: Mit zwei AMD RX7900XTX bekomme ich ca. die 1,4 fache Leistung ein NV 4090, allerdings, zum selben finanziellen Aufwand, bzw. leicht darunter. Das war Ende 2024. Somit ist das durchaus interessant.

Antwort Gefällt mir

R
RazielNoir

Urgestein

680 Kommentare 317 Likes

Naja. Also doch einige Fallstricke. Rechtlicher und technischer Natur. Wenn ich darauf angewiesen wäre, CUDA zu nutzen wäre mir das doch zu unsicher.

Und für 2xRX7900XTX brauch ich auch das nötige MB bzw. die Technische Basis, damit das ohne Flaschenhals funktioniert. Es sei den ich kann mit 2x PCIe 4.0 x 8 leben statt 2x PCIe 4.0x16...
1,4 fache Leistung und Energiebedarf. Mag für eine einzelne Workstation noch keine so große Rolle spielen, aber bei GPU-Rechnerfarmen dann schon.

Antwort Gefällt mir

Homerclon

Veteran

159 Kommentare 86 Likes

Es würde sich wohl keiner eine Rechnerfarm explizit dafür aufbauen um ZLUDA zu nutzen, zumindest dann nicht, wenn man Zugriff auf GeForce-Karten hat um sich den Umweg über ZLUDA zu sparen.
Aktuell wäre das auch rechtlich noch zu unsicher, NVIDIA wird sicher versuchen die Verbreitung von ZLUDA zu verhindern, spätestens wenn es sich als Bedrohung für ihr Geschäft herausstellt werden sie große Geschütze aufbauen.

Aber wer bereits eine / mehrere Radeons hat - oder auch ARCs -, könnte zumindest mal damit experimentieren - bzw. mit CUDA-Exklusive-Software, ohne sich erst eine GeForce kaufen zu müssen. Für Privatzwecke reicht das dann evtl. sogar schon.

Antwort Gefällt mir

OldMan

Urgestein

510 Kommentare 245 Likes

Dafür ist es auch aktuell noch nicht gedacht. Interessant ist das z.B. für Entwicklerarbeitsplätze wenn man auf die Kosten achten muss. Ich kenne Freelancer die haben sich hier Entwickler oder Testsysteme aufgebaut mit 3 oder 4 AMD Karten. funktioniert grundsätzlich sehr gut.

Antwort 1 Like

Danke für die Spende



Du fandest, der Beitrag war interessant und möchtest uns unterstützen? Klasse!

Hier erfährst Du, wie: Hier spenden.

Hier kannst Du per PayPal spenden.

About the author

Samir Bashir

As a trained electrician, he's also the man behind the electrifying news. Learning by doing and curiosity personified.

Werbung

Werbung