Latest news

Ex-Intel manager Raja Koduri: PC GPUs from Nvidia, AMD and Intel drive AI and data centers forward

The worldwide distribution of so-called consumer-oriented GPUs, also known as gaming GPUs, is very high. These GPUs are not only easily accessible, but also much cheaper compared to alternatives such as workstation GPUs.

These GPUs are more suitable for individuals to work with, also in terms of price. Another neglected aspect of such GPUs is their contribution to the developer community. The ease of accessibility means that anyone, regardless of their location, can purchase an AMD Radeon or NVIDIA GeForce GPU for their use. However, the current generations are actually designed in such a way that they have lost sight of this aspect to some extent.

Raja Koduri reiterates this idea and believes that technology giants like AMD and Intel need to rethink their approach to consumer GPUs. He emphasizes that PC developers see this type of technology as essential to their work. Based on how technologies such as AMD’s ROCm and Intel’s SYCL are being developed to eclipse PC GPUs, this means that such developers could be missing out on a lot. Koduri believes that NVIDIA and AMD would be in a much better position than Intel in this regard. Ironically, this has hindered the adoption of Intel’s consumer GPUs by the developer community, as these same developers would like to have the best of both worlds (strong gaming and AI capabilities).

Raja Koduri claims that the current AI ecosystem is the main reason why GPU manufacturers are mainly focusing on AI accelerators. This means that existing and future resources are geared towards serving the AI audience exclusively, rather than general users. Although there are solutions, such as the recently surfaced ZLUDA, which allows NVIDIA’s CUDA libraries to be utilized on the ROCm stack, it is evident that modern stacks are not as “open-source” when it comes to their performance on all types of GPUs when focusing at an individual level.

Recently, NVIDIA has released support for TensorRT-LLM on its consumer GPUs, while AMD has also opened up support for ROCm on a specific series of its Radeon GPUs. For the average gamer, this is certainly not a worrying development, but rather commendable, as having modern AI capabilities and software stacks will be essential in the coming age of AI PCs. However, developers may have to rethink their decision to use a consumer GPU in the future, unless manufacturers change the way the software ecosystem evolves.

Source: @RajaXg

Kommentar

Lade neue Kommentare

H
Headyman

Veteran

115 Kommentare 53 Likes

Kapitalismus in Reinkultur. Die Firmen gehen dahin, wo der meiste Gewinn lockt. Da können noch so viele Millionen Nutzer schreien, funktioniert leider nicht. Im Automilbau das Gleiche. Am Kleinwagen wird weniger verdient, also lieber teure Dickschiffe produzieren, da bleibt einfach mehr hängen.
Für die Gamer kommt eh ne längere Durststrecke, egal wie viel Geld man ausgibt. Speicherinterface skaliert schon lange nicht mehr, SRAM skaliert nicht mehr, neue Fertigungsnodes haben kein besseres Preis/Leistung. Jedes bisschen mehr Leistung wird mindestens poportional teurer, wenn nicht sogar teurer.
Nvidia hätte die Kohle für Entwicklung im Gamingsektor, aber KI ist verlockenden. Intel hängt noch in den Seilen und AMD hat zu wenig Ressourcen. Es sieht düster aus.

Antwort Gefällt mir

G
Guest

Das ist so!
Wobei die schönsten Games sind doch die echten, die da draußen rennen.. Inkl Leichen und Trümmer. Und Netzbeschäftigung der Massen..
Ob es Gamer mit dem Denken in 5 Jahren noch gibt? ( Handheld invasion)
Was ist die größere Sucht? Was verdrängt?
KI dient zu 99% für Überwachung, KUndendatenabmelken und Krieg. Wer etwas anderes glaubt ist entweder voll dumm oder war wo..
Und natürlich zur Manipulation der Massen. Wenn man heute liest, wie träge ein Volk ist, und seine Freiheit ( B RD) lieber aufgibt
und welchen Argumenten die parlieren, da wird da schlecht. Wobei wenn ein Schaaaaf so glücklich ist das es nach unten guckt, Futter
hat und halt ein bisserl opfern muss ( am Ende der Schlachter) ja dann. Manche finden es so toll. ( oder Gulag? oder Northumbria 9 te Legion?)
Bin gespannt, wenn der erste T-72 in Brandenburg rum rollt, wie viel 1989-tiefgefrohren wieder wach werden und in ihrer gebückte Haltung
des Leibeigen übergehen, weil nun ist es wieder da ihr Paradies.
Und im feudalen Größeren kann es sein, das in Amerika der neue James Caan in seinem ROLLERBALL happy ist. INkl ausgestppfter Vollhohlbirne
in orange. ( der ja laut STARTREK und so weiter..lol-- Datum passt ja schon-- ich geh mal schiffen)
Der Buchtitel den ich wählen würde : " DIE INVASION DER VOLLTROTTELN" rororo gebunden 10 Seiten 99,90.- lol :)

Ps was ist ein Kleinwagen? Mein 1969er Alpine A110? 650 kilo.. 2024 will keiner einen unter700 Kilo Wagen mit 35/50 kw Emotor bauen.
Und nein der ist flink wie eine Lancia Stratos und cool gezeichnet.
2024 will die tröge Masse in Ihren 2 Tonnen Frischhalteboxen rum eiern. Weil auf der Pathologie zu wenig Platz ist. Die sind tot.
hat ihnen keiner gesagt.
eh wurscht. Peace :)

Antwort Gefällt mir

Klicke zum Ausklappem
8j0ern

Urgestein

2,461 Kommentare 771 Likes

Es gibt auch gute Dinge, die man mit KI machen kann. :)

Antwort Gefällt mir

T
Togal

Neuling

6 Kommentare 7 Likes

Mich irritiert dieser Text und damit meine ich nicht, dass Tensorflow-Einheiten immer mehr zur Grundausstattung eines Computers gehören werden. Auch nicht, dass es einer OpenSourceCommunity bedarf, damit Deep Lerning Prozesse transparent, offen und zugänglich gestaltet werden können. Nein, mich irritiert ein Text, den offenbar eine KI zur Unkentlichkeit in die Länge gezerrt hat.

Antwort Gefällt mir

C
ChaosKopp

Urgestein

516 Kommentare 534 Likes

Würde man die Redundanz entfernen, könnte man 30 % Lebenszeit einsparen. Zumal der rote Faden einige Knoten bekommen hat.

Leider ist auf meinem Mobiltelefon dann auch die Darstellung verhunzt.

@elektroPelz Nun stör Dich doch nicht an Kleinigkeiten, sie marschieren heute für "die Demokratie" in Reih' und Glied und selbst Lehrer werden ländlich genötigt, ihre Neutralität ad acta zu legen. Das sind dieses Mal die "Guten", also wird alles gut dieses Mal.

Derweil man uniform Badewannen auf hohem Fuße erwirbt, Tendenz geht ja zu rollenden Powerbanks, weil das Gas, das Pflanzen wachsen lässt, extrem zum diesmal wirklich stattfindenden Weltuntergang beiträgt.

Hätte man nicht alles schon mal gesehen, man wäre guter Dinge.

Antwort Gefällt mir

hansmuff

Mitglied

39 Kommentare 24 Likes

KI ist die .com Blase ca. Jahr 2000.

KI ist brauchbar, genau wie Google.com als Suchmaschine auch, halt 'ne bessere Version. Kann Inferenzen verarbeiten und sonstwas, ist nützlich, aber eben als Referenz und ansonsten Spielzeug. Das wird wie ein Klappstuhl zusammenfallen, so wie es derzeit an der Börse angiebt.. wie 'ne Lore Affen.

Antwort Gefällt mir

Danke für die Spende



Du fandest, der Beitrag war interessant und möchtest uns unterstützen? Klasse!

Hier erfährst Du, wie: Hier spenden.

Hier kannst Du per PayPal spenden.

About the author

Samir Bashir

Werbung

Werbung