10 Millionen NVIDIA-GPUS bilden das neue KI-Modell von OpenAI

[Redaktion]

Es wird berichtet, dass OpenAI mit NVIDIA zusammenarbeitet, um eine beträchtliche Anzahl von KI-GPUs für das neueste GPT-4-Modell von ChatGPT zusammenzustellen. Es wird auch berichtet, dass die Unternehmen gemeinsam daran arbeiten, 10 Millionen KI-GPUs von NVIDIA für das Advanced AI-Modell zu sichern. ChatGPT nutzt derzeit eine große Anzahl der neuesten KI-fokussierten Grafikprozessoren von NVIDIA und (read full article...)

 

[echolot]

Erschreckend, aber nicht mehr aufzuhalten. Hoffentlich kann die menscheit die Bestie bändigen.

 

[TheSmart]

Erschreckend, aber nicht mehr aufzuhalten. Hoffentlich kann die menscheit die Bestie bändigen.

Erstmal abwarten..
KI´s sind (meistens) super.. aber immer nur auf einem Fachgebiet.
Außerdem habe ich eben erst gelesen, das ChatGPI nicht bis 4 zählen kann.

Da wird so viel hineininterpretiert von den (Berufs-)Apokalyptikern..

 

[ipat66]

Das lässt doch aber in Bezug auf fallende GPU Preise nichts Gutes erwarten

In Nvideas Umsatzprognosen, erwartet selbst Nvidea eher fallende Umsätzebei den Gaming-CPU's.

Lässt sich ja auch locker verkraften, wenn solche Aufträge ins Haus stehen.

 

[Brxn]

Und am besten gleich noch 2 Kohlekraftwerke daneben geklatscht. Im Winter können die bestimmt auch super zum heizen verwendet werden.
Und bei 10mio Stück .... klappts sicher auch mit dem Zählen bis 10 oder so ^^

 

[komatös]

[ironie]Da kommt bei mir die ultimativ wichtigste Frage auf: "Can it run Crysis?". [ironie/]

 

[goch]

Der Quellenlink funktionier leider nicht

 

[eastcoast_pete]

Etwas Suche nach der Quelle des Gerüchts führt immer zu "Wang Xiaochuan, einem Geschäftsmann und Gründer der chinesischen Suchmaschine Sogou" , der wohl auch eine Firma gegründet hat, die mit OpenAI konkurriert. Was schon etwas verwundert, denn warum würde er als einziger über eine derartig enorme Partnerschaft zwischen OpenAI und Nvidia wissen? Wenn die Pläne wahr wären, müsste Nvidia das ja auch ihreb Anleger (Aktieninhaber) offenlegen, da es sich um einen sogenannte "material event" handelt: ein KI Einheit (Beschleuniger) kostet ja zig-tausende Dollar, d.h. es ginge hier um eine zig Milliarden Investition wenn's die "10 Millionen" Beschleuniger News war wäre. Also, bis jetzt eher Gerücht, und ich frage mich "Que bono " - wem nützt es?

 

[ArcusX]

Ich fürchte, dass die Zahl 10.000.000 nVidia GPUs im Sinne von 10mio Karten eher ein Gerücht ist. Aber was ist denn mit 10mio Kernen/Recheneinheiten. Der AD 102 hat 144 bzw 18432 ALUs. Dann wären wir bei deutlich kleineren und vielleicht realistischeren Zahlen. 543 Vollausbaukarten ist immer noch eine Menge, wäre für mich aber denkbar.

 

[goch]

Genau davon gehe ich auch aus und wollte mal die Quelle checken - geht aber leider nicht.

Man kalkuliere mal vorsichtig mit 1k€ pro Datacenter GPU ...

 

[Martin Gut]

Aber was ist denn mit 10mio Kernen/Recheneinheiten. Der AD 102 hat 144 bzw 18432 ALUs.

Das geht mir bei jedem Artikel dieses Autor so, dass ich nicht weiss was gemeint ist. Irgendwelche zusammenhanglose Informationen die vielleicht sein könnten und dazu wirkt es sehr schlecht übersetzt. Da lese ich schon gar nicht mehr weiter.

 

[KalleWirsch]

Großer Aufreger!

https://www.gizmochina.com/2023/07/25/openai-nvidia-gpu-new-ai/

hier ist die echte Story

10 million GPUs for AI? This is the OpenAI project - Gearrice

It is undeniable that the Artificial intelligence is the hot topic these days, and of course the big companies have started a race for their dominance, which

www.gearrice.com

• According to the latest reports, the graphics card giant has supplied OpenAI with 20,000 graphics cards more recently, and this number will grow in recent months….

Microsoft and Google can't stop talking about AI, and this chart proves it

As Microsoft and Alphabet get more serious about artificial intelligence, they're spending a lot more time discussing it with the investment community.

www.marketwatch.com

• “The acceleration is really quite broad,” Hood said of capex expectations. “It’s on both the data centers and a physical basis, plus CPUs and GPUs and networking equipment. Think of it in a broad sense as opposed to a narrow sense.”

Fazit
Es ist eine Verknappung an A100 und H100 GPUs zu erwarten. Microsoft investiert einen Haufen Kohle in GPU Virtualisierung auf seiner Azure Cloud, wo auch die OpenAI Modelle trainiert werden, und andere wie Google tun das ja auch. Das die Chinesen RTX-Karten nehmen. Hmm, das ist technisch nicht einfach und Suboptimal weil zu wenig und langsames VRAM, und auch da werden es keine Millionen sein.

10 Millionen KI GPU ist im Moment gar nicht darstellbar. Das wäre ein Datenzentrum mir 3GW. Da müssten die 3 mittelgroße Atomkraftwerke daneben stellen.

 

[adi0815]

Das geht mir bei jedem Artikel dieses Autor so, dass ich nicht weiss was gemeint ist. Irgendwelche zusammenhanglose Informationen die vielleicht sein könnten und dazu wirkt es sehr schlecht übersetzt. Da lese ich schon gar nicht mehr weiter.

"Wenn diese Anlage fertiggestellt ist, wäre es sicherlich interessant, sie zu besichtigen und darüber zu sprechen."
Ist das mit ChatGPT4 übersetzt? Wirkt auf mich eher belustigend als eine ernsthafte Nachricht.
Ich empfehle dem Autor, vor Veröffentlichung seinen Beitrag wenigstens einmal durchzulesen!

 

[Roland83]

Das geht mir bei jedem Artikel dieses Autor so, dass ich nicht weiss was gemeint ist. Irgendwelche zusammenhanglose Informationen die vielleicht sein könnten und dazu wirkt es sehr schlecht übersetzt. Da lese ich schon gar nicht mehr weiter.

Könnte daran liegen das der Autor ist worüber er schreibt ( meine Meinung ) aber immerhin hat man dann hier auch gebündelt die daily News oder Gerüchte und erspart sich das abklappern div. Anderer Seiten wenn man gerade Lust auf Klatsch und Tratsch hat. Man darf nicht vergessen IgorsL ist halt keine 100 Personen Redaktion und eigentlich von der Monetarisierung auch zwanglos. Irgendwo muss man dann halt Kompromisse machen.

 

[eastcoast_pete]

Könnte daran liegen das der Autor ist worüber er schreibt ( meine Meinung ) aber immerhin hat man dann hier auch gebündelt die daily News oder Gerüchte und erspart sich das abklappern div. Anderer Seiten wenn man gerade Lust auf Klatsch und Tratsch hat. Man darf nicht vergessen IgorsL ist halt keine 100 Personen Redaktion und eigentlich von der Monetarisierung auch zwanglos. Irgendwo muss man dann halt Kompromisse machen.

Vielleicht läuft die KI, die die Meldung schrieb, auf AMD Beschleunigern, und mag deshalb nichts was auf Nvidia läuft ?
Oder umgekehrt ; aber, egal wie, diese "Meldung" war schon von den Grundlagen her unmöglich. Und wenn irgendjemand Nvidia einen Auftrag für 10 Millionen KI Beschleunigern erteilt hätte, wäre dies auch von Jensen Huang sehr lautstark angekündigt worden.
Bei solchen Dingen aus fragwürdigen Quellen bin ich einfach auch mißtrauisch, das hier jemand den (hier) Nvidia Aktienpreis beeinflussen will.

 

[Nemesis]

Erklärtes Ziel von Open Ai ist dir Artificial General Intelligence. Der erklärte Weg darüber sind Large Language Model (LLMs) Transformers (Decepticon oder Autobot wissen sie noch nicht, hab die Ki schon gefragt). Jedenfalls das was uns die jüngsten Erfolge in Sachen Ki beschert hat (Stichwort "emergent ablilities") war upscaling (GPT unter anderem). Das wird jetzt drastisch vorangetrieben. Microsoft hatte 10 Milliarden US Dollar gesponsert, das überschreitet das Budget bei weitem, aber bei 23 Euro im Monat und erklärten 100 Millionen Nutzern (macht so 2.3 Milliarden pro Monat) geht das vermutlich schon. Also man kann wohl in etwa 6000 Euro pro GPU rechnen, Vorzugspreis versteht sich. 60 milliarden (achtung, Englisch spaltet es sich bei Milliarden, das sind dann schon "Billions", aka 60 billion) USD?

 

[goch]

Könnte daran liegen das der Autor ist worüber er schreibt ( meine Meinung ) aber immerhin hat man dann hier auch gebündelt die daily News oder Gerüchte und erspart sich das abklappern div. Anderer Seiten wenn man gerade Lust auf Klatsch und Tratsch hat. Man darf nicht vergessen IgorsL ist halt keine 100 Personen Redaktion und eigentlich von der Monetarisierung auch zwanglos. Irgendwo muss man dann halt Kompromisse machen.

Fair enough. Aber wenigstens ein funktionierender Quellenlink ist das mindesteste, dafür braucht man auch kein Fachwissen. Und wenn das nicht mehr machbar ist, dann einfach weglassen sowas - Clickbait.

Mit einem Link dahinter kann man sich ja selbst das original anschauen und gegenlesen. Aber das scheint den "Autor" hier auch nicht zu interessieren.

 

[Oberst]

Und am besten gleich noch 2 Kohlekraftwerke daneben geklatscht. Im Winter können die bestimmt auch super zum heizen verwendet werden.
Und bei 10mio Stück .... klappts sicher auch mit dem Zählen bis 10 oder so ^^

Und was sollen die 2 Kohlekraftwerke machen? Den Strom für die Beleuchtung des Gebäudes liefern?
10 Millionen H100 brauchen alleine mindestens 3 GW an elektrischer Leistung. Und da ist noch keine CPU und kein Board, kein Netzteil kein Netzwerk mit eingerechnet. Gehen wir mal von 4 GPUs pro Board aus, braucht ein Blade vermutlich grob 1,7kW. Das wären dann nur für die Rechner schon 4,25 GW, immer noch ohne Netzwerk. Und die Leistungsaufnahme des Rechenzentrums liegt dann locker beim doppelten, wenn nicht beim dreifachen, weil die Kühlung so viel Strom frisst. Im Endeffekt wären das dann grob 9 GW, also locker 9 große Kohlekraftwerke, vermutlich eher 15 durchschnittliche.

 

[Brxn]

Jo und wenn deine 10mio H100 nicht stimmen und es sich lediglich um Kerne oder Recheneinheiten handelt, dann kommst mit 2 Kohlekraftwerken mehr als ausreichend hin.

Große Kohlekraftwerke erzeugen bis zu 2000MW=2GW ...

 

[Oberst]

Jo und wenn deine 10mio H100 nicht stimmen und es sich lediglich um Kerne oder Recheneinheiten handelt, dann kommst mit 2 Kohlekraftwerken mehr als ausreichend hin.

Große Kohlekraftwerke erzeugen bis zu 2000MW=2GW ...

Es steht explizit im Text: "10 Millionen KI-GPUs". Da steht nichts von Recheneinheiten oder Kerne, da steht explizit "GPUs". Und NVidia's kleinste H100 hat dann 300-350W (konfigurierbar).

Bezüglich der Kraftwerksleistung: Für mich ist ein Kraftwerk ein Block. War da etwas unklar. Wenn man viele Blöcke zusammen als ein Kraftwerk betrachtet, dann geht natürlich mehr.