Meta zeigt Interesse an NVIDIAs neuem Grafikkartenchip und bestellt schon mal

Erst neulich stellte NVIDIA im Rahmen der diesjährigen GTC ihren neuen B200-Chip vor. Das Unternehmen Meta zeigt laut Reuters-Mitarbeiter Katie Paul, Stephen Nellis und Max Cherney starkes Interesse an diesen Chip und hat auch angefangen, diesen zu bestellen.

NVIDIA goes MCM und kündigt Blackwell auf der GTC 2024 offiziell an: Details zum Monster-Chip

Dabei erwartet man bereits in diesem Jahr mit der Lieferung des Chips bei Mark Zuckerbergs Unternehmen Meta. Der B200-Chip soll laut NVIDIA  30x schneller sein bei seinen Aufgaben. Dabei handelt es sich unter anderem um die Bereitstellung von Antworten von Chatbots, obwohl es keine spezifischen Details darüber gab, wie gut er beim Arbeiten von riesigen Datenmengen ist. Die Chips werden dann verwendet, um die Llama-Modelle des Unternehmens zu trainieren.

Kurz und knackig ist der B200 ein Chip aus der Blackwell Architektur von NVIDIA, die durch mithilfe eines 4NP-TSMC-Prozesses entwickelt wird. Dabei setzt man auf einen Multi-Chip Module, die durch eine 10 TB/Sekunde Chip-zu-Chip-Verbindung in einer einheitlichen GPU verbunden ist. Dieser enthält einen HBM3E-Grafikspeicher von bis zu 192 GB. Die Datenbrandbreite des Chips erreicht eine Leistung von bis zu 8 TB die Sekunde. Er ist mit 208 Milliarden Transistoren ausgestattet und bietet bis zu 4-fache Leistung beim KI-Training, eine bis zu 30-fache Leistung bei KI-Inferencing sowie eine 25-fach höhere Energieeffizienz.

Das Unternehmen Meta ist einer der größten Kunden von NVIDIA, nachdem man Hunderttausende von Chips der vorherigen Generation gekauft hat, um den Ausbau von Empfehlungssystemen für Inhalte und generativen KI-Produkten zu unterstützen. Meta-CEO Mark Zuckerberg gab auch schon vor einiger Zeit bekannt, dass man bis zu 350.000 H100-Chips in seinen Unternehmen bis Ende des Jahres haben will. In Kombination mit anderen GPUs würde Meta bis dahin über das Äquivalent von etwa 600.000 H100s verfügen.

Für Meta ist dies ein wichtiger Schritt, um seine Produkte weiterzuentwickeln und auch für NVIDIA spielt es eine bedeutende Rolle, denn man beim Bedienen solcher großen Kunden, vergrößert man auch seine führende Rolle in dieser Branche. 

Quelle: Reuters