Micron startet Massenproduktion an HBM3E für NVIDIAs H200 Tensor Core GPUs

Wie Micron Technology kürzlich bekannt gab, hat man mit der Massenproduktion an seiner High Bandwidth Memory 3E (HBM3E) begonnen. Dabei wird Microns 24 GB 8H HBM3E ein Bestandteil der NVIDIA H200 Tensor Core GPUs werden.

Die Auslieferung der NVIDIA H200er-Reihe mit Microns HBM3E soll im zweiten Quartal ausgeliefert werden. So wird dieser HBM3e-Speicher laut Micron 30% weniger Strom verbrauchen und auch noch einiges an anderen Highlights bieten. Demnach soll die Pin-Geschwindigkeit mehr als 9,2 Gigabit pro Sekunde bieten und eine Speicherbandbreite von mehr als 1,2 Terabyte pro Sekunde ermöglichen. Damit will man blitzschnelle Datenzugriffe für KI-Beschleuniger, Supercomputer und Rechenzentren erzielen. Dadurch soll es möglich sein, massive neuronale Netze zu trainieren. Zudem sollen Inferencing-Aufgaben stark beschleunigt werden.

Sumit Sadana, Executive Vice President und Chief Business Officer bei Micron, nennt die drei Säulen des HBM3E-Meilensteins. Dieser zeichnet sich durch Marktführerschaft, branchenführende Leistung und ein differenziertes Energieeffizienzprofil aus. Er sagte zudem, dass KI-Workloads stark von Speicherbandbreite und -kapazität abhängen. Sein Unternehmen ist daher bestens positioniert, um das erhebliche Wachstum im Bereich Künstliche Intelligenz zu unterstützen. Das Unternehmen kann dies durch seine führende HBM3E- und HBM4-Roadmap sowie durch sein umfassendes Portfolio an DRAM- und NAND-Lösungen für KI-Anwendungen erreichen.

Das HBM3E-Design basiert auf seiner 1-Beta-Technologie, fortschrittlichen Through-Silicon-Via (TSV) und anderen Innovationen, die eine differenzierte Packaging-Lösung ermöglichen. Micron, ist ein bekannter Marktführer im Bereich Speicher für 2,5D/3D-Stacking und fortschrittliche Gehäusetechnologien sowie ein Partner der 3DFabric Alliance von TSMC und gestaltet so die Zukunft der Halbleiter- und Systeminnovationen aktiv mit.

Als wäre es nicht genug, will Micron im März 2024 bereits den 36 GB großen 12-High HBM3E einführen. Dieser soll eine Leistung von mehr als 1,2 TB/s aufweisen und ebenfalls eine starke Energieeffizienz hervorbringen. Micron ist übrigens Sponsor der NVIDIA GTC, einer globalen KI-Konferenz, die am 18. März beginnt. An dieser Konferenz will das Unternehmen mehr über sein branchenführendes KI-Speicherportfolio und seine Roadmaps berichten.

Quelle: Micron