LLMs erobern Laptops: NVIDIA- und HP-CEOs bejubeln KI-fähige PCs

In einem informellen Gespräch sagten die CEOs von NVIDIA und HP jetzt voraus, dass 2024 das Jahr sein wird, in dem generative KI persönlich wird. Sie stellten neue Laptops vor, die in der Lage sind, große Sprachmodelle zu erstellen, zu testen und auszuführen. Auf dem HP Amplify, einem Treffen in Las Vegas mit etwa 1.500 Wiederverkäufern und Distributoren, bejubelte NVIDIA-Gründer und CEO Jensen Huang die neue Ära und bezeichnete sie als „Renaissance des Personal Computers“. Er betonte, dass die Arbeit von Kreativen, Designern und Datenwissenschaftlern durch diese neuen Workstations revolutioniert wird. HPs CEO Enrique Lores hob hervor, dass KI eine bahnbrechende Entwicklung für den PC darstellt und kündigte an, dass HP das branchenweit größte Portfolio an KI-PCs und Workstations einführen wird.

Schnelligkeit und Sicherheit sind von großer Bedeutung

Auf der Veranstaltung sagte Lores in seiner Keynote, dass die neuen Systeme im Vergleich zur Ausführung ihrer KI-Arbeit in der Cloud eine erhöhte Geschwindigkeit und Sicherheit bieten und gleichzeitig Kosten und Energie reduzieren werden. Die neuen HP ZBooks bieten eine Palette von mobilen KI-Arbeitsstationen, die von einer vollständigen Palette von NVIDIA RTX Ada Generation GPUs betrieben werden. Einsteigermodelle mit dem NVIDIA RTX 500 Ada Generation Laptop-GPU ermöglichen es den Benutzern, generative KI-Apps und Tools überall dort auszuführen, wo sie hingehen. High-End-Modelle packen die RTX 5000, um bis zu 682 TOPS zu liefern, damit sie lokal LLMs erstellen und ausführen können, indem sie die retrieval-augmented generation (RAG) verwenden, um sich mit ihrem Inhalt zu verbinden, um Ergebnisse zu erzielen, die sowohl personalisiert als auch privat sind.

Zugang zu beschleunigter Software

Die neuen Workstations können auf die vollständige AI-Plattform von NVIDIA zugreifen, einschließlich Software, die die Datenauswertung beschleunigt, die der generativen KI zugrunde liegt. Die Z by HP AI Studio-Plattform der Systeme – in Zusammenarbeit mit NVIDIA entwickelt – ist mit dem NVIDIA NGC verbunden, einem Katalog von GPU-beschleunigter Software für KI und Datenauswertung. NGC umfasst auch NVIDIA NeMo, ein Framework zum Erstellen, Anpassen und Bereitstellen von generativen KI-Modellen. Darüber hinaus haben HP und NVIDIA angekündigt, dass die NVIDIA CUDA-X-Bibliotheken in die Systeme integriert werden, um die Datenvorbereitung und -verarbeitung zu beschleunigen, die für die generative KI grundlegend ist.

Beschleunigungen für Datenwissenschaftler

Die Bibliotheken umfassen NVIDIA RAPIDS cuDF, die pandas beschleunigt, eine Software, die von fast 10 Millionen Datenwissenschaftlern verwendet wird. „Früher dauerte es Stunden und manchmal Tage, um Daten zu verarbeiten, die sie jetzt in Minuten erledigen können“, sagte Huang. „Diese pandas-Bibliothek ist wahnsinnig komplex“, fügte er hinzu und merkte an, dass NVIDIA-Ingenieure mehr als fünf Jahre damit verbracht haben, den Code neu zu formulieren, damit er mit GPUs beschleunigt werden kann.

Der Beginn einer neuen Ära

Gemeinsam mit den neuen Systemen kündigte HP ein Partner-Trainingsprogramm an, das in Zusammenarbeit mit NVIDIA entwickelt wurde. Es wird Computeranbietern ausstatten, Kunden zu den richtigen KI-Produkten und -Lösungen zu beraten, um ihren Anforderungen gerecht zu werden. Solche Programme ebnen den Weg für eine Branche, die in eine Ära eintritt, in der KI es ermöglicht, dass Software Software schreibt. „Wir haben den Computer neu erfunden. Wir haben neu erfunden, wie Software geschrieben wird, und jetzt müssen wir neu erfinden, wie Software genutzt wird“, sagte Huang. „Große Sprachmodelle, die mit anderen LLMs verbunden sind, werden dazu beitragen, Anwendungsprobleme zu lösen – das ist die Zukunft.“

Quelle: NVIDIA