NVIDIA GTC 2024: Auf der bisher größten GTC-Konferenz stellte NVIDIA-Gründer und CEO Jensen Huang die NVIDIA Blackwell-Plattform, NIM-Microservices, Omniverse Cloud APIs und vieles mehr vor. Über 11.000 Teilnehmern vor Ort und zehntausenden Online-Zuschauern waren dabei.
Im Mittelpunkt stand dabei die neue Blackwell-Computing-Plattform, die speziell für die Anforderungen der generativen KI entwickelt wurde. Huang betonte, dass die generative KI jede Branche revolutionieren wird, die sie berührt – alles, was bisher gefehlt hat, ist die Technologie, um die Herausforderung zu meistern.
Einleitung
In einer faszinierenden Keynote auf der GTC präsentierte NVIDIA CEO Jensen Huang bahnbrechende Innovationen, die die Zukunft der KI und des Computing neu definieren werden. Mit der Vorstellung der neuen Blackwell-Architektur, die speziell für die Ära der generativen KI entwickelt wurde, eröffnet NVIDIA neue Möglichkeiten für superschnelles Computing und ermöglicht die Verarbeitung von Modellen mit Billionen von Parametern. Doch das ist nur der Anfang einer Reihe von Ankündigungen, die zeigen, wie NVIDIA die Art und Weise, wie wir Software entwickeln, die physische Welt mit der digitalen verbinden und Robotik vorantreiben, grundlegend verändern wird.
Huang betonte, dass generative KI die Art und Weise, wie Anwendungen geschrieben werden, verändert. Anstatt Software von Grund auf neu zu schreiben, werden Unternehmen in Zukunft KI-Modelle zusammenstellen, ihnen Aufgaben zuweisen und Beispiele für Arbeitsprodukte liefern. NVIDIA NIMs, Pakete aus beschleunigten Computing-Bibliotheken und generativen KI-Modellen, werden dabei eine zentrale Rolle spielen. Große Tech-Unternehmen setzen diese Technologie bereits ein, und NVIDIA unterstützt sie beim Aufbau von Copiloten und virtuellen Assistenten.
Ein weiterer Schwerpunkt von Huangs Vortrag war die Verbindung von KI mit der physischen Welt durch die Omniverse-Plattform. Mit den neuen Omniverse Cloud-APIs können Entwickler Kerntechnologien direkt in bestehende Design- und Automatisierungssoftware integrieren und so digitale Zwillinge und Simulationsworkflows für autonome Maschinen erstellen. Die Zusammenarbeit mit führenden Industriesoftware-Herstellern unterstreicht das enorme Potenzial dieser Technologie.
Schließlich betonte Huang, dass die Zukunft der Robotik gehört und NVIDIA eine entscheidende Rolle dabei spielen wird. Mit fortschrittlichen Technologien wie Isaac Perceptor, Isaac Manipulator und Project GR00T treibt NVIDIA Innovationen in der Robotik und der verkörperten KI voran. Die Partnerschaft mit BYD und die Einführung des Jetson Thor-Computers für humanoide Roboter verdeutlichen NVIDIAs Engagement in diesem Bereich.
NVIDIA GTC 2024 Key-Facts
- Blackwell-Architektur: Eine neue Architektur, die speziell für die Ära der generativen KI entwickelt wurde und superschnelles Computing für Modelle mit Billionen von Parametern ermöglicht.
- NVIDIA NIMs: Pakete aus beschleunigten Computing-Bibliotheken und generativen KI-Modellen, die die Art und Weise, wie Software entwickelt wird, verändern werden.
- Omniverse Cloud-APIs: Ermöglichen die Integration von Omniverse-Kerntechnologien in bestehende Design- und Automatisierungssoftware für die Erstellung digitaler Zwillinge und Simulationsworkflows.
- Isaac Perceptor und Isaac Manipulator: Fortschrittliche Technologien für die Wahrnehmung und Steuerung von Robotern.
- Project GR00T: Ein universelles Grundlagenmodell für humanoide Roboter, das Durchbrüche in der Robotik und der verkörperten KI vorantreiben soll.
- Jetson Thor: Ein neuer Computer für humanoide Roboter, der auf dem NVIDIA Thor System-on-a-Chip basiert.
Beschleunigte Datenverarbeitung erreicht Wendepunkt
“Die beschleunigte Datenverarbeitung hat einen Wendepunkt erreicht – die allgemeine Datenverarbeitung ist an ihre Grenzen gestoßen”, sagte Huang. “Wir brauchen eine andere Art der Datenverarbeitung – damit wir weiter skalieren können, damit wir die Kosten für die Datenverarbeitung weiter senken können, damit wir weiterhin mehr und mehr Datenverarbeitung nutzen können und dabei nachhaltig bleiben. Die beschleunigte Datenverarbeitung ist eine drastische Beschleunigung gegenüber der allgemeinen Datenverarbeitung, und zwar in jeder einzelnen Branche.”
NVIDIA Blackwell-Plattform für Echtzeit-Generative-KI
Huang stellte die NVIDIA Blackwell-Plattform vor, die Echtzeit-Generative-KI für große Sprachmodelle mit Billionen von Parametern ermöglicht. Dies stellt ein massives Upgrade für die weltweite KI-Infrastruktur dar.
Außerdem präsentierte Huang NVIDIA NIM – ein Verweis auf NVIDIA Inference Microservices – eine neue Art, Software zu verpacken und bereitzustellen, die Entwickler mit Hunderten Millionen von GPUs verbindet, um benutzerdefinierte KI aller Art einzusetzen.
Um KI in die physische Welt zu bringen, stellte Huang Omniverse Cloud APIs vor, die fortschrittliche Simulationsfähigkeiten bieten.
Partnerschaften mit führenden Unternehmen
Huang untermauerte diese wichtigen Ankündigungen mit leistungsstarken Demos, Partnerschaften mit einigen der weltweit größten Unternehmen und mehr als 20 Ankündigungen, die seine Vision detailliert beschreiben.
Die GTC ist in 15 Jahren vom Ballsaal eines örtlichen Hotels zur weltweit wichtigsten KI-Konferenz herangewachsen. Sie findet in diesem Jahr zum ersten Mal seit fünf Jahren wieder als Präsenzveranstaltung statt.
Multimodale KI erfordert mehr Rechenleistung
Huang erklärte, dass der Aufstieg der multimodalen KI, die verschiedene Datentypen verarbeiten kann, die von verschiedenen Modellen behandelt werden, der KI eine größere Anpassungsfähigkeit und Leistungsfähigkeit verleiht. Durch die Erhöhung ihrer Parameter können diese Modelle komplexere Analysen durchführen.
Dies bedeutet jedoch auch einen deutlichen Anstieg des Bedarfs an Rechenleistung. Und wenn diese kollaborativen, multimodalen Systeme komplexer werden – mit bis zu einer Billion Parametern – verstärkt sich die Nachfrage nach einer fortschrittlichen Recheninfrastruktur.
“Wir brauchen noch größere Modelle”, sagte Huang. “Wir werden sie mit multimodalen Daten trainieren, nicht nur mit Text aus dem Internet, wir werden sie mit Texten und Bildern, Grafiken und Diagrammen trainieren, und so wie wir beim Fernsehen gelernt haben, wird es eine ganze Menge Videos zu sehen geben.”
Die nächste Generation der beschleunigten Datenverarbeitung
“Wir brauchen größere GPUs”, erklärte Huang kurz und bündig. Die Blackwell-Plattform wurde entwickelt, um diese Herausforderung zu meistern. Huang zog einen Blackwell-Chip aus seiner Tasche und hielt ihn neben einen Hopper-Chip, der im Vergleich dazu winzig erschien.
Die neue Architektur, benannt nach David Harold Blackwell – einem an der University of California, Berkeley tätigen Mathematiker, der sich auf Spieltheorie und Statistik spezialisierte und der erste schwarze Wissenschaftler war, der in die National Academy of Sciences aufgenommen wurde – löst die vor zwei Jahren eingeführte NVIDIA Hopper-Architektur ab.
Blackwell bietet pro Chip eine 2,5-fache Leistung seines Vorgängers in FP8 für das Training und eine 5-fache Leistung in FP4 für die Inferenz. Es verfügt über eine NVLink-Verbindung der fünften Generation, die doppelt so schnell ist wie Hopper und auf bis zu 576 GPUs skaliert werden kann.
Der NVIDIA GB200 Grace Blackwell Superchip verbindet zwei Blackwell NVIDIA B200 Tensor Core GPUs mit der NVIDIA Grace CPU über eine extrem stromsparende NVLink-Chip-zu-Chip-Verbindung mit 900 GB/s.
Huang hielt eine Platine mit dem System hoch. “Dieser Computer ist der erste seiner Art, bei dem so viel Rechenleistung auf so kleinem Raum untergebracht ist”, sagte er. “Da dies speicherkohärent ist, fühlt es sich an wie eine große, glückliche Familie, die gemeinsam an einer Anwendung arbeitet.”
Für höchste KI-Leistung können GB200-basierte Systeme mit den ebenfalls heute angekündigten NVIDIA Quantum-X800 InfiniBand- und Spectrum-X800 Ethernet-Plattformen verbunden werden, die fortschrittliches Networking mit Geschwindigkeiten von bis zu 800 Gb/s liefern.
“Die Menge an Energie, die wir einsparen, die Menge an Netzwerkbandbreite, die wir einsparen, die Menge an verschwendeter Zeit, die wir einsparen, wird enorm sein”, sagte Huang. “Die Zukunft ist generativ … deshalb ist dies eine völlig neue Branche. Die Art und Weise, wie wir rechnen, ist fundamental anders. Wir haben einen Prozessor für die Ära der generativen KI geschaffen.”
Um Blackwell zu skalieren, entwickelte NVIDIA einen neuen Chip namens NVLink Switch. Jeder kann vier NVLink-Verbindungen mit 1,8 Terabyte pro Sekunde herstellen und den Datenverkehr durch netzwerkinterne Reduzierung eliminieren.
NVIDIA Switch und GB200 sind Schlüsselkomponenten dessen, was Huang als “eine riesige GPU” bezeichnete, den NVIDIA GB200 NVL72, ein Multi-Node-, flüssigkeitsgekühltes Rack-Scale-System, das Blackwell nutzt, um superschnelles Computing für Modelle mit Billionen von Parametern zu bieten, mit 720 Petaflops KI-Trainingsleistung und 1,4 Exaflops KI-Inferenzleistung in einem einzigen Rack.
“Im Moment gibt es nur ein paar, vielleicht drei Exaflop-Maschinen auf dem Planeten”, sagte Huang über die Maschine, die 600.000 Teile enthält und 3.000 Pfund wiegt. “Dies ist also ein Exaflop-KI-System in einem einzigen Rack. Nun, werfen wir einen Blick auf die Rückseite.”
NVIDIA kündigte heute außerdem seinen KI-Supercomputer der nächsten Generation an – den NVIDIA DGX SuperPOD, der von NVIDIA GB200 Grace Blackwell Superchips angetrieben wird – für die Verarbeitung von Modellen mit Billionen von Parametern bei konstanter Betriebszeit für superschnelle generative KI-Trainings- und Inferenz-Workloads.
Der neue DGX SuperPOD verfügt über eine neue, hocheffiziente, flüssigkeitsgekühlte Rack-Scale-Architektur, ist mit NVIDIA DG GB200-Systemen ausgestattet und bietet 11,5 Exaflops KI-Supercomputing mit FP4-Präzision und 240 Terabyte schnellen Speicher – skalierbar auf mehr mit zusätzlichen Racks.
“In Zukunft werden Rechenzentren als … KI-Fabriken betrachtet werden”, sagte Huang. “Ihr Lebensziel ist es, Einnahmen zu generieren, in diesem Fall Intelligenz.”
Die Branche hat Blackwell bereits angenommen.
Die Pressemitteilung, in der Blackwell angekündigt wurde, enthält Empfehlungen von Sundar Pichai, CEO von Alphabet und Google, Andy Jassy, CEO von Amazon, Michael Dell, CEO von Dell, Demis Hassabis, CEO von Google DeepMind, Mark Zuckerberg, CEO von Meta, Satya Nadella, CEO von Microsoft, Sam Altman, CEO von OpenAI, Larry Ellison, Vorsitzender von Oracle, sowie Elon Musk, CEO von Tesla und xAI.
Blackwell wird von allen großen globalen Cloud-Dienstanbietern, wegweisenden KI-Unternehmen, System- und Serveranbietern sowie regionalen Cloud-Dienstanbietern und Telekommunikationsunternehmen auf der ganzen Welt eingesetzt.
“Die gesamte Branche rüstet sich für Blackwell”, das laut Huang der erfolgreichste Start in der Geschichte des Unternehmens sein wird.
Eine neue Art, Software zu erstellen
Generative KI verändert die Art und Weise, wie Anwendungen geschrieben werden, erklärte Huang.
Anstatt Software zu schreiben, so erläuterte er, werden Unternehmen in Zukunft KI-Modelle zusammenstellen, ihnen Aufgaben geben, Beispiele für Arbeitsprodukte liefern und Pläne sowie Zwischenergebnisse überprüfen.
Diese Pakete – NVIDIA NIMs – sind aus NVIDIAs beschleunigten Computing-Bibliotheken und generativen KI-Modellen aufgebaut, erklärte Huang.
“Wie bauen wir in Zukunft Software? Es ist unwahrscheinlich, dass man sie von Grund auf neu schreibt oder einen ganzen Haufen Python-Code oder so etwas schreibt”, sagte Huang. “Es ist sehr wahrscheinlich, dass man ein Team von KIs zusammenstellt.”
Die Microservices unterstützen branchenübliche APIs, so dass sie einfach zu verbinden sind, über NVIDIAs große installierte CUDA-Basis funktionieren, für neue GPUs neu optimiert werden und ständig auf Sicherheitslücken und Schwachstellen überprüft werden.
Huang sagte, dass Kunden NIM-Microservices von der Stange nutzen können oder NVIDIA beim Aufbau proprietärer KI und Copiloten helfen kann, indem es einem Modell spezialisierte Fähigkeiten beibringt, die nur ein bestimmtes Unternehmen kennen würde, um wertvolle neue Dienste zu schaffen.
“Die Enterprise-IT-Branche sitzt auf einer Goldmine”, sagte Huang. “Sie haben all diese erstaunlichen Werkzeuge (und Daten), die im Laufe der Jahre geschaffen wurden. Wenn sie diese Goldmine nehmen und in Copiloten verwandeln könnten, könnten diese Copiloten uns helfen, Dinge zu tun.”
Große Tech-Player setzen es bereits ein. Huang erläuterte, wie NVIDIA bereits Cohesity, NetApp, SAP, ServiceNow und Snowflake beim Aufbau von Copiloten und virtuellen Assistenten unterstützt. Auch Branchen steigen ein.
Im Bereich Telekommunikation kündigte Huang die NVIDIA 6G Research Cloud an, eine Plattform auf Basis von generativer KI und Omniverse zur Weiterentwicklung der nächsten Kommunikationsära. Sie basiert auf NVIDIAs Sionna Neural Radio Framework, dem CUDA-beschleunigten Funkzugangsnetz NVIDIA Aerial und dem NVIDIA Aerial Omniverse Digital Twin für 6G.
Im Bereich Halbleiterdesign und -fertigung gab Huang bekannt, dass NVIDIA in Zusammenarbeit mit TSMC und Synopsys seine bahnbrechende Plattform für Rechenlithografie, cuLitho, in die Produktion bringt. Diese Plattform wird die rechenintensivste Arbeitslast in der Halbleiterfertigung um das 40- bis 60-fache beschleunigen.
Huang kündigte außerdem den NVIDIA Earth Climate Digital Twin an. Die Cloud-Plattform – ab sofort verfügbar – ermöglicht interaktive, hochauflösende Simulationen zur Beschleunigung von Klima- und Wettervorhersagen.
Die größten Auswirkungen von KI wird es im Gesundheitswesen geben, sagte Huang und erklärte, dass NVIDIA bereits in Bildgebungssystemen, in Gensequenzierungsinstrumenten und mit führenden Unternehmen für chirurgische Robotik zusammenarbeitet.
NVIDIA bringt eine neue Art von Biologie-Software auf den Markt. NVIDIA startete heute mehr als zwei Dutzend neue Microservices, die es Gesundheitsunternehmen weltweit ermöglichen, die neuesten Fortschritte in der generativen KI von überall und auf jeder Cloud zu nutzen. Sie bieten fortschrittliche Bildgebung, natürliche Sprach- und Spracherkennung sowie digitale Biologieerzeugung, -vorhersage und -simulation.
Omniverse bringt KI in die physische Welt
Die nächste Welle der KI wird sein, dass KI über die physische Welt lernt, sagte Huang.
“Wir brauchen eine Simulationsmaschine, die die Welt für den Roboter digital darstellt, damit der Roboter eine Turnhalle hat, in der er lernen kann, wie man ein Roboter ist”, sagte er. “Wir nennen diese virtuelle Welt Omniverse.”
Deshalb kündigte NVIDIA heute an, dass NVIDIA Omniverse Cloud als APIs verfügbar sein wird und damit die Reichweite der weltweit führenden Plattform für die Erstellung industrieller digitaler Zwillingsanwendungen und Workflows auf das gesamte Ökosystem von Softwareherstellern ausweitet.
Die fünf neuen Omniverse Cloud-Programmierschnittstellen ermöglichen es Entwicklern, Omniverse-Kerntechnologien direkt in bestehende Design- und Automatisierungssoftwareanwendungen für digitale Zwillinge oder ihre Simulationsworkflows zum Testen und Validieren autonomer Maschinen wie Roboter oder selbstfahrende Fahrzeuge zu integrieren.
Um zu zeigen, wie das funktioniert, teilte Huang eine Demo eines Roboterlagers – mit Multi-Kamera-Wahrnehmung und -Tracking -, das die Arbeiter überwacht und Roboter-Gabelstapler orchestriert, die autonom fahren, wobei der gesamte Roboter-Stack läuft.
Huang kündigte außerdem an, dass NVIDIA Omniverse auf Apple Vision Pro bringt, wobei die neuen Omniverse Cloud-APIs es Entwicklern ermöglichen, interaktive industrielle digitale Zwillinge in die VR-Headsets zu streamen.
Einige der weltweit größten Hersteller von Industriesoftware setzen auf Omniverse Cloud-APIs, darunter Ansys, Cadence, Dassault Systèmes für seine Marke 3DEXCITE, Hexagon, Microsoft, Rockwell Automation, Siemens und Trimble.
Robotik
Alles, was sich bewegt, wird robotisch sein, sagte Huang. Die Automobilindustrie wird ein großer Teil davon sein. NVIDIA-Computer sind bereits in Autos, Lastwagen, Lieferrobotern und Robotertaxis im Einsatz.
Huang kündigte an, dass BYD, das weltweit größte Unternehmen für autonome Fahrzeuge, den Computer der nächsten Generation von NVIDIA für sein AV ausgewählt hat und seine Elektrofahrzeugflotten der nächsten Generation auf DRIVE Thor aufbaut.
Um Robotern zu helfen, ihre Umgebung besser zu sehen, kündigte Huang außerdem das Software Development Kit Isaac Perceptor mit modernster Multi-Kamera-visueller Odometrie, 3D-Rekonstruktion und Belegungskarte sowie Tiefenwahrnehmung an.
Um Manipulatoren oder Roboterarme anpassungsfähiger zu machen, kündigt NVIDIA Isaac Manipulator an – eine hochmoderne Bibliothek für Roboterarmwahrnehmung, Pfadplanung und kinematische Steuerung.
Schließlich kündigte Huang Project GR00T an, ein universelles Grundlagenmodell für humanoide Roboter, das entwickelt wurde, um die Arbeit des Unternehmens voranzutreiben, Durchbrüche in der Robotik und der verkörperten KI zu erzielen.
Zur Unterstützung dieser Bemühungen stellte Huang einen neuen Computer, Jetson Thor, für humanoide Roboter vor, der auf dem System-on-a-Chip NVIDIA Thor basiert, sowie bedeutende Upgrades der NVIDIA Isaac Robotik-Plattform.
In seinen letzten Minuten brachte Huang ein Paar winziger NVIDIA-betriebener Roboter von Disney Research auf die Bühne.
“Die Seele von NVDIA – die Schnittstelle von Computergrafik, Physik, künstlicher Intelligenz”, sagte er. “Alles kam in diesem Moment zum Tragen.”
Fazit NVIDIA GTC 2024
Die Keynote von NVIDIA CEO Jensen Huang auf der GTC 2024 markiert einen bedeutenden Meilenstein in der Entwicklung von KI, Robotik und Computing. Mit einer Reihe von bahnbrechenden Ankündigungen und Innovationen hat NVIDIA erneut seine Führungsposition in diesen Bereichen untermauert und den Weg für eine neue Ära der technologischen Möglichkeiten geebnet.
Die Einführung der Blackwell-Architektur, die speziell für die Anforderungen der generativen KI entwickelt wurde, eröffnet neue Dimensionen des superschnellen Computings und ermöglicht die Verarbeitung von Modellen mit einer bisher unerreichten Komplexität. Diese Leistungssteigerung wird sich auf zahlreiche Branchen auswirken und die Art und Weise, wie wir Probleme lösen und Innovationen vorantreiben, grundlegend verändern.
Auch die Vorstellung von NVIDIA NIMs zeigt, dass das Unternehmen die Zukunft der Softwareentwicklung im Blick hat. Durch die Kombination von beschleunigten Computing-Bibliotheken und generativen KI-Modellen ermöglicht NVIDIA es Unternehmen, schneller und effizienter fortschrittliche Anwendungen und Dienste zu entwickeln. Diese Demokratisierung der KI-Entwicklung wird zu einer Welle von Innovationen führen, die wir uns heute noch kaum vorstellen können.
Ein weiterer Schwerpunkt der Keynote war die Verbindung von KI mit der physischen Welt durch die Omniverse-Plattform. Die Omniverse Cloud-APIs ermöglichen es Entwicklern, digitale Zwillinge und Simulationsumgebungen zu schaffen, die neue Möglichkeiten für die Optimierung von Prozessen, die Entwicklung autonomer Systeme und die Zusammenarbeit in virtuellen Räumen eröffnen. Die Partnerschaft mit führenden Industriesoftware-Herstellern unterstreicht das enorme Potenzial dieser Technologie und lässt erahnen, wie tiefgreifend die Veränderungen sein werden.
Auch im Bereich der Robotik hat NVIDIA mit Technologien wie Isaac Perceptor, Isaac Manipulator und Project GR00T seine Vorreiterrolle gefestigt. Durch die Verbesserung der Wahrnehmung, Steuerung und Lernfähigkeit von Robotern ebnet das Unternehmen den Weg für eine Zukunft, in der Menschen und Maschinen nahtlos zusammenarbeiten werden. Die Partnerschaft mit BYD und die Einführung des Jetson Thor-Computers für humanoide Roboter verdeutlichen, dass diese Zukunft bereits begonnen hat.
Insgesamt hat Jensen Huang mit seiner Keynote eindrucksvoll demonstriert, dass NVIDIA nicht nur ein Vorreiter, sondern ein Gestalter des technologischen Wandels ist. Die vorgestellten Innovationen und Partnerschaften zeigen, dass das Unternehmen die Herausforderungen und Chancen der Zukunft erkannt hat und entschlossen ist, eine führende Rolle bei der Gestaltung einer Welt zu spielen, in der KI, Robotik und digitale Technologien unser Leben und unsere Arbeit prägen werden. Wir stehen zweifelsohne an der Schwelle zu einer neuen Ära, in der die von NVIDIA entwickelten Technologien eine zentrale Rolle spielen werden.
Quelle: NVIDIA
#NVIDIABlackwellArchitektur, #GenerativeKI, #NVIDIANIMs, #OmniverseCloudAPIs, #DigitaleZwillinge, #SimulationsWorkflows, #IsaacPerceptor, #IsaacManipulator, #ProjectGR00T, #JetsonThor, #KIRobotik, #AutonomeSysteme, #IndustriesoftwareInnovation, #NVIDIAGTCKeynote, #KIZukunft, #KI, #AI, #KuenstlicheIntelligenz