Heute wurde der größte Supercomputer der Welt für KI-Training vorgestellt – und er ist beeindruckend. Aber hier kommt das Beste: es sind noch acht weitere in Planung. Bis nächstes Jahr werden wir eine vernetzte Galaxie von Supercomputern haben, die die KI-Landschaft revolutionieren soll!

Um es einfach zu sagen: es ist so, als ob wir das KI-Training von einem gemütlichen Spaziergang zu deinem Ziel in einen Überschalljetflug in Sachen Geschwindigkeit und Effizienz verwandeln.

Der größte KI-Supercomputer – Condor Galaxy 1 (CG-1)

Die KI-Pioniere von Cerebras Systems und die in den VAE ansässige KI-Technologie-Holding G42 haben sich zusammengeschlossen, um den Condor Galaxy 1 (CG-1) zu erschaffen. Es handelt sich um einen 4 ExaFLOP, 54 Millionen Kerne umfassenden, cloudbasierten KI-Supercomputer (mit acht weiteren gleichwertigen Computern in der aktuellen Entstehenung!).

Ein ExaFLOP ist eine Einheit der Rechengeschwindigkeit. Wenn du dir einen einzelnen FLOP als eine Berechnung vorstellst, repräsentiert ein ExaFLOP eine Quintillion (das ist eine Milliarde Milliarden) Berechnungen pro Sekunde! (Supercomputer sind 100 Millionen bis 1 Milliarde Mal schneller als ein normaler Desktop-Computer, falls du dich das fragst).

Ein Kern ist wie ein einzelner Arbeiter in einem Computer. Je mehr Kerne du hast, desto mehr Aufgaben kann dein Computer gleichzeitig bewältigen. Also, wenn ein Computer 54 Millionen Kerne hat, ist es so, als hätte man 54 Millionen kleine Arbeiter im Computer, die alle gleichzeitig verschiedene Aufgaben erledigen.

CG-1 ist bereits in Betrieb und befindet sich in Santa Clara, Kalifornien. Er hat 64 Cerebras CS-2 Systeme angeschlossen.

Und er ist als Cloud-Service verfügbar. Das bedeutet, dass jeder (der ein bisschen Geld hat) seine Leistung nutzen kann, ohne eigene physische Systeme besitzen oder verwalten zu müssen.

Und basierend auf den Daten, die wir hier finden können, ist CG-1 bereits der größte verfügbare Supercomputer – sogar ohne seine Geschwister, die mit ihm verbunden sind.

Wie vergleicht sich CG-1 mit den anderen Supercomputern der Welt?

CG-1 unter der Haube – für die Technik-Freaks

CG-1 ist eine Bestie von einer Maschine, die speziell für große Sprachmodelle und generative KI konzipiert wurde. Mit gewaltigen 4 ExaFLOPs an 16-Bit-KI-Rechenleistung kann es standardmäßig Modelle mit bis zu 600 Milliarden Parametern bewältigen. Und es kann seine Konfigurationen erweitern, um Modelle mit bis zu 100 Billionen Parametern zu unterstützen!

Unter der Haube wird CG-1 von 54 Millionen KI-optimierten Rechenkernen, 388 Terabit Stoffbandbreite und beeindruckenden 72.704 AMD EPYC Prozessorkernen angetrieben. Und im Gegensatz zu jedem bekannten GPU-Cluster bietet CG-1 nahezu perfektes Leistungsskalieren von 1 bis 64 CS-2-Systemen mit einfacher Datenparallelität.

Aber wie steht es mit dem Training bei langen Sequenzlängen? CG-1 kann Sequenzlängen von bis zu 50.000 Tokens direkt aus der Box bewältigen, ohne dass spezielle Softwarebibliotheken benötigt werden. Außerdem erfordert die Programmierung von CG-1 keine komplexen verteilten Programmiersprachen. Das bedeutet, dass selbst die größten Modelle ausgeführt werden können, ohne dass Wochen oder Monate damit verbracht werden müssen, die Arbeit auf Tausende von GPUs zu verteilen.

Die Condor-Galaxie: Neun Supercomputer, die miteinander kommunizieren – die Zukunft ist jetzt

Cerebras und G42 hören nicht bei CG-1 auf. Ihre Idee ist es, ein Netzwerk aus neun miteinander verbundenen Supercomputern zu haben. Dies ist nicht einfach nur ein Netzwerk von Supercomputern. Die Condor-Galaxie wird beeindruckende 36 ExaFLOPs an Rechenkapazität bieten.

Ist dieses Netzwerk erst einmal fertiggestellt, wird es das größte Supercomputernetzwerk für KI-Training sein, das es gibt.

Diese Art von Leistung wird das Training von KI-Modellen erheblich beschleunigen (wie von Gehgeschwindigkeit auf Raketenreise), so dass sie viel schneller lernen und sich verbessern können.

Die Unternehmen hinter dem KI-Supercomputer

Wer steckt also hinter der Condor-Galaxie?

G42

G42 ist das führende KI- und Cloud-Computing-Unternehmen mit Hauptsitz in Abu Dhabi, VAE, das groß angelegte digitale Transformationsinitiativen in der MENA-Region und darüber hinaus vorantreibt.

Sein CEO Peng Xiao ist ein langjähriger Befürworter von AGI und treibt die Grenzen der künstlichen Intelligenz (KI) von ihren derzeitigen Grenzen zu einem viel breiteren, allgemeineren Zustand voran.

G42 operiert auch in einer günstigen Umgebung für KI. Die VAE waren die erste Nation, die einen Minister für KI in ihrer Bundesregierung ernannt hat.

Dieser Schritt wurde von massiven Investitionen begleitet, einschließlich der Gründung des Forschungspartners von G42, der Mohamed bin Zayed Universität für Künstliche Intelligenz (MBZUAI), der ersten postgradualen Universität der Welt, die sich ausschließlich auf KI konzentriert.

Cerebras Systems

Cerebras Systems ist das zweite Unternehmen, das an diesem ehrgeizigen Projekt arbeitet. Mit Hauptsitz im Silicon Valley, hat sich Cerebras darauf spezialisiert, Hardware-Lösungen für KI-Anwendungen zu entwickeln. Die Mission des Unternehmens ist es, KI-Trainingsprozesse durch den Bau spezialisierter Computer zu beschleunigen. Diese Computer sind darauf ausgelegt, unglaublich große KI-Modelle zu unterstützen und zu trainieren.

Andrew Feldman, der CEO von Cerebras, ist ein langjähriger Verfechter von AGI und arbeitet unermüdlich daran, die Grenzen der künstlichen Intelligenz zu erweitern. Mit CG-1 und dem bevorstehenden Condor Galaxy-Netzwerk ist es offensichtlich, dass er und sein Team ernsthafte Fortschritte in diese Richtung machen.

Die Zusammenarbeit von Cerebras und G42 hat zu diesem einzigartigen Supercomputer geführt, der darauf ausgerichtet ist, die Grenzen des Machbaren im Bereich der KI zu erweitern.

Der Supercomputer und seine Anwendungen

CG-1 und seine zukünftigen Geschwister haben das Potenzial, wichtige Herausforderungen in Gesundheitswesen, Energie (einschließlich neuer Energiequellen) und Klimaschutz anzugehen. Mit der Möglichkeit, KI-Modelle in Sekundenschnelle zu trainieren, können Wissenschaftler und Forscher Daten analysieren und Ergebnisse in einem Bruchteil der bisher benötigten Zeit erzielen.

Der Supercomputer wird auch dazu beitragen, die Entwicklung von AGI zu beschleunigen. AGI, oder allgemeine künstliche Intelligenz, ist eine Form von KI, die in der Lage ist, jede intellektuelle Aufgabe zu erfüllen, die ein Mensch erfüllen kann. Mit dem Potenzial, enorme Mengen an Daten zu verarbeiten und komplexe Probleme zu lösen, könnte der CG-1 und das Condor Galaxy-Netzwerk dazu beitragen, die Realität von AGI näher zu bringen.

Schlussfolgerungen

Mit dem Start des CG-1 und der Ankündigung des Condor Galaxy-Netzwerks haben wir einen weiteren Meilenstein in der Entwicklung von KI und AGI erreicht. Durch die Verfügbarkeit solch enormer Rechenleistung wird das Training von KI-Modellen revolutioniert und die Möglichkeit, komplexe und wichtige Herausforderungen in einer Vielzahl von Bereichen anzugehen, wird Wirklichkeit.

Bist du begeistert von KI-Modellen wie ChatGPT oder Bard? Stell dir vor, welches Potenzial ein Modell hat, das auf diesem Supercomputer-Netzwerk trainiert wurde.

Die Entwicklung von Supercomputern wie CG-1 und dem bevorstehenden Netzwerk der Condor Galaxy ist ein aufregender Schritt vorwärts in der KI-Entwicklung und zeigt uns einen Blick auf die Zukunft, die schneller kommt, als viele von uns vielleicht gedacht haben.

Durch die Nutzung dieser fortschrittlichen Technologie können wir uns auf große Durchbrüche in Bereichen wie Gesundheitswesen, Energie und Klimaschutz freuen. Die Zukunft ist tatsächlich jetzt und mit dem CG-1 und der Condor Galaxy sind wir gut darauf vorbereitet.

Quelle: ChatGPTGuide