Die Künstliche Intelligenz (KI) ist auf dem Vormarsch, doch ihr enormer Energiehunger und die Abhängigkeit von Cloud-Infrastrukturen werfen immer größere Schatten. Stell dir vor, KI könnte direkt auf deinen Geräten laufen – sicher, blitzschnell und unglaublich stromsparend. Genau hier setzt der an der Technischen Universität München (TUM) entwickelte KI-Chip „AI Pro“ an. Unter der Leitung von Prof. Hussam Amrouch entstanden, verspricht dieser Chip nicht weniger als eine kleine Revolution für Edge-AI-Anwendungen. Doch was macht ihn so besonders und welche Technologie steckt dahinter?

Der AI Pro Chip bricht mit traditionellen Designs, indem er Rechen- und Speichereinheiten direkt zusammenführt und sich am menschlichen Gehirn orientiert. Diese neuromorphe Architektur ermöglicht es ihm, Berechnungen lokal durchzuführen, was ihn nicht nur Cyber-sicherer macht, sondern auch den Energieverbrauch drastisch senkt – bis zu zehnmal weniger als vergleichbare Chips. Erste Prototypen, gefertigt beim renommierten Halbleiterhersteller GlobalFoundries in Dresden, zeigen bereits das immense Potenzial dieser Technologie. Statt auf das massenhafte Training mit Millionen Datensätzen zu setzen, wie es beim Deep Learning üblich ist, nutzt der AI Pro das Prinzip des „Hyperdimensional Computing“. Er erkennt Muster und Ähnlichkeiten, ähnlich wie wir Menschen lernen und abstrahieren.

Mehr KI-Hightech aus Deutschland (!) findest Du bei der „KI entwicklet KI“ und bei mAInthink StratePlan.

Das Wichtigste in Kürze – AI Pro Chip entschlüsselt

• Dezentral & Cloud-unabhängig: Der AI Pro verarbeitet Daten direkt auf dem Gerät, ohne Internet- oder Cloud-Verbindung, was die Cybersicherheit und Datensouveränität erhöht.
• Extrem energiesparend: Mit einem Verbrauch von nur 24 Mikrojoule pro Trainings-Sample benötigt er 10- bis 100-mal weniger Energie als herkömmliche KI-Chips.
• Gehirn-inspirierte Architektur: Seine neuromorphe Struktur und das Hyperdimensional Computing ermöglichen effizientes Lernen anhand von Ähnlichkeiten und Mustern.
• In-Memory Computing (IMC): Rechen- und Speichereinheiten sind verschmolzen, was Datenstaus vermeidet und die Effizienz steigert, unterstützt durch FeFET-Technologie.
• Maßgeschneiderte Lösungen: Anders als Alleskönner-Chips ist der AI Pro für spezifische Anwendungen optimiert und erschließt damit einen potenziell riesigen Markt.

Der Status Quo: Warum wir eine neue KI-Chip-Generation brauchen

Heutige KI-Systeme, insbesondere große Sprachmodelle und komplexe Bilderkennungsalgorithmen, sind wahre Energiefresser. Das Training und der Betrieb dieser Modelle in riesigen Rechenzentren verschlingen Unmengen an Strom und treiben den CO₂-Fußabdruck der Digitalisierung in die Höhe. Hinzu kommt die Abhängigkeit von Cloud-Anbietern: Sensible Daten müssen oft über weite Strecken transportiert und extern verarbeitet werden, was Latenzzeiten erhöht und Sicherheitsrisiken birgt. Für viele Anwendungen direkt am „Edge“, also auf Endgeräten wie Smartphones, Wearables oder in Fahrzeugen, ist dieser Ansatz schlichtweg unpraktikabel. Es bedarf dringend einer Wende hin zu effizienterer, dezentraler KI-Hardware.

AI Pro: Der Gehirn-inspirierte Chip der TUM stellt sich vor

Hier kommt der AI Pro Chip ins Spiel, entwickelt am Lehrstuhl für KI-Prozessor-Design (AI-Pro) der TUM von Prof. Dr.-Ing. Hussam Amrouch und seinem Team. Dieser Chip ist nicht einfach nur eine weitere Iteration bestehender Designs, sondern ein grundlegend neuer Ansatz. Er wurde konzipiert, um KI-Berechnungen direkt vor Ort („on-device“) durchzuführen – ganz ohne die Notwendigkeit einer ständigen Verbindung zum Internet oder zu Cloud-Servern. Das Herzstück ist seine innovative neuromorphe Architektur, die sich die Funktionsweise des menschlichen Gehirns zum Vorbild nimmt.

Die ersten Prototypen dieses einen Quadratmillimeter kleinen Wunderwerks, das rund 10 Millionen Transistoren beherbergt, wurden bereits beim Halbleiterhersteller GlobalFoundries in Dresden gefertigt. Auch wenn die Transistordichte und absolute Rohleistung nicht mit Giganten wie NVIDIAs Cloud-Chips (mit bis zu 200 Milliarden Transistoren) vergleichbar sind, liegt der Fokus des AI Pro klar auf Effizienz und spezialisierten Anwendungen.

Die Magie im Detail: Wie funktioniert der AI Pro Chip?

Das Besondere am AI Pro Chip ist die Kombination mehrerer innovativer Technologien und Designprinzipien. Es ist, wie Prof. Amrouch selbst sagt, ein „Mix aus moderner Prozessorarchitektur, Algorithmenspezialisierung sowie neuartiger Datenverarbeitung“, der den Chip einzigartig macht. Schauen wir uns die Kernkomponenten genauer an.

Neuromorphe Architektur: Lernen wie das Gehirn

Das menschliche Gehirn ist ein Meister der Effizienz. Es verarbeitet komplexe Informationen, erkennt Muster und lernt kontinuierlich dazu – und das bei einem erstaunlich geringen Energieverbrauch. Neuromorphe Chips wie der AI Pro versuchen, diese Prinzipien nachzubilden. Anstatt stur Befehle in einer sequenziellen Von-Neumann-Architektur abzuarbeiten, sind bei neuromorphen Chips Speicher- und Verarbeitungseinheiten oft eng miteinander verwoben, ähnlich den Neuronen und Synapsen im Gehirn. Dies reduziert den energieintensiven Datentransport zwischen Speicher und Prozessor erheblich.

Hyperdimensional Computing (HDC): Effizienz durch Abstraktion

Ein Schlüssel zum energiesparenden Lernen des AI Pro ist das sogenannte Hyperdimensional Computing (HDC). Stell dir vor, du willst einem Kind beibringen, was ein Auto ist. Du zeigst ihm nicht Millionen von Bildern aller existierenden Automodelle (wie beim klassischen Deep Learning). Stattdessen erklärst du Merkmale: Es hat vier Räder, fährt auf der Straße, hat ein Lenkrad, kann verschiedene Formen und Farben haben. Das Kind abstrahiert diese Informationen und kann bald auch unbekannte Automodelle als solche erkennen.

Prof. Amrouch erklärt: „Auch Menschen abstrahieren und lernen durch Ähnlichkeiten.“ Genau das macht der AI Pro Chip mittels HDC. Anstatt rohe Datenpunkte zu verarbeiten, repräsentiert HDC Konzepte als hochdimensionale Vektoren (Hypervektoren). Diese Hypervektoren können einfach manipuliert werden, um Ähnlichkeiten zu finden, Muster zu erkennen und Klassifikationen durchzuführen.

So funktioniert HDC vereinfacht (How-To):

1. Merkmale kodieren: Jedes relevante Merkmal eines Objekts (z.B. „hat vier Räder“, „Farbe ist rot“, „fährt auf Straße“) wird in einen eindeutigen, hochdimensionalen Basis-Hypervektor umgewandelt.
2. Konzepte bündeln: Die Basis-Hypervektoren, die ein spezifisches Objekt beschreiben (z.B. ein bestimmtes Auto), werden durch mathematische Operationen (wie Bündelung/Addition und Bindung/Multiplikation) zu einem einzigen Konzept-Hypervektor kombiniert.
3. Lernen & Klassifizieren: Um ein neues Objekt zu klassifizieren, wird dessen Hypervektor mit den gelernten Konzept-Hypervektoren verglichen. Das Konzept mit dem ähnlichsten Hypervektor (höchste Kosinus-Ähnlichkeit) wird als Ergebnis ausgegeben.
4. Robustheit: Ein großer Vorteil von HDC ist seine Robustheit gegenüber Rauschen und unvollständigen Daten, da die Information verteilt über viele Dimensionen des Hypervektors gespeichert ist. Zudem benötigt HDC oft deutlich weniger Trainingsdaten als Deep-Learning-Modelle.

Diese Methode ist nicht nur effizienter im Lernprozess, sondern macht den Chip auch robuster gegenüber Variationen in den Eingabedaten.

In-Memory Computing (IMC) mit FeFETs: Datenverarbeitung neu gedacht

Ein weiterer revolutionärer Aspekt des AI Pro ist das In-Memory Computing (IMC). Bei herkömmlichen Chips müssen Daten ständig zwischen dem Speicher (RAM) und der zentralen Recheneinheit (CPU/GPU) hin- und hergeschoben werden. Dieser sogenannte „Von-Neumann-Flaschenhals“ kostet Zeit und vor allem sehr viel Energie. Der AI Pro Chip umgeht dieses Problem, indem er Rechen- und Speichereinheit direkt zusammenlegt. Die Transistoren dienen sowohl der Datenspeicherung als auch der Berechnung.

Unterstützt wird dies durch den Einsatz von Ferroelectric Field-Effect Transistors (FeFETs). Diese speziellen Transistoren können Informationen nichtflüchtig (also ohne ständige Stromzufuhr) speichern und ermöglichen sehr dichte und energieeffiziente Speicher- und Rechenstrukturen. Forschungen von Prof. Amrouchs Team, die in renommierten Journalen wie Nature Communications veröffentlicht wurden, demonstrieren FeFET-basierte IMC-Architekturen, die eine erstaunliche Energieeffizienz von bis zu 885,4 TOPS/W (Tera-Operations Per Second per Watt) erreichen. Das ist um Größenordnungen besser als bei traditionellen CMOS-Chips (typischerweise 10-20 TOPS/W).

Revolutionäre Energieeffizienz und Leistung: Was der AI Pro Chip konkret leistet

Die Kombination aus neuromorpher Architektur, HDC und IMC mit FeFETs führt zu beeindruckenden Leistungswerten, insbesondere im Bereich der Energieeffizienz.

Spezifikationen und Benchmarks

• Energie pro Trainings-Sample: Der AI Pro Chip verbrauchte in Tests für eine definierte Trainingsaufgabe lediglich 24 Mikrojoule (µJ). Vergleichbare Chips benötigen hierfür das Zehn- bis Hundertfache an Energie. Prof. Amrouch nennt dies einen „Rekordwert“.
• Betrieb im Milliwatt-Bereich: Der Chip ist darauf ausgelegt, sowohl für Inferenz (Anwendung gelernter Modelle) als auch für Training (Lernen neuer Modelle) im Millowatt-Leistungsbereich zu operieren.
• Technologieknoten: Varianten des Chips bzw. zugehörige Teststrukturen nutzen fortschrittliche Fertigungsprozesse wie 22nm und 28nm HKMG (High-k Metal Gate) Technologie.
• Chipgröße & Transistoren (Pressemitteilungs-Prototyp): Ca. 1 mm² Fläche, rund 10 Millionen Transistoren.

Diese Zahlen verdeutlichen: Der AI Pro ist kein theoretisches Konstrukt, sondern ein praktisch umgesetzter Chip mit messbaren Vorteilen.

Vergleich: AI Pro vs. konventionelle Chips (Nvidia-Vergleich)

Es ist wichtig zu verstehen, dass der AI Pro nicht darauf abzielt, High-End-GPUs von Branchenriesen wie NVIDIA direkt in deren Kerngeschäft – große Cloud-basierte KI-Modelle – zu ersetzen. Prof. Amrouch betont: „Während NVIDIA eine Plattform gebaut hat, die auf Cloud-Daten angewiesen ist und verspricht, jedes Problem zu lösen, haben wir einen KI-Chip entwickelt, der kundenspezifische Lösungen ermöglicht. Hier schlummert ein enormer Markt.“

Der AI Pro ist spezialisiert auf Anwendungen, bei denen Energieeffizienz, Dezentralität und Datensicherheit im Vordergrund stehen. Er ist ein Experte für Nischen, kein Generalist für die Cloud.

Die Vorteile auf einen Blick: Dezentral, sicher, nachhaltig

Die innovative Technologie des AI Pro Chips bringt eine Reihe handfester Vorteile mit sich:

1. Cyber-Sicherheit: Da Daten lokal verarbeitet und nicht in die Cloud gesendet werden müssen, entfallen viele Angriffsvektoren. Sensible Informationen bleiben auf dem Gerät.
2. Datenschutz: Die lokale Verarbeitung schützt die Privatsphäre der Nutzer, da persönliche Daten das Gerät nicht verlassen.
3. Unabhängigkeit vom Netz: Anwendungen funktionieren auch ohne stabile Internetverbindung zuverlässig.
4. Geringe Latenz: Die direkte Verarbeitung vor Ort reduziert Verzögerungszeiten, was für Echtzeitanwendungen kritisch ist.
5. Nachhaltigkeit: Der drastisch reduzierte Energieverbrauch leistet einen wichtigen Beitrag zur Reduktion des CO₂-Fußabdrucks von KI-Anwendungen.
6. Kosteneffizienz (potenziell): Obwohl der Prototyp noch teuer ist (30.000 Euro laut PM), könnten maßgeschneiderte, energieeffiziente Chips in der Massenproduktion günstiger sein als überdimensionierte Standardlösungen und Cloud-Kosten einsparen.

Anwendungsfelder: Wo der AI Pro Chip glänzen wird

Die Eigenschaften des AI Pro prädestinieren ihn für eine Vielzahl von Edge-Anwendungen, bei denen Daten direkt am Entstehungsort verarbeitet werden müssen oder sollen.

Von Smartwatches bis Drohnen: Maßgeschneiderte KI

Denkbare Einsatzszenarien sind vielfältig:

• Wearables und Medizintechnik: Smartwatches könnten Vitaldaten wie Herzfrequenz oder Blutzucker kontinuierlich und energieeffizient überwachen und analysieren, ohne ständig Daten ans Smartphone oder in die Cloud senden zu müssen.
• Autonomes Fahren und Drohnen: Navigationsunterstützung, Objekterkennung und Entscheidungsfindung könnten direkt im Fahrzeug oder der Drohne erfolgen, was die Reaktionszeiten verbessert und die Sicherheit erhöht.
• Industrie 4.0: Intelligente Sensoren in Maschinen könnten Anomalien erkennen, Wartungsbedarf vorhersagen oder Produktionsprozesse optimieren – alles lokal und in Echtzeit.
• Smart Home: Geräte könnten lernfähig werden und sich an die Gewohnheiten der Nutzer anpassen, ohne private Daten preiszugeben.

Das Potenzial für On-Device Training

Ein besonders spannender Aspekt ist die Fähigkeit des AI Pro, nicht nur KI-Modelle auszuführen (Inferenz), sondern sie auch direkt auf dem Gerät zu trainieren oder anzupassen. Dies ist ein großer Schritt über das hinaus, was viele aktuelle Edge-KI-Lösungen leisten können.

Konzeptionelle Schritte zum On-Device Training mit einem AI Pro ähnlichen Chip (How-To):

1. Lokale Datenerfassung: Das Gerät (z.B. eine Smartwatch) sammelt kontinuierlich relevante Daten (z.B. Bewegungsmuster, Vitaldaten).
2. Vorverarbeitung & Merkmalsextraktion: Die Rohdaten werden direkt auf dem Chip für das HDC-Modell aufbereitet.
3. HDC-basiertes Lernen: Der AI Pro nutzt die neuen lokalen Daten, um das bestehende HDC-Modell zu aktualisieren oder zu personalisieren. Dies geschieht energieeffizient mit wenigen Beispielen.
4. Modell-Update: Das angepasste KI-Modell wird lokal gespeichert und sofort für präzisere Vorhersagen oder personalisierte Funktionen verwendet.
5. Kontinuierliche Anpassung: Der Zyklus aus Datenerfassung, Lernen und Modell-Update wiederholt sich, sodass das Gerät intelligent und adaptiv bleibt, ohne Cloud-Interaktion.

Diese Fähigkeit zum On-Device Training eröffnet völlig neue Möglichkeiten für personalisierte und adaptive KI-Systeme, die ihre Umgebung und Nutzer wirklich verstehen lernen.

Prof. Hussam Amrouch: Der Visionär hinter dem AI Pro

Hinter dem AI Pro Chip und der zugrundeliegenden Forschung steht Prof. Dr.-Ing. Hussam Amrouch. Seit April 2023 leitet er den Lehrstuhl für KI-Prozessor-Design (AI-Pro) an der TUM, der im Rahmen der Hightech Agenda Bayern geschaffen wurde. Zuvor war er unter anderem am Karlsruher Institut für Technologie (KIT) und der Universität Stuttgart tätig. Seine Forschungsschwerpunkte umfassen neben neuromorpher Hardware und In-Memory Computing auch RISC-V-Architekturen für KI, Zuverlässigkeit von Halbleitern und den Einsatz von neuen Technologien wie eben FeFETs. Seine Vision: KI-Chips in jeden Bereich unseres Lebens zu integrieren und gleichzeitig den CO₂-Fußabdruck der KI drastisch zu reduzieren.

Herausforderungen und Zukunftsperspektiven

Obwohl die Ergebnisse vielversprechend sind, ist der Weg zur breiten Markteinführung solcher Chips noch mit Herausforderungen gepflastert. Dazu gehören die Skalierbarkeit der Fertigung, die Langzeitstabilität und Zuverlässigkeit der neuartigen Bauelemente (wie FeFETs) unter realen Einsatzbedingungen sowie das thermische Management in dichten 3D-Architekturen. Prof. Amrouch schätzt, dass es „frühestens in drei bis fünf Jahren“ erste praxistaugliche In-Memory-Chips geben könnte.

Die Entwicklung solcher spezialisierter Hardware erfordert eine enge interdisziplinäre Zusammenarbeit von Experten aus Informatik, Elektrotechnik und Materialwissenschaften. Die TUM und Partner wie GlobalFoundries zeigen jedoch, dass Deutschland und Europa in diesem Zukunftsfeld eine wichtige Rolle spielen können.

Häufig gestellte Fragen – AI Pro Chip

Was ist ein neuromorpher Chip? Ein neuromorpher Chip ist ein Prozessor, dessen Architektur von der Struktur und Funktionsweise des menschlichen Gehirns inspiriert ist. Ziel ist es, eine höhere Energieeffizienz und Lernfähigkeit im Vergleich zu traditionellen Computerchips zu erreichen, indem beispielsweise Speicher- und Recheneinheiten eng miteinander verbunden werden.

Wie funktioniert Hyperdimensional Computing (HDC) einfach erklärt? Hyperdimensional Computing (HDC) ist ein Berechnungsansatz, der Daten als sehr lange Vektoren (Hypervektoren) mit Tausenden von Dimensionen darstellt. Anstatt exakte numerische Werte zu verarbeiten, operiert HDC mit Ähnlichkeiten zwischen diesen Vektoren. Es kann Muster erkennen und lernen, indem es Informationen aus verschiedenen Quellen bündelt – ähnlich wie Menschen durch Abstraktion lernen, und das oft mit weniger Daten als klassisches Deep Learning.

Welche konkreten Vorteile bietet der AI Pro Chip? Der AI Pro Chip ist primär extrem energiesparend (bis zu 100-mal weniger als vergleichbare Chips), arbeitet dezentral ohne Cloud-Anbindung (erhöht Cybersicherheit und Datenschutz), ist für spezifische Anwendungen maßgeschneidert und kann durch HDC effizient mit wenigen Daten lernen.

Ist der AI Pro Chip „besser“ als NVIDIA-Chips? Er ist nicht per se „besser“, sondern für andere Anwendungsfälle optimiert. Während NVIDIA-Chips auf maximale Rechenleistung für komplexe KI-Modelle in der Cloud ausgelegt sind, zielt der AI Pro auf höchste Energieeffizienz und dezentrale Verarbeitung in Edge-Geräten für spezifische Aufgaben. Es sind unterschiedliche Philosophien für unterschiedliche Märkte.

Wann wird der AI Pro Chip oder ähnliche Technologie auf dem Markt verfügbar sein? Prof. Amrouch schätzt, dass es noch drei bis fünf Jahre dauern könnte, bis erste In-Memory-Chips, wie sie im AI Pro zum Einsatz kommen, in realen Anwendungen breiter verfügbar sind. Die Entwicklung und Qualifizierung neuer Halbleitertechnologien ist ein zeitaufwendiger Prozess.

Fazit: Der AI Pro Chip – Ein wichtiger Schritt für eine smarte und nachhaltige KI-Zukunft

Der an der TU München entwickelte AI Pro Chip ist mehr als nur ein weiteres Forschungsprojekt. Er repräsentiert einen vielversprechenden Lösungsansatz für einige der drängendsten Probleme aktueller KI-Systeme: ihren immensen Energiebedarf und ihre Abhängigkeit von zentralisierten Cloud-Infrastrukturen. Durch die clevere Kombination von neuromorpher Architektur, Hyperdimensional Computing und In-Memory Computing mit FeFETs zeigt das Team um Prof. Hussam Amrouch, wie dezentrale KI Realität werden kann – sicher, privat und vor allem energieeffizient.

Anwendungen in Smartwatches, Drohnen, medizinischen Geräten oder der Industrie könnten von dieser Technologie enorm profitieren, indem sie intelligenter, autonomer und nachhaltiger werden. Besonders die Fähigkeit zum On-Device Training könnte die Art und Weise, wie wir mit KI interagieren, revolutionieren und zu wirklich personalisierten Erlebnissen führen. Der Weg zur Massenproduktion ist zwar noch mit Entwicklungsarbeit verbunden, doch der AI Pro Chip und die dahinterstehende Forschung sind ein starkes Signal dafür, dass die Zukunft der KI nicht zwangsläufig im immer „größer, schneller, energiehungriger“ liegen muss. Sie kann auch smart, effizient und direkt bei uns, in unseren Händen und Geräten, stattfinden. Prof. Amrouchs Überzeugung, „Die Zukunft gehört den Menschen, die die Hardware besitzen“, könnte sich mit solchen Entwicklungen als wegweisend erweisen.

---

www.KINEWS24-academy.de – KI. Direkt. Verständlich. Anwendbar.

---

Quellen

• Technische Universität München (TUM). Pressemitteilung: „Cyber-sicher und energiesparend: KI-Chip für dezentrale Nutzung ohne Cloud entwickelt“
• Amrouch, H. et al. (div. Publikationen) z.B. zu FeFETs in Nature Communications, HDC auf RISC-V in IEEE TCAS-I.

• Publikationen
• Sandy Wasif, Paul Genssler, and Hussam Amrouch. „Domain-Specific Hyperdimensional RISC-V Processor for Edge-AI Training.“ IEEE Transactions on Circuits and Systems I: Regular Papers (2025). https://ieeexplore.ieee.org/document/10931124
• Soliman, Taha, Swetaki Chatterjee, Nellie Laleni, Franz Müller, Tobias Kirchner, Norbert Wehn, Thomas Kämpfe, Yogesh Singh Chauhan, and Hussam Amrouch. „First demonstration of in-memory computing crossbar using multi-level Cell FeFET.“ Nature Communications 14, no. 1 (2023): 6348. https://www.nature.com…23-42110-y
• Wei-Ji Chao, Paul R Genssler, Sandy A Wasif, Albi Mema, Hussam Amrouch, “End-to-end Hyperdimensional Computing with 24.65 µJ per Training Sample in 22 nm Technology”, under review at the European Solid-State Electronics Research Conference (ESSERC). Preprint available: https://go.tum.de/440497

#AIProChip #NeuromorphicComputing #EdgeAI #KuenstlicheIntelligenz