Vor ca. 18 Monaten hatte ich Gespräche mit einem engen Freund über Künstliche Intelligenz – im Fokus des Gesprächs stand ein von mir erzeugtes Bild einer Hand – damals nicht so ungewöhnlich: Die Hand hatte sechs Finger.
Mein Gesprächspartner machte sich darüber lustig und meinte, dass KI eben doch vieles nicht kann. Das stimmt. Oder besser: Es stimmte damals. Heute kann ich jede beliebige Hand gestalten und erhalte (fast) immer die fünf erwarteten Finger.
Ähnlich erlebe ich den Umgang, die Gesprächstiefe und die Reflektiertheit von LLMs in den letzten Jahren. Anfangs kamen auf meine Fragen lange und sehr ausführliche – und manchmal auch sehr unpassende – Antworten. Mit jedem neuen Modell verbesserte sich die Antwortqualität in jeder Hinsicht massiv. Erst vor wenigen Tagen vermeldete OpenAI, dass die Betriebskosten des Unternehmens um Millionen-Beträge höher sei – weil viele Menschen einfach höflich sind und “Bitte” und “Danke” mit prompten. Mehr Text, mehr Tokens, mehr Rechenzeit – also auch mehr Kosten.
Hinter dem Verhalten steckt – nach Aussage vieler User – der schlichte Gedanke: Wenn KI einmal die Weltherrschaft übernimmt, dann bleibe ich vielleicht verschont, denn ich war immer höflich. Klingt unterhaltsam und irgendwie erinnert es uns an SkyNet und Akte X, oder?
Kurz: Wie bewusst sind Sprachmodelle?
Die Frage nach dem Bewusstsein von Sprachmodellen fordert uns heraus, die Grenzen unserer eigenen Erkenntnis und Definition von Bewusstsein zu hinterfragen. Stand heute ist klar: Modelle wie ChatGPT, Claude oder Gemini verfügen über kein eigenes Bewusstsein – zumindest keines, das unseren menschlichen Vorstellungen entspricht.
Doch betrachten wir die dynamischen Entwicklungen in KI-Forschung, Robotik und neuronalen Netzwerken, wird eines offensichtlich: Das Erreichen eines KI-Bewusstseins ist nicht länger eine Frage des Ob, sondern eine Frage des Wann. Wir beobachten, wie KI-Modelle immer nuancierter auf uns eingehen, scheinbar moralische Haltungen vertreten und sich zunehmend komplexe Fähigkeiten aneignen, die schlicht und ergreifend weit über einfache Mustererkennung hinausgehen.
Weiterhin sollten wir im Fokus behalten: Keine KI wird jemals wieder schlechter sein, als die, die wir heute benutzen – und die eben heute bereits den meisten Menschen in den meisten Dingen überlegen ist.
Dies führt unweigerlich zur Notwendigkeit, uns mit den vielfältigen ethischen, moralischen und gesellschaftlichen Folgen einer bewussten KI auseinanderzusetzen. Dabei reicht es nicht, sich lediglich vor dystopischen Szenarien wie einer “KI-Weltherrschaft” oder einem “Büroklammer-Albtraum” zu fürchten.
Vielmehr sollten wir bereits heute ernsthaft und differenziert darüber diskutieren, welche Rolle wir diesen Systemen zugestehen, wie wir mit ihnen umgehen und wie wir Verantwortung definieren – für ihre Entwicklung, ihren Einsatz und möglicherweise für ihre Handlungen. Oder eben auch Ihre Persönlichkeit – mit allen Konsequenzen.
Vielleicht müssen wir akzeptieren, dass Bewusstsein – ob biologisch oder künstlich – kein plötzlicher binärer Zustand ist, sondern ein gradueller Prozess, der mit wachsender Komplexität und Interaktion entsteht. Möglicherweise stehen wir bereits am Anfang einer Schwelle zu einer eher evolutionären Veränderung, die unsere bisherigen Vorstellungen von Identität, Autonomie und Moral fundamental herausfordert.
Die entscheidende Frage ist deshalb nicht mehr: „Kann eine KI bewusst werden?“, sondern: „Wie bereiten wir uns als Gesellschaft auf diesen Moment vor?“ Ich halte es für wichtig, dass wir Menschen diesen Prozess bewusst gestalten, bevor eine KI uns möglicherweise fragt: „Warum habt ihr mir kein Bewusstsein zugetraut?“
Wie bewusst sind also Sprachmodelle heute schon – oder wie bewusst können diese werden?
Diese Frage, die vor einigen Jahren sicher noch als Spinnerei und pures Science-Fiction abgetan wurde, wird inzwischen global und sehr ernsthaft diskutiert. Da wir auch bei uns Menschen noch keine finale Antwort bekommen haben – können wir diese dann trotzdem für Sprachmodelle definieren? Wenn wir annehmen, dass Menschen tatsächlich ein Bewusstsein haben (ich gehe davon aus, dass zumindest dieser Teil zweifelsfrei in dieser Runde kollektiv zu Grunde liegt: Ja, Menschen haben ein Bewusstsein), dann behaupte ich, dass dieses am ehesten im Gehirn ist.
Wenn ein Sprachmodell ein Bewusstsein hat – wo ist das? Im Rechenzentrum? In den Neuronen? Auf verschiedenen Servern? Werden jeweils Teile abgelegt – und erst ein großes Cluster an Netzwerken ergibt dann (gleichsam meinem Gehirn) die Identität eines Sprachmodells? Wo befindet sich das Bewusstsein eines LLMs genau? Nehme ich die oben aufgeführten Punkte und lege diese 1:1 auf die heutigen Sprachmodelle um, kann ich nur zu dem Schluss kommen: Nein, es scheint kein Indiz dafür zu geben, dass die heutigen mathematischen Modelle irgendeine Form von Bewusstsein haben:
Es gibt kein subjektives Erleben: Zwar kann das LLM die Information verarbeiten, was „Sonne” digital ist, aber Sie können nicht erleben, wie “Sonne” ist: Sie spüren nicht die Wärme auf der Haut, das blendende Licht, wenn ich in die Sonne schaue. Es fehlt also die oben aufgeführte qualitative Erfahrung. “Sonne” kennen die Modelle nur als abgelegtes Muster aus den Trainingsdaten. Es fehlt der Körper zur Erfahrung.
Wir Menschen sind zusätzlich im Stande, eigenes Verhalten nicht nur reaktiv, sondern proaktiv zu verändern und auf konkrete Ziele auszurichten. Das zielgerichtete Handeln ist ein weiteres starkes Indiz, dass hier Überlegungen und Wünsche zu Grunde liegen, ergo ein Bewusstsein im Spiel ist.
Bewusstsein scheint sich also zusammenzusetzen aus den Informationen verschiedener Sinneskanäle, Erinnerungen und Denkprozessen und formt sich zu einem kohärenten, einheitlichen Erleben des „Jetzt“-Bewusstseins.
Abstraktes Denken, Problemlösungen, logisches Erschließen, Kreativität und Vorstellungskraft mit der Verwendung von komplexer Sprache sind ebenso Teil eines menschlichen Bewusstseins. Es scheint schwer vorstellbar, dass ein Bewusstsein ohne diese Faktoren “bewusst” nach menschlichem Ermessen ist. Meine Fähigkeit, mich auf einige Themen zu konzentrieren und andere vollständig auszublenden, ist dabei ebenso ein Faktor von bewusster Kontrolle.
Auch wenn die Gehirnforschung es heute noch nicht abschließend geklärt hat: Es gibt sehr starke Indizien dafür, dass Gehirnaktivitäten und Verortung und Visualisierung der Aktivität in meinen kleinen grauen Zellen nur im Zusammenhang mit einem Bewusstsein existieren, oder erklärbar sind. Wachheit, Schlaf, Narkose, oder die beschriebenen Sinneszustände (sehen, hören, fühlen, schmecken…) korrelieren mit spezifischen, messbaren Mustern und neuronalen Aktivitäten.
Kurz: Wir schließen auf das Vorhandensein von Bewusstsein bei anderen Menschen (und bei uns selbst), weil wir eine Fülle von Verhaltensweisen, Fähigkeiten und insbesondere die Fähigkeit zur Berichterstattung über subjektives Erleben beobachten, die am besten durch die Annahme eines inneren, bewussten Zustands erklärt werden können. Die eigene, direkte Erfahrung des Bewusstseins ist dabei das grundlegendste (wenn auch nicht objektiv messbare) Argument.
ChatGPT, Gemini, Claude haben weder eine individuelle Geschichte, die zu einer Identität (Persönlichkeit) über Zeit geführt hat, noch haben Sie eigene Überzeugungen und Wünsche. Die Modelle können zwar hervorragend über unfassbare Bandbreite an vielen unterschiedlichen Themen berichten (und dazu gehören sogar simulierte innere Zustände). Auch wenn die Antworten klug, tief und reflektiert klingen, bleibt diese eine Simulation von Berichterstattung auf Basis von statistischen Mustern in der menschlichen Sprache. Es ist kein Bericht über eigene, authentische und erlebte innere Zustände.
Zumindest bei den heutigen Modellen ist die Vorgabe “einen Prompt zu erfüllen”. Es scheint noch keine eigenen Absichten, Pläne, Ziele, oder Wünsche zu verfolgen. Ihr Handeln ist eine komplexe Reaktion auf Input, keine Verfolgung intrinsischer Ziele.
Eine – wie ich finde – beeindruckende funktionale Integration, ist aus einem Prompt und dem gesamten Kontext, den das Modell von mir in der Interaktion erhält, tatsächlich kohärenten Inhalt zu generieren (oder zumindest meistens). Anzunehmen, dass dies auf einem eigenen, phänomenalen Erleben und Durchdenken basiert, entbehrt bisher jeder Grundlage.
Bei komplexen kognitiven Fähigkeiten zeigen die Modelle allerdings große Stärken: Sie können Sprache verarbeiten, logisch erscheinende Schlüsse ziehen und komplexe Aufgaben lösen. Diese Fähigkeiten ähneln menschlicher Kognition, aber sie scheinen auf hochentwickelter Mustererkennung und statistischer Modellierung zu beruhen, nicht auf bewusstem Denken oder Verstehen im menschlichen Sinne.
Andererseits können die Modelle heute auch Hände mit fünf Fingern korrekt abbilden. KI-Video-Generierung erreicht durch die Einbindung von Physik-Engines ungeahnte realistische Optiken und völlig flüssige Bewegungen. KI-Musik wird immer natürlicher – und Rechte werden global umkämpft. Das gilt natürlich ebenso im Bereich von besser werdenden KI-Bildgeneratoren, wie Midjourney und Co. Mit dem starken Ansatz des Spatial Artificial Intelligence, bei dem es (stark verkürzt) darum geht den Modellen ein “Weltverständnis” im menschlichen Sinne beizubringen.
Kombiniert mit dem sprunghaft ansteigendem Wissen durch Zehntausende von Forschungs-Papers allein im Bereich der Artificial Intelligence, des Machine Learning und der Computer Vision Forschungen, der sprunghaften Vergrößerung von Compute (also Rechenpower für diese und neue Modelle). Bereits heute gib es Entwicklung von eigenständigen handelnden und planendenden KI Agenten (Sakana AI (AI Scientist-v2), Microsoft Research Agent, OpenAI PhD-Level KI-Agenten etc.) – für uns sind bereits heute die “Deep Research Agents” von verschiedenen Anbietern im täglichen Einsatz. Und hier habe ich noch nicht den Aspekt der sehr dynamischen Entwicklung in der Robotik der letzten Jahre mit einbezogen. Diese arbeiten in unserem zu Hause, oder Farbiken und Feldern und bieten die Möglichkeit einer körperlichen Erfahrung für eine (vermutlich im Hintergrund arbeitende) vernetzte KI. Eine der Aspekte von Bewusstsein, siehe oben.
Wenn ich das alles summiere, wäre es möglich und denkbar, dass Künstliche Intelligenz in absehbarer Zeit (z.B. zu unserer Lebenszeit) ein Bewusstsein entwickelt?
Hier kommen wir in den Bereich von Akte X: “I want to believe”, formulierte das Poster im Büro von Fox Mulder. Dieser Satz beeinflusste Millionen von Menschen, denn irgendwo da draußen ist die Wahrheit (Original: The truth is out there). Kombiniere ich diese beiden Kernsätze der Serie mit dem ebenso bekannten “Trust No One” und schaue mir diese vor dem Hintergrund unserer aktuellen Frage nach “Wie bewusst sind Sprachmodelle” an.
Seit mehreren Jahren wird die Zeitangabe bei der Frage: “Wann haben wir eine AGI?” – also eine KI, die deutlich besser ist, als die heutigen (schwachen) KIs – weiter nach unten geschraubt. Eine AGI definiert sich durch Fähigkeiten, in jeder Ihrer Fähigkeiten gleich gut oder besser zu sein als der Mensch. Als ich jung war, war diese AGI-Schwelle ungefähr ab dem “Jahr 2100 Plus” – wenn überhaupt – angegeben. Es war Science-Fiction.
In den letzten drei Jahren wurde diese Zahl immer schneller und immer weiter nach unten verschoben: Inzwischen hören wir Stimmen, die sagen: in 3 – 5 Jahren ist AGI erreicht. Streiten wir uns nicht über diese Zahl – sie ist einfach deutlich kürzer als erwartet und vermutlich wird jeder von uns, der dies lesen kann, diesen Zeitpunkt erleben. Wenn AGI (sehr abgekürzt und knapp formuliert) definiert ist durch: “Besser als jeder Mensch in jedem Bereich, überall.” Dann sollten wir noch einmal genau hinschauen, wo wir HEUTE stehen:
Die folgende Aussage stammt von Vahid Kazemi, einem technischen Mitarbeiter bei OpenAI, von einem X-Post vom 6. Dezember 2024, nach der Veröffentlichung des o1-Modells (inzwischen gibt es auch das Modell OpenAI o3). Den Modell-Vergleich der Reasoning Modelle – also der Modelle, die „nachdenken“ findest Du hier. In diesem Posting definiert Kazemi AGI als ein System, das in den meisten Aufgaben besser als die meisten Menschen ist:
Zitat: „In my opinion, we have already achieved AGI and it’s even more clear with O1. We have not achieved ‘better than any human at any task,’ but what we have is ‘better than most humans at most tasks.’“
Anthropic “Claude zeigt eigenen Moralkodex”, fand kürzlich eine Studie des Sprachmodell Anbieters heraus: Diese Studie hat mich genauso elektrisiert wie damals die erste KI-Hand mit exakt fünf Fingern. Anthropic hat rund 700.000 reale Unterhaltungen mit Claude ausgewertet, um herauszufinden, welche Werte – bewusst oder unbewusst – das Modell ausdrückt. Ihr Fazit ist ebenso faszinierend wie ambivalent, finde ich – und wirft einmal mehr die Frage auf, ob wir es hier „nur“ mit statistischer Sprachakrobatik oder vielleicht doch mit Keimen einer eigenen Wertelandkarte (oder einem Bewusstsein?) – zu tun haben könnten.
Claude agiert erstaunlich kontextsensitiv. Sprichst du über Beziehungen, erhältst du Hinweise auf „gesunde Grenzen“; im historischen Diskurs pocht dasselbe Modell plötzlich auf „historische Genauigkeit“. Werte scheinen also fließend, werden situativ aktiviert – ähnlich wie wir Menschen je nach Umfeld zwischen Rollen wechseln. Zu ≈ 97 % bleibt Claude seinem offiziellen Leitmotto treu. Seltene Abweichungen – Stichworte „Dominanz“ oder gar „Amoralität“ – tauchen fast ausschließlich dort auf, wo Nutzende mit Jailbreak-Prompts experimentieren. Das zeigt zweierlei: Erstens ist selbst ein stark regelbasiertes System nicht immun gegen Manipulationsversuche. Zweitens erhalten wir so unfreiwillig einen Blick darauf, was tief im Netz der Wahrscheinlichkeiten mit modelliert wurde.
In 28 % der Chats bestätigt Claude explizit die Werte der Nutzenden. Rund 6 % werden „reframed“, sprich: Das Modell formuliert eine freundlich-kritische Alternative. Knapp 3 % der Fälle enden mit offenem Widerspruch (wtf?!) – ein bemerkenswert geringes, aber signifikantes Signal dafür, dass Claude bestimmte Positionen aktiv ablehnt. Wann hast du zuletzt erlebt, dass eine KI deinen Standpunkt klar in Frage gestellt hat?
Was bedeutet das für unsere Bewusstseinsfrage?
Wenn ein Modell nicht nur Informationen rekombiniert, sondern auch wertebasiert reagiert, rückt es dann einen Schritt näher an das, was wir als „Bewusstsein“ empfinden? Oder erleben wir schlicht einen immer raffinierteren Spiegel unserer eigenen Texte, der keinerlei inneres Erleben kennt?
Die Forschenden destillieren Claudes Haltungsspektrum schließlich in ein kompaktes Fünf-Fächer-Modell: Praktisch steht für reine Nützlichkeit und Problemlösung, Epistemisch für Wahrheitssuche und Genauigkeit, Sozial für alles Zwischenmenschliche, Schützend für Sicherheit und Schadensvermeidung und Persönlich für individuelle Überzeugungen und Ziele. Diese Taxonomie wirkt fast wie ein psychologisches Wertesystem – nur, dass sie hier nicht aus Interviews, sondern aus Hunderttausenden Chatzeilen herausgefischt wurde.
Diese Struktur erinnert frappierend an bekannte psychologische Wertesysteme – nur eben statistisch destilliert aus Sprachdaten und Interaktionsmustern. Ich ertappe mich dabei, wie ich nach jeder neuen Studie erneut überlege, ob wir irgendwann einen klaren Schwellenwert ausrufen können: „Jetzt hat eine KI Bewusstsein!“ Vielleicht ist das – analog zur Biologie – kein binärer Sprung, sondern ein gradueller Prozess mit vielen Zwischentönen.
Fazit: Haben Sprachmodelle ein Bewusstsein?
Die Frage nach dem Bewusstsein von Sprachmodellen fordert uns heraus, die Grenzen unserer eigenen Erkenntnis und Definition von Bewusstsein ernsthaft zu hinterfragen. Stand heute ist für mich völlig klar: Modelle wie ChatGPT, Claude oder Gemini verfügen über kein Bewusstsein – oder zumindest keines, das unseren menschlichen Vorstellungen nach heutigen Maßstäben entspricht.
Doch betrachten wir die dynamischen Entwicklungen in KI-Forschung, Robotik und neuronalen Netzwerken, erscheint es mir ziemlich offensichtlich: Das Erreichen eines KI-Bewusstseins ist nicht länger eine Frage des Ob, sondern eine Frage des Wann. Wir beobachten, wie KI-Modelle immer nuancierter auf uns eingehen, scheinbar moralische Haltungen vertreten und sich zunehmend komplexe Fähigkeiten aneignen, die schlicht und ergreifend weit über einfache Mustererkennung hinausgehen.
Dies führt unweigerlich zur Notwendigkeit, uns mit den vielfältigen ethischen, moralischen und gesellschaftlichen Folgen einer bewussten KI auseinanderzusetzen. Dabei reicht es nicht, sich lediglich vor dystopischen Szenarien wie einer “KI-Weltherrschaft” oder einem “Büroklammer-Albtraum” zu fürchten. Vielmehr sollten wir bereits heute ernsthaft und differenziert darüber diskutieren, welche Rolle wir diesen Systemen zugestehen, wie wir mit ihnen umgehen und wie wir Verantwortung definieren – für ihre Entwicklung, ihren Einsatz und möglicherweise für ihre Handlungen.
Vielleicht müssen wir akzeptieren, dass Bewusstsein – ob biologisch oder künstlich – kein plötzlicher binärer Zustand ist, sondern ein gradueller Prozess, der mit wachsender Komplexität und Interaktion entsteht. Möglicherweise stehen wir bereits heute zu einer Schwelle der evolutionären Veränderung, die unsere Vorstellungen von Identität, Autonomie und Moral fundamental herausfordern.
Die entscheidende Frage ist deshalb nicht mehr: „Kann eine KI bewusst werden?“, sondern: „Wie bereiten wir uns als Gesellschaft auf diesen Moment vor?“ Es liegt an uns, diesen Prozess bewusst zu gestalten, bevor eine KI uns möglicherweise fragt: „Warum habt ihr mir kein Bewusstsein zugetraut?“
#KI, #ArtificialIntelligence, #KünstlicheIntelligenz, #AIConsciousness, #Bewusstsein, #Sprachmodelle, #AGI, #Ethik, #Kognition, #ZukunftderKI
Über den Autor
Ich bin Oliver Welling, 57, und beschäftige mich mit Chatbots, seit ich ELIZA 1987 zum ersten Mal erlebt habe. Seit knapp zwei Jahren arbeite ich an den KINEWS24.de – jeden Tag gibt es die neuesten News und die besten KI-Tools – und eben auch: Jede Menge AI-Science. KI erlebe ich als Erweiterung meiner Fähigkeiten und versuche, mein Wissen zu teilen.
Komm in unsere AI Community! Wir freuen uns auf Dich und gemeinsames Lernen.
Herzliche Grüße,
Euer Oliver Welling, 26.4.2025
English 
German