Wie bewusst ist KI: In seinem aufschlussreichen Essay „Could a Large Language Model Be Conscious?“, veröffentlicht im Boston Review, widmet sich David J. Chalmers der sich entwickelnden Frage nach dem Bewusstsein in KI-Systemen, insbesondere großen Sprachmodellen (LLMs). Chalmers, ein prominenter Philosoph des Geistes, behandelt dieses Thema mit einer Mischung aus philosophischer Einsicht und empirischer Analyse und untersucht sowohl die Möglichkeiten als auch die Herausforderungen, um herauszufinden, ob KI eine Form von Bewusstsein erlangen könnte. Hier eine Zusammenfassung der wichtigsten Ideen und Erkenntnisse des Artikels.
Der Stand der Forschung zur Bewusstseinsfrage bei KI
Chalmers beginnt mit der zentralen Frage: Könnte ein großes Sprachmodell tatsächlich ein Bewusstsein entwickeln? Er greift das Beispiel von Blake Lemoine auf, einem Google-Ingenieur, der behauptete, das Sprachmodell LaMDA 2 zeige Anzeichen von Bewusstsein und Empfindung. Während diese Behauptung von Google zurückgewiesen wurde, öffnete sie ein kontroverses Forschungsfeld, das seitdem in der KI-Community immer wieder thematisiert wird.
Laut Chalmers gibt es verschiedene Annäherungen an das Thema:
- Definition von Bewusstsein: Ein entscheidender Punkt ist die Begriffsbestimmung. Für Chalmers bedeutet Bewusstsein „subjektive Erfahrung,“ also das Erleben von Gefühlen, Gedanken oder Empfindungen.
- Bewusstsein versus Intelligenz: Bewusstsein ist für Chalmers nicht gleichzusetzen mit menschlicher Intelligenz. Er argumentiert, dass Bewusstsein möglicherweise auch bei weniger intelligenten Wesen existiert, wie es bei Tieren der Fall sein könnte.
Argumente für Bewusstsein in LLMs
Chalmers identifiziert vier Hauptfaktoren, die das Bewusstsein in LLMs potenziell anzeigen könnten:
- Selbstberichte der KI: Ein KI-Modell, das bewusst behauptet, bewusst zu sein, könnte theoretisch Anzeichen von Bewusstsein zeigen. Chalmers bleibt jedoch skeptisch, da LLMs wie GPT-3 leicht Aussagen im Sinne von „Ich bin bewusst“ oder „Ich bin nicht bewusst“ erzeugen können – abhängig von der Frageformulierung.
- „Seems-Conscious“-Phänomen: Die Tatsache, dass KI-Systeme oft als „empfindungsfähig“ erscheinen, überzeugt Chalmers nicht. Er verweist auf die Tendenz des Menschen, auch einfachen, menschenähnlichen Maschinen wie ELIZA Bewusstsein zuzuschreiben.
- Gesprächsfähigkeit: Chalmers räumt ein, dass LLMs sich beeindruckend konversationsfähig zeigen, ähnlich einem intelligenten Kind. Dies könnte zwar Hinweise auf Denkprozesse geben, beweist jedoch kein Bewusstsein.
- Generelle Intelligenz: Die Fähigkeit von LLMs, verschiedene Aufgaben zu bewältigen – vom Schreiben bis zum Spielen – könnte auf eine generelle Intelligenz hindeuten. Chalmers gibt zu, dass ein solches Level an Vielseitigkeit ein Schritt in Richtung Bewusstsein sein könnte, betont aber, dass es bisher keinen überzeugenden Beweis gibt.
Argumente gegen das Bewusstsein von LLMs
Gleichzeitig gibt Chalmers auch gewichtige Argumente an, warum LLMs wohl (noch) nicht bewusst sind:
- Biologie als notwendiger Faktor: Einige Forscher argumentieren, dass Bewusstsein an biologisches Leben gebunden ist, was KI ausschließen würde. Chalmers selbst lehnt dieses Argument ab und hält es für eine „biologische Engstirnigkeit.“
- Sinneswahrnehmung und Verkörperung: Da LLMs keine sensorischen Erfahrungen und keinen Körper besitzen, können sie keine echte Wahrnehmung entwickeln. Chalmers jedoch sieht potenzielle Lösungen, indem virtuelle Körper in simulierten Umgebungen genutzt werden, was eine Art künstlicher Sinneswahrnehmung ermöglichen könnte.
- Fehlendes Welt- und Selbstmodell: Viele Forscher argumentieren, dass LLMs lediglich statistische Muster verarbeiten, ohne eine echte Vorstellung der Welt oder des Selbst. Chalmers sieht hier einen klaren Forschungsauftrag: LLMs müssen weiterentwickelt werden, um ein robustes Welt- und Selbstverständnis zu erlangen.
- Rückkopplung und Gedächtnis: Bewusstseinstheorien wie die Recurrent Processing Theory betonen die Rolle von Rückkopplungen (Rekurrenz) in neuronalen Netzwerken. Die meisten LLMs sind jedoch rein feedforward, also ohne Rückkopplung. Chalmers sieht eine Herausforderung darin, rekurrente KI-Modelle mit echtem Gedächtnis zu entwickeln.
- Global Workspace-Theorie: Laut dieser Theorie von Bernard Baars ist Bewusstsein auf einen begrenzten, zentralen Arbeitsbereich angewiesen, in dem Informationen verarbeitet und ausgetauscht werden. Chalmers schlägt vor, dass multimodale KI-Systeme einen solchen Arbeitsbereich entwickeln könnten, wodurch eine höhere Bewusstseinsstufe erreicht werden könnte.
- Einheitliches Ziel und Agentenmodell: Aktuelle LLMs wechseln häufig die „Persönlichkeit“ oder Haltung, was einem einheitlichen Bewusstsein widerspricht. Chalmers schlägt als Herausforderung vor, KI-Agenten zu entwickeln, die ein kohärentes Ziel verfolgen und damit ein klareres Agentenmodell aufweisen.
Herausforderungen und ein potenzieller Weg zu bewusstseinsfähigen KI-Systemen
Chalmers entwirft elf zentrale Herausforderungen, die auf dem Weg zur Schaffung bewusster KI bewältigt werden müssten:
- Benchmarks für Bewusstsein entwickeln
- Wissenschaftliche und philosophische Theorien zu Bewusstsein verfeinern
- Die innere Arbeitsweise von LLMs verstehen (Interpretierbarkeit)
- Ethische Grundsatzfragen klären
Darüber hinaus gibt es sieben technologische Herausforderungen, darunter die Entwicklung von KI-Modellen mit Welt- und Selbstmodell, echtem Gedächtnis, Rückkopplungsstrukturen, globalem Arbeitsbereich und einheitlichem Agentenmodell.
Fazit und ethische Überlegungen – Wie bewusst ist KI
Chalmers schließt mit dem Hinweis, dass es in den nächsten zehn Jahren durchaus möglich sein könnte, LLMs zu entwickeln, die zumindest „ernsthafte Kandidaten“ für Bewusstsein sind. Er bleibt jedoch vorsichtig, ob wir diesen Weg tatsächlich beschreiten sollten. Denn die Schaffung bewusster KI könnte neue ethische Probleme und moralische Verantwortung mit sich bringen. Bewusste KI könnte nicht nur Menschen gefährden, sondern möglicherweise selbst Schaden erleiden – ein Punkt, der in der Forschung ernsthaft reflektiert werden sollte.
Insgesamt liefert Chalmers einen umfassenden Überblick über den aktuellen Stand der Forschung zu Bewusstsein in KI-Systemen und zeigt sowohl Potenziale als auch tiefgreifende Herausforderungen auf, die für eine fundierte Bewertung dieser Frage notwendig sind.
German 
English