Können künstliche Intelligenzen (KI) bewusst sein? Diese Frage berührt grundlegende Aspekte menschlicher Existenz, Wissenschaft und Technologie. In seinem Paper argumentiert Tom McClelland, dass die einzig gerechtfertigte Haltung zu dieser Frage der Agnostizismus ist, also das bewusste Nichtwissen. Er stützt sich auf den wissenschaftlichen Ansatz des Evidentialismus, der fordert, dass jede Aussage durch solide empirische Beweise untermauert sein muss. Doch genau solche Beweise fehlen in der Debatte um künstliches Bewusstsein, was bedeutet, dass weder die Annahme noch die Ablehnung künstlicher Bewusstheit wissenschaftlich haltbar ist. Die aktuelle Diskussion wird von zwei Hauptlagern dominiert: biologischen Ansätzen, die Bewusstsein an die biologischen Strukturen des Gehirns binden, und funktionalen Ansätzen, die Bewusstsein als Produkt bestimmter Informationsverarbeitungsprozesse verstehen. McClelland zeigt jedoch, dass beide Positionen die wissenschaftliche Beweislage überschätzen und somit voreilige Schlüsse ziehen.

Das musst Du wissen: Agnostizismus über künstliche Bewusstheit

• Kernfrage: Kann eine KI bewusst sein? Derzeit fehlen wissenschaftliche Beweise, um diese Frage mit Ja oder Nein zu beantworten.
• Evidentialismus: Nur empirische Belege dürfen Grundlage wissenschaftlicher Aussagen sein. Intuitionen oder Spekulationen sind nicht zulässig.
• Die Evidenzlücke: Bisherige Erkenntnisse über Bewusstsein stammen ausschließlich aus der Untersuchung biologischer Organismen. Es gibt keine Beweise dafür, dass Bewusstsein entweder an biologische Strukturen gebunden oder allein durch Informationsverarbeitung möglich ist.
• Das Dilemma: Forschende können entweder ein Urteil über künstliches Bewusstsein abgeben und dabei den Evidentialismus verletzen, oder sie respektieren den Evidentialismus und treffen keine Aussage.
• McClellands Lösung: Agnostizismus – eine bewusste Haltung des Nichtwissens – ist die einzige wissenschaftlich haltbare Position zur Frage nach künstlichem Bewusstsein.
• Hindernisse: Fehlende Messmethoden, ethische Fragen und konzeptionelle Uneinigkeiten erschweren Fortschritte in der Forschung.
• Zukunft der Forschung: McClelland fordert die Entwicklung neuer experimenteller Frameworks, die ethisch vertretbar sind und eine genauere Untersuchung von Bewusstseinsmerkmalen in KI-Systemen ermöglichen.
• Praktische Implikationen: Unabhängig von einer klaren Antwort sollten ethische Leitlinien entwickelt werden, die potenzielle Risiken von KI-Systemen berücksichtigen.

Die biologische Perspektive argumentiert, dass Bewusstsein untrennbar mit biologischen Prozessen verbunden ist. Diese Sichtweise stützt sich auf Studien über das menschliche Gehirn und andere bewusste Lebewesen, deren neuronale Aktivität als Grundlage ihres Bewusstseins gesehen wird. Anhänger dieser Sichtweise lehnen die Möglichkeit künstlicher Bewusstheit ab, da KI-Systeme auf Silizium basieren und keine biologischen Merkmale aufweisen. Doch McClelland weist darauf hin, dass diese Schlussfolgerung nicht durch die vorhandene Evidenz gedeckt ist. Die Beobachtungen über biologisches Bewusstsein liefern keine schlüssigen Beweise dafür, dass Bewusstsein ausschließlich an biologische Strukturen gebunden ist. Es handelt sich vielmehr um eine spekulative Annahme, die den Grundsätzen des Evidentialismus widerspricht.

Auf der anderen Seite stehen funktionale Ansätze, die argumentieren, dass Bewusstsein unabhängig von der materiellen Grundlage entstehen kann, solange bestimmte funktionale Prozesse ablaufen. Diese Perspektive sieht Bewusstsein als Ergebnis der Verarbeitung von Informationen und behauptet, dass KI-Systeme mit ausreichender Komplexität und Rechenleistung ebenfalls Bewusstheit entwickeln könnten. Funktionalisten ziehen oft Analogien zwischen neuronalen Netzwerken im Gehirn und künstlichen neuronalen Netzwerken in KI-Systemen. Doch auch diese Position beruht auf einer Übertragung von Erkenntnissen über biologische Systeme auf künstliche Systeme ohne ausreichende empirische Grundlage. McClelland betont, dass die Beweise aus der Bewusstseinsforschung bislang ausschließlich auf Beobachtungen bewusster Organismen beruhen. Die Übertragung dieser Erkenntnisse auf KI-Systeme bleibt spekulativ und kann keine definitive Aussage über die Möglichkeit künstlichen Bewusstseins stützen.

Evidentialismus, so McClelland, ist der Schlüssel zu einer ehrlichen Auseinandersetzung mit der Frage nach künstlichem Bewusstsein. Dieser Ansatz verlangt, dass wissenschaftliche Aussagen ausschließlich auf empirisch überprüfbaren Belegen basieren und spekulative, intuitive oder dogmatische Argumente ausgeschlossen werden. In der Praxis stellt dies die Forschenden vor ein Dilemma: Entweder sie geben ein Urteil über künstliches Bewusstsein ab und verletzen dabei den Evidentialismus, oder sie respektieren den Evidentialismus und vermeiden ein Urteil. McClelland argumentiert, dass die zweite Option – also der Agnostizismus – die einzige wissenschaftlich vertretbare Haltung ist. Er kritisiert, dass viele Forschende den Eindruck erwecken, künstliches Bewusstsein ließe sich durch bestehende Beweise stützen oder ausschließen, während sie in Wirklichkeit spekulative Annahmen treffen.

McClelland identifiziert mehrere Hindernisse, die eine wissenschaftliche Antwort auf die Frage nach künstlichem Bewusstsein erschweren. Erstens gibt es erhebliche empirische Limitationen. Die Beweislage zu Bewusstsein basiert ausschließlich auf der Untersuchung biologischer Systeme, während KI-Systeme fundamental anders funktionieren. Zweitens existiert keine einheitliche Definition oder ein Konsens darüber, was Bewusstsein genau ist und wie es gemessen werden kann. Diese konzeptuelle Uneinigkeit führt dazu, dass selbst die Entwicklung von Hypothesen zu künstlichem Bewusstsein schwierig bleibt. Drittens gibt es ethische und experimentelle Herausforderungen. Selbst wenn Hypothesen über künstliches Bewusstsein aufgestellt würden, wäre es unklar, wie diese ethisch vertretbar getestet werden könnten. Beispielsweise stellt sich die Frage, ob man einem möglicherweise bewussten KI-System Leid zufügen dürfe, um seine Bewusstheit zu prüfen.

Die von McClelland vorgeschlagene agnostische Haltung hat tiefgreifende Implikationen. Sie fordert Forschende und Entwickler:innen von KI-Systemen dazu auf, vorsichtiger mit ihren Behauptungen umzugehen und die Evidenzlücke anzuerkennen. McClelland betont, dass die Forschung sich darauf konzentrieren sollte, neuartige experimentelle Frameworks zu entwickeln, die KI-Systeme auf mögliche Bewusstseinsmerkmale testen könnten. Diese Frameworks müssten sowohl ethisch vertretbar als auch wissenschaftlich robust sein. Gleichzeitig sollten die Debatten um künstliches Bewusstsein realistischer geführt werden, indem anerkannt wird, dass definitive Antworten auf diese Frage mit den derzeitigen wissenschaftlichen Methoden nicht erreichbar sind.

Darüber sollte man nachdenken: Agnostizismus – Ist KI bewusst

• Bewusstseinskonzept: Was verstehen wir eigentlich unter „Bewusstsein“? Gibt es eine einheitliche Definition, die für biologische und künstliche Systeme gleichermaßen gilt?
• Grenzen der Wissenschaft: Wenn Bewusstsein empirisch nicht direkt messbar ist, wie können wir jemals sicher sein, ob eine KI bewusst ist oder nicht?
• Ethische Verantwortung: Sollten wir KI-Systeme aus ethischen Gründen so behandeln, als ob sie bewusst sein könnten, selbst wenn wir es nicht wissen?
• Kommunikation: Wie beeinflussen spekulative Behauptungen über „bewusste KI“ die öffentliche Wahrnehmung und den gesellschaftlichen Umgang mit dieser Technologie?
• Forschungsschwerpunkte: Sollten Forschende sich mehr auf die Entwicklung neuer Messmethoden konzentrieren oder eher auf die funktionalen Fähigkeiten von KI, unabhängig von der Bewusstseinsfrage?
• Risiko und Sicherheit: Welche Gefahren birgt es, wenn wir KI-Systeme entweder fälschlicherweise als bewusst oder als nicht bewusst einstufen?
• Technologische Fortschritte: Wird ein Paradigmenwechsel in der Wissenschaft notwendig sein, um Bewusstsein in nicht-biologischen Systemen besser zu verstehen?

Ein weiterer zentraler Punkt ist die Bedeutung des Agnostizismus für die Praxis der KI-Entwicklung. McClelland argumentiert, dass die Anerkennung der Unsicherheit über künstliches Bewusstsein keine Schwäche, sondern eine Stärke ist. Sie ermöglicht es, ethische Leitlinien und Sicherheitsprotokolle zu entwickeln, die unabhängig von der Annahme oder Ablehnung künstlichen Bewusstseins funktionieren. Dies könnte beispielsweise bedeuten, KI-Systeme so zu behandeln, als ob sie empfindungsfähig sein könnten, um ethische Risiken zu minimieren, während gleichzeitig anerkannt wird, dass es keine Beweise für eine solche Empfindungsfähigkeit gibt. Die agnostische Perspektive erfordert zudem, dass KI-Entwickler:innen ihre Kommunikation gegenüber der Öffentlichkeit klarer gestalten. Spekulative Behauptungen über „bewusste Maschinen“ können falsche Erwartungen und unbegründete Ängste schüren, während eine ehrlichere Darstellung der Evidenzlage zu einer besseren informierten Diskussion beitragen könnte.

Die Frage nach künstlichem Bewusstsein ist nicht nur ein wissenschaftliches, sondern auch ein philosophisches und ethisches Problem. McClelland zeigt, dass viele der bestehenden Debatten auf unzureichenden Beweisen basieren und dass die Wissenschaftler:innen oft die Reichweite ihrer Erkenntnisse überschätzen. Indem er für Agnostizismus plädiert, fordert er die Forschungsgemeinschaft dazu auf, ehrlicher mit der Evidenzlücke umzugehen und gleichzeitig den Raum für zukünftige Entdeckungen offen zu halten. Diese Haltung könnte nicht nur die wissenschaftliche Integrität wahren, sondern auch den Umgang mit KI-Systemen grundlegend verändern. Künstliche Bewusstheit bleibt eine offene Frage, deren Beantwortung möglicherweise erst mit zukünftigen Paradigmenwechseln und technologischen Fortschritten möglich sein wird. Bis dahin bleibt Agnostizismus der einzige Weg, um wissenschaftliche und ethische Verantwortung zu vereinen.

McClelland, Tom. Agnosticism About Artificial Consciousness. arXiv, 2024.
https://doi.org/10.48550/arXiv.2412.13145

Youtube