Eine sich rasch verändernde Landschaft der nationalen Sicherheit und der internationalen Beziehungen zwingt uns, die Sprache der modernen Kriegsführung neu zu überdenken. Die Zusammenarbeit des Brookings Instituts und des Center for International Security and Strategy an der Tsinghua-Universität hat seit 2019 zu einem einzigartigen Dialog zwischen US-amerikanischen und chinesischen Experten im Bereich der Künstlichen Intelligenz (KI) und nationalen Sicherheit geführt. Ziel dieses „Track-II-Dialogs“ ist es, ein gemeinsames Verständnis kritischer Begriffe zu entwickeln, um Missverständnisse zu minimieren und präzisere Diskussionen über KI-Anwendungen in militärischen und sicherheitsrelevanten Kontexten zu ermöglichen. Im Folgenden wird ein umfassendes Glossar vorgestellt, das Schlüsselbegriffe definiert, die in Diskussionen über KI und ihre Rolle in der internationalen Sicherheit und militärischen Angelegenheiten zentral sind.

Die Brookings Institution ist eine renommierte Denkfabrik mit Sitz in Washington, D.C., die sich der unabhängigen Forschung widmet, um politische Entscheidungsprozesse und Governance auf lokaler, nationaler und globaler Ebene zu verbessern. Als eine der ältesten und angesehensten Einrichtungen ihrer Art in den USA, setzt Brookings auf fundierte Analysen und datengetriebene Studien, um Lösungen für komplexe gesellschaftliche, wirtschaftliche und sicherheitspolitische Herausforderungen zu entwickeln und politische Entscheidungsträger zu unterstützen.

Das musst Du wissen – Glossar für KI in der nationalen Sicherheit

• Autonome Waffensysteme: Systeme, die nach Aktivierung selbstständig Ziele auswählen und bekämpfen können, ohne weitere menschliche Eingriffe.
• Lethale vs. Nicht-lethale Waffen: Lethale Waffen sind darauf ausgelegt, dauerhafte Schäden oder Todesfälle zu verursachen, während Nicht-lethale Waffen entwickelt wurden, um das Ziel vorübergehend zu neutralisieren und bleibende Schäden zu minimieren.
• Vertrauenswürdige KI: Eine KI, die sich an ethischen Grundsätzen orientiert, um Schaden zu minimieren und Vertrauen in die Mensch-Maschine-Interaktion aufzubauen.
• Menschliche Kontrolle: Das Konzept der meaningful human control stellt sicher, dass menschliche Bediener stets die endgültige Entscheidungsgewalt über den Einsatz von Waffen haben.
• KI-Lebenszyklus: Umfasst den Prozess von der Spezifikation der Ziele bis zur kontinuierlichen Wartung und Aktualisierung von KI-Systemen.

Diese Definitionen wurden von einem Expertenteam entwickelt und überprüft, das in den Dialog zwischen den USA und China involviert ist. Sie bieten eine detaillierte Grundlage für das Verständnis von KI im sicherheitspolitischen Kontext.

Waffen und ihre Systeme im Zeitalter der KI

Der Einsatz von Waffen wird im Kontext von KI noch komplizierter, insbesondere wenn man zwischen tödlichen und nicht-tödlichen Waffensystemen unterscheidet. Lethale Waffensysteme sind so konzipiert, dass sie dauerhafte Schäden an Personen oder Sachwerten verursachen, oft mit dem klaren Ziel, zu töten. Dagegen sollen nicht-lethale Waffen – wie elektromagnetische Impulsgeräte oder Schallkanonen – Gegner oder Ausrüstung vorübergehend außer Gefecht setzen, ohne langfristige oder tödliche Konsequenzen. Es ist jedoch wichtig zu beachten, dass auch nicht-lethale Waffen bei unsachgemäßer Anwendung oder aufgrund technischer Fehlfunktionen tödlich sein können.

Autonome Waffensysteme, die ohne direkte menschliche Steuerung operieren, stellen eine neue Dimension in der Kriegsführung dar. Sie umfassen unter anderem unbemannte Luftfahrzeuge (UAVs), Bodenfahrzeuge (UGVs), Oberflächenfahrzeuge (USVs) und Unterwasserfahrzeuge (UUVs), die durch komplexe Algorithmen gesteuert werden. Diese Systeme sind so ausgelegt, dass sie nach der Aktivierung ihre Ziele ohne weitere menschliche Eingriffe auswählen und bekämpfen können. Dazu zählen auch autonome Schwarmtechnologien, bei denen mehrere unbemannte Einheiten gemeinsam agieren, um eine Mission zu erfüllen. Der Vorteil solcher Systeme liegt in ihrer Fähigkeit, schneller als ein Mensch zu reagieren und Entscheidungen zu treffen. Allerdings gibt es erhebliche ethische und rechtliche Bedenken, insbesondere hinsichtlich der Kontrolle und Verantwortung.

Mensch-Maschine-Interaktion und Bedeutung von Kontrolle

Eine der größten Herausforderungen im Einsatz autonomer Systeme ist die Frage der Kontrolle. In diesem Zusammenhang ist das Konzept der „Meaningful Human Control“ (Bedeutungsvolle menschliche Kontrolle) entscheidend. Es erfordert, dass menschliche Bediener fundierte Entscheidungen treffen können, die auf klaren Informationen über Ziel, Waffe und den Kontext des Einsatzes beruhen. Menschliche Bediener müssen die Fähigkeit haben, das System bei Bedarf zu überwachen, einzugreifen und die Kontrolle zu übernehmen, um sicherzustellen, dass die KI-Systeme im Einklang mit den rechtlichen und ethischen Normen arbeiten. Die Frage, inwieweit solche Systeme unter menschlicher Kontrolle bleiben müssen, ist zentral für die zukünftige Regulierung und Anwendung solcher Technologien.

Der Begriff „Command and Control“ (C2) beschreibt die Autorität und Fähigkeit von militärischen Führungskräften, ihre Streitkräfte zu koordinieren und zu steuern. Diese Fähigkeit wird durch technologische Fortschritte in der Kommunikation und Computertechnik erweitert, was zu Konzepten wie „C3“ (Command, Control, and Communication) und „C4“ (Command, Control, Communication, and Computers) geführt hat. Diese Systeme sind darauf ausgelegt, wie Informationen gesammelt, interpretiert und in operative Befehle umgesetzt werden.

Vertrauen und Transparenz: Grundpfeiler der KI-Entwicklung

In einem zunehmend digitalisierten und automatisierten militärischen Umfeld ist Vertrauen in KI-Systeme von zentraler Bedeutung. Vertrauen ist jedoch keine einfache, technische Variable, die man ein- oder ausschalten kann. Es erfordert transparente und nachvollziehbare Prozesse in der Entwicklung, Bereitstellung und Wartung von KI-Technologien. Vertrauenswürdige KI sollte darauf ausgelegt sein, die Grundwerte der Gesellschaft zu respektieren und Schaden für Einzelpersonen und Gemeinschaften zu minimieren. Dazu gehört auch, dass KI-Systeme „erklärbar“ sein müssen. Das bedeutet, dass die Entscheidungsprozesse von KI für Menschen verständlich und nachvollziehbar sind, um eine gerechte und ethische Nutzung zu gewährleisten.

Erklärbarkeit und Nachvollziehbarkeit sind eng verwandte Konzepte, die sicherstellen, dass KI-Entscheidungen auf transparenten und überprüfbaren Daten und Modellen basieren. Die Nachvollziehbarkeit bezieht sich auf die Möglichkeit, die Quellen und Prozesse zu identifizieren, die zu einer Entscheidung geführt haben. Diese Prinzipien sind entscheidend, um Missbrauch zu verhindern und die öffentliche Akzeptanz zu fördern.

Der Lebenszyklus eines KI-Systems: Von der Entwicklung bis zur Wartung

Der KI-Lebenszyklus beschreibt die Phasen, die ein KI-System durchläuft, von der ersten Idee bis hin zur kontinuierlichen Verbesserung und Anpassung. Dieser Prozess umfasst mehrere Schritte:

1. Spezifikation des Ziels: Klare Definition dessen, was das KI-System erreichen soll.
2. Modellaufbau: Erstellung eines Modells, das auf der Sammlung und Analyse relevanter Daten basiert.
3. Testen: Umfangreiche Tests, um sicherzustellen, dass das System wie vorgesehen funktioniert und keine unerwünschten Ergebnisse produziert.
4. Bereitstellung und Wartung: Implementierung des Systems in der realen Welt und kontinuierliche Überwachung sowie Anpassung, um es auf dem neuesten Stand zu halten.
5. Feedback-Schleife: Ständige Aktualisierung des Systems basierend auf neuen Daten und Erkenntnissen.

Diese Schritte sind besonders im militärischen Bereich wichtig, wo die Konsequenzen von Fehlern katastrophal sein können.

Fazit: Begriffe für die Zukunft der KI im militärischen Kontext

Das Verständnis der in diesem Glossar enthaltenen Begriffe ist wesentlich für jeden, der sich mit der Rolle von KI in der nationalen Sicherheit beschäftigt. Die Differenzierung zwischen autonomen, halb-autonomen und vollautomatisierten Systemen, die Betonung der menschlichen Kontrolle und die Sicherstellung von Vertrauen und Transparenz sind entscheidend für die Entwicklung von Richtlinien und Normen, die diese Technologien sicher und ethisch vertretbar machen.

Die Zukunft der KI in der Kriegsführung wird nicht nur durch technologische Innovationen bestimmt, sondern auch durch die Art und Weise, wie wir diese Technologien regulieren, überwachen und kontrollieren. In einer Welt, in der die Grenzen zwischen Mensch und Maschine immer weiter verschwimmen, bleibt es unerlässlich, dass menschliche Entscheidungen und ethische Überlegungen im Mittelpunkt stehen. Die Fähigkeit, diese Begriffe und ihre Implikationen zu verstehen, wird von entscheidender Bedeutung sein, um eine sichere, faire und friedliche Nutzung von KI in der globalen Sicherheit zu gewährleisten.

#KünstlicheIntelligenz #AutonomeWaffensysteme #Sicherheitspolitik #Technologie #VertrauenswürdigeKI

Glossary of artificial intelligence terms