Plattform Lernende Systeme: Schlüsselinitiative für Künstliche Intelligenz in Deutschland – Interview mit Jessica Heesen

Einleitung

Die Plattform „Lernende Systeme“ ist eine zentrale Initiative in Deutschland, die sich auf die Förderung von Künstlicher Intelligenz (KI) konzentriert. Sie bringt Experten aus Wissenschaft, Wirtschaft, Politik und Gesellschaft zusammen, um den Einsatz von KI-Technologien zu erforschen und deren Potenzial für verschiedene Anwendungsfelder zu erschließen. Ins Leben gerufen wurde die Plattform 2017 vom Bundesministerium für Bildung und Forschung (BMBF) und wird von der Deutschen Akademie der Technikwissenschaften (acatech) koordiniert. Durch ihre Arbeit trägt die Plattform entscheidend zur Gestaltung der digitalen Zukunft Deutschlands bei.

Hauptfrage: Welche Ziele verfolgt die Plattform „Lernende Systeme“?

Die Plattform „Lernende Systeme“ hat sich mehrere strategische Ziele gesetzt, um die Entwicklung und den Einsatz von KI in Deutschland voranzutreiben. Diese lassen sich wie folgt zusammenfassen:

1. Positionierung Deutschlands als Technologieführer für KI:
   • Ziel ist es, Deutschland im internationalen Wettbewerb als führende Nation für KI-Technologien zu etablieren. Dabei bündelt die Plattform die Expertise aus Forschung, Industrie und Gesellschaft, um die Entwicklung lernender Systeme gezielt voranzutreiben.
2. Gesellschaftlicher Nutzen und Akzeptanz:
   • Die Plattform will sicherstellen, dass KI-Systeme im Sinne eines verantwortungsvollen gesellschaftlichen Zusammenlebens gestaltet werden. Schwerpunkte sind dabei die Verbesserung der Lebensqualität, die Förderung guter Arbeitsbedingungen, sowie die Unterstützung von Nachhaltigkeit in Wirtschaft und Umwelt.
3. Förderung des Dialogs und des Verständnisses für KI:
   • Ein zentrales Ziel ist es, den gesellschaftlichen Dialog über die Chancen und Herausforderungen von KI aktiv zu fördern. Dies geschieht durch den Austausch zwischen verschiedenen Interessengruppen und durch die Erarbeitung von ethischen sowie rechtlichen Leitlinien.
4. Kompetenzaufbau und Unterstützung für den Mittelstand:
   • Die Plattform legt großen Wert auf die Förderung von Kompetenzen im Umgang mit KI, insbesondere für kleine und mittlere Unternehmen (KMU). Sie bietet Orientierungshilfen, Praxisbeispiele und Schulungen an, um den Mittelstand auf dem Weg zur Digitalisierung zu begleiten.
     

Folgefragen und Antworten

1. Wie ist die Plattform „Lernende Systeme“ strukturiert?

Die Plattform ist in sieben interdisziplinäre Arbeitsgruppen unterteilt, die sich mit technologischen, wirtschaftlichen und gesellschaftlichen Aspekten der KI beschäftigen. Diese Arbeitsgruppen erarbeiten Berichte, Studien und Handlungsempfehlungen zu verschiedenen Themen wie Datenschutz, Sicherheit, Bildung oder Mobilität. Ein Lenkungskreis, der aus Vertretern der beteiligten Organisationen besteht, koordiniert die strategische Ausrichtung der Plattform.

2. Welche konkreten Ergebnisse hat die Plattform bisher erzielt?

Die Plattform hat mehrere Diskussionspapiere und Studien veröffentlicht, die sich mit den Einsatzmöglichkeiten von KI in verschiedenen Sektoren befassen. Zu den wichtigsten Veröffentlichungen zählen Szenarien für den Einsatz von KI in der Mobilität, in der Gesundheitsbranche und in der Produktion. Zudem hat die Plattform eine interaktive KI-Landkarte erstellt, die über 1000 Praxisbeispiele aus Deutschland zeigt und als Orientierungshilfe für Unternehmen dient.

3. Wie fördert die Plattform den Dialog über ethische Fragen von KI?

Die Plattform legt großen Wert auf die Diskussion ethischer, rechtlicher und sozialer Fragen im Zusammenhang mit KI. Sie veranstaltet regelmäßig Workshops, Webtalks und Konferenzen, um Akteure aus verschiedenen Bereichen zusammenzubringen. Hier werden Leitlinien und Empfehlungen entwickelt, wie KI-Systeme verantwortungsvoll gestaltet und eingesetzt werden können.

4. Welche Rolle spielt die Plattform für den Mittelstand?

Ein spezifisches Ziel der Plattform ist die Unterstützung von kleinen und mittleren Unternehmen (KMU) bei der Einführung und Nutzung von KI-Technologien. Sie bietet gezielte Beratungsangebote, Praxisbeispiele und Schulungsmaterialien, um den Mittelstand für die digitale Transformation zu stärken und Hemmschwellen abzubauen.

5. Welche Themen werden von den Arbeitsgruppen behandelt?

Die sieben Arbeitsgruppen der Plattform beschäftigen sich mit unterschiedlichen Schwerpunkten:

• Arbeitsgruppe 1: Technologische Grundlagen – Fokussiert auf die Entwicklung von Basistechnologien für lernende Systeme.
• Arbeitsgruppe 2: Autonome Systeme – Untersucht Anwendungen von KI in der Automobilbranche und in der Robotik.
• Arbeitsgruppe 3: Sicherheitskritische Systeme – Befasst sich mit Sicherheit und Verlässlichkeit von KI-Systemen.
• Arbeitsgruppe 4: Mensch-KI-Interaktion – Beschäftigt sich mit Fragen der Interaktion und Akzeptanz von KI in der Gesellschaft.
• Arbeitsgruppe 5: KI und Wirtschaft – Fokussiert auf die wirtschaftlichen Potenziale und Geschäftsmodelle für den Einsatz von KI.
• Arbeitsgruppe 6: Bildung und Qualifizierung – Entwickelt Strategien zur Förderung von KI-Kompetenzen in Bildungseinrichtungen.
• Arbeitsgruppe 7: Gesellschaftlicher Dialog und ethische Aspekte – Widmet sich dem Dialog zu ethischen und rechtlichen Fragen.
  

6. Welche Veranstaltungen organisiert die Plattform?

Zu den regelmäßigen Veranstaltungen der Plattform zählen:

• Konferenzen: Bieten Raum für den Austausch zwischen Forschern, Unternehmern und politischen Entscheidungsträgern.
• Workshops und Diskussionsrunden: Konzentrieren sich auf spezielle Anwendungsfragen und ethische Überlegungen.
• Webtalks und Online-Veranstaltungen: Fördern den digitalen Austausch zu aktuellen Entwicklungen und Trends in der KI-Forschung.
  

7. Wie trägt die Plattform zur deutschen KI-Strategie bei?

Die Plattform „Lernende Systeme“ ist ein wichtiger Bestandteil der deutschen KI-Strategie. Durch ihre Veröffentlichungen und Handlungsempfehlungen unterstützt sie politische Entscheidungen und trägt zur Gestaltung eines förderlichen Innovationsumfelds bei. Zudem stärkt sie den Wissenstransfer zwischen Forschungseinrichtungen und Unternehmen und schafft damit die Basis für neue Kooperationen.

Konkrete Tipps für den Einsatz von KI im Mittelstand

Um KI-Technologien effektiv im Mittelstand einzuführen, empfiehlt die Plattform folgende Schritte:

1. Bedarfsanalyse durchführen: Identifizieren Sie zunächst die Bereiche, in denen KI den größten Nutzen für Ihr Unternehmen bringen kann.
2. Pilotprojekte starten: Beginnen Sie mit kleinen Pilotprojekten, um erste Erfahrungen zu sammeln.
3. Kooperationen nutzen: Arbeiten Sie mit Forschungseinrichtungen und Technologieanbietern zusammen, um den Zugang zu KI-Kompetenzen zu erleichtern.
4. Mitarbeiter schulen: Investieren Sie in die Weiterbildung Ihrer Belegschaft, um den Umgang mit KI-Systemen zu fördern.
5. Datengrundlage verbessern: Stellen Sie sicher, dass Sie über qualitativ hochwertige und strukturierte Daten verfügen, um KI-Anwendungen effizient zu nutzen.

Kurzprofil: Jessica Heesen

Jessica Heesen ist eine renommierte Forscherin und Expertin im Bereich der Ethik Künstlicher Intelligenz (KI) sowie der Informations- und Medienethik. Sie leitet die Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“ der Plattform Lernende Systeme in Deutschland, einer Initiative des Bundesministeriums für Bildung und Forschung (BMBF), die sich mit der Entwicklung und Anwendung lernender Systeme beschäftigt.

Akademischer Hintergrund und Expertise

Jessica Heesen ist Philosophin und Medienethikerin. Sie forscht am Internationalen Zentrum für Ethik in den Wissenschaften der Universität Tübingen. Ihre akademischen Schwerpunkte umfassen:

• Informations- und Medienethik
• Ethik der Künstlichen Intelligenz
• Sicherheits- und Technikethik
• Sozialphilosophie

Heesen promovierte an der Universität Stuttgart und habilitierte sich am Karlsruher Institut für Technologie (KIT).

Beiträge zur KI-Ethik und -Politik

Im Rahmen ihrer Tätigkeit hat Jessica Heesen bedeutende Beiträge zur ethischen Gestaltung von KI-Systemen geleistet, darunter:

• Entwicklung eines Ethik-Leitfadens für den verantwortungsvollen Umgang mit KI.
• Mitarbeit an einem Whitepaper zur KI-Zertifizierung, das Kriterien für die Vertrauenswürdigkeit von KI-Anwendungen festlegt.
• Kritische Auseinandersetzung mit dem Konzept der „Human-Centered AI“, wobei sie eine tiefgehende Betrachtung der gesellschaftlichen Auswirkungen fordert.
  

Ansichten zur KI-Regulierung

Jessica Heesen setzt sich für eine ausgewogene Regulierung von KI ein, die Innovation ermöglicht und gleichzeitig ethische Standards sichert. Sie betont die Wichtigkeit von Transparenz und gesellschaftlicher Verantwortung bei der Entwicklung neuer Technologien.

Durch ihre Forschung und ihre Rolle in der Plattform Lernende Systeme gestaltet Jessica Heesen aktiv die Debatte um die ethische und gesellschaftliche Integration von KI in Deutschland mit.

Interview mit Jessica Heesen

KINEWS24, Interview Jessica Heesen

KINEWS24: Als Expertin für Medienethik, wie bewerten Sie die Rolle dieses Fachgebiets in einer Ära, in der KI-generierte Inhalte zunehmend schwieriger von menschlich erstellten zu unterscheiden sind (Stichwort DeepFakes und Wahlen 2024)? Welche ethischen Richtlinien sollten Ihrer Ansicht nach für den Umgang mit solchen Technologien entwickelt werden? Sehen Sie eine Möglichkeit ethische Prinzipien auch über die Grenzen eines Landes hinaus zu realisieren?

Die Medienethik erforscht die Bedingungen und Praktiken zur Umsetzung von Leitprinzipien wie wahrheitsgemäße, nachvollziehbare Information und ausgewogener Berichterstattung. Eine verlässliche öffentliche Kommunikation ist eine elementare Voraussetzung für die individuelle Meinungsbildung und einen funktionierenden demokratischen Rechtsstaat. Es existieren bereits viele ethische Richtlinien zum Umgang mit KI. Die Frage ist nur, wie können Prinzipien wie etwa Transparenz konkret umgesetzt werden? Ein Beitrag zu mehr Transparenz sind Kennzeichnungen für KI generierte Inhalte. Im neuen AI Act der Europäischen Union sind solche Kennzeichnungen vorgeschrieben und betreffen damit auch die internationale Ebene und Unternehmen, die in der EU aktiv werden wollen. Es gibt jedoch Ausnahmen für den journalistischen Bereich. Hier sind Redaktionen aufgefordert, trotzdem auf KI-Kennzeichnungen zu setzen. Auch wenn es natürlich immer Akteure gibt, die mit Deep Fakes täuschen wollen, bleibt es wichtig, weiterhin vertrauenswürdige Quellen erkennen zu können.

KINEWS24: In Ihrer Arbeit mit der Plattform Lernende Systeme beschäftigen Sie sich mit der „Kritikalität von KI“. Könnten Sie erläutern, welche Bereiche oder Anwendungen von KI Sie als besonders kritisch aus ethischer Sicht für die deutsche Gesellschaft einstufen und warum Sie zu dieser Einschätzung kommen?

KI ist besonders da kritisch und risikobehaftet, wo sie Einfluss nehmen kann auf Infrastrukturen, Sicherheit und Lebenschancen. Einerseits kann KI hier bei einer Fehlfunktion großen Schaden anrichten, z. B. bei Systemen, die in der öffentlichen Verwaltung eingesetzt werden und über Sozialhilfen entscheiden. Andererseits kann auch der reguläre Einsatz von KI dazu führen, dass Menschen benachteiligt werden. So etwa beim Einsatz von KI für die Personalauswahl, für die dann gegebenenfalls diskriminierende Muster (ungewollt) reproduziert werden. Für solche risikoreichen Anwendungen sind Kontrollen und verschärfte Anwendungsregeln notwendig, die nun ja auch durch die neue KI-Verordnung der EU vorgegeben werden.

KINEWS24: Als Leiterin des Forschungsschwerpunkts Medienethik, Technikphilosophie & KI am Ethikzentrum der Universität Tübingen: Wie sehen Sie die Rolle der Universitäten und Forschungseinrichtungen in Deutschland bei der Vermittlung ethischer Grundsätze im Kontext von KI? Welche ethischen Kompetenzen sollten Studierenden vermittelt werden, um verantwortungsvoll mit KI-Technologien umzugehen?

Studierenden sollte schon in der Ausbildung vermittelt werden, dass Techniken nie ohne Kontext zu denken sind. Fragen von möglichen ungewollten Nebenwirkungen, von Kaskadeneffekten und Missbrauchspotenzialen sollten bei der KI-Entwicklung von Anfang an artikuliert werden. Auf diesem Weg können schon durch Ethics by Design viele Probleme abgefangen werden. Statt des weit verbreiteten Vorurteils, dass Regulierung und Normen Technikentwicklung behindern: Ethik macht Technikentwicklung besser!

KINEWS24: Frau Heesen, wie lässt sich Künstliche Intelligenz zielgerichtet zum Wohl der Menschen einsetzen?

Jessica Heesen: Das lässt sich erst einmal gar nicht so einfach sagen, solange wir nicht übereinstimmen, was denn das Wohl des Menschen ist. Verbreitet ist etwa das Menschenbild des homo oeconomicus, in dem der Mensch seine Handlungen zum Zweck des persönlichen und finanziellen Profits ausrichtet. Möchte man KI entsprechend dieses Menschenbildes einsetzen, würde genau das passieren, was wir derzeit beobachten können: Unternehmen nutzen KI zur Profitmaximierung, unter anderem, indem sie Überkonsum erzeugen. Das gelingt ihnen im Online-Handel beispielsweise durch personalisierte Werbung oder automatisierte Empfehlungen.

Ich glaube jedoch nicht, dass der Mensch grundlegend nur auf Profite aus ist. Vielmehr ist er ein soziales Wesen, das in einer Gemeinschaft leben will und bestimmte Werte anstrebt – etwa soziale Anerkennung. Möchte man KI im Sinne dieses Menschenbildes nutzen, treten soziale und ökologische Themen in den Vordergrund. Der Anreiz des Einzelnen, KI-Systeme für sozialökologische Nachhaltigkeit hervorzubringen, könnte hier also die soziale Anerkennung anstelle des Profits sein. Was wir benötigen, ist also zunächst ein Anreizsystem, auf dessen Grundlage KI genutzt wird. Der Staat hat dafür zahlreiche Instrumente zur Verfügung, beispielsweise die Förderung von Ehrenamt oder sogenannte Civic Technologies mit Wettbewerbsausschreibungen.

KINEWS24: Wie gelingt es, die breite Gesellschaft in eine Zukunft mit KI zu führen?

Jessica Heesen: Zuallererst muss man dafür natürlich anmerken: KI-Systeme werden schon heute in den verschiedensten Bereichen angewendet, es ist also keineswegs eine Frage für die Zukunft. Dennoch haben viele Menschen Vorbehalte gegen KI. Oftmals wird gesagt, dass man vertrauen müsse – als ob die Bürgerinnen und Bürger dabei in der Pflicht seien. Dabei ist es doch so: Um begründetes Vertrauen zu schaffen, muss zunächst das Misstrauen akzeptiert werden, denn nur so können sich die Nutzerinnen und Nutzer ein eigenes Bild von den Chancen und Risiken der Anwendungen machen. Es geht also um Transparenz. Aber Transparenz darf auch nicht als Selbstzweck verstanden werden. Nur wenn Einzelpersonen auch eine tatsächliche Wahl haben, sich gegen die Nutzung der Anwendung zu entscheiden, ist Transparenz eine vertrauensbildende Maßnahme.

Eine weitere Maßnahme ist die Zertifizierung von KI. Für die Nutzerinnen und Nutzer ist der Datenschutz ein wichtiges Thema, doch auch für ökologische Nachhaltigkeit sind Zertifikate ein gutes Steuerungselement, beispielsweise durch eine Selbstverpflichtung in der Industrie. Allerdings gestaltet es sich sehr schwierig, sich auf gemeinsame Kriterien für eine Zertifizierung von KI zu einigen, zumal immer wieder gemahnt wird, dass eine zu scharfe Regulierung die Wirtschaft und Innovationen bremst.

KINEWS24: Hier klingt an, dass Interessen der Wirtschaft und Gemeinwohl nicht immer übereinstimmen. Brauchen wir mehr Eingriffe in die freie Marktwirtschaft in Sachen KI?

Jessica Heesen: Eine wirklich freie Marktwirtschaft haben wir in dieser Sache ja gar nicht, denn es bestehen starke Monopole auf dem Markt, wenn es um KI geht. Google ist dafür nur ein Beispiel. Und ja, hier können Eingriffe ein Teil der Lösung sein. Wie eine nachhaltige und gerechte Entwicklung in der Digitalisierung aussehen soll, sollten wir nicht Konzernen überlassen. Stattdessen sollten wir eine plurale Wirtschaft anstreben, in der sich auch einzelne wohlwollende Entwicklerinnen und Entwickler durchsetzen können. Das ist momentan nicht der Fall.

Natürlich muss auch darüber gesprochen werden, was mit den mit KI erwirtschafteten Gewinnen passiert. Die High Level Expert Group on Artificial Intelligence spricht sich in ihren Ethik-Guidelines etwa dafür aus, dass Gewinne gerecht in der Gesellschaft verteilt werden. Man sollte betonen, dass KI nicht nur Unternehmen und wohlhabenden Einzelpersonen nutzt, sondern auch die soziale Wohlfahrt stärken und einen Vorteil für alle erbringen kann. Dann wird auch die Zustimmung für KI in der Bevölkerung wachsen.

Über die Autorin

Prof. Dr. Jessica Heesen leitet am Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) der Universität Tübingen den Forschungsschwerpunkt Medienethik, Technikphilosophie & KI. Dieser beleuchtet ethische Fragen zur Meinungsfreiheit in Sozialen Medien sowie zu einer wertorientierten Entwicklung von Künstlicher Intelligenz. Jessica Heesen wurde an der Universität Stuttgart promoviert und erhielt mit ihrer Habilitation am Karlsruher Institut für Technologie (KIT) die venia legendi im Fach Philosophie. Sie ist Mitglied des Forums Privatheit und selbstbestimmtes Leben in der digitalen Welt – Forum Privatheit (BMBF) und des Netzwerks Medienethik.

Jessica Heesen ist Co-Leiterin der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme

Quellen und weiterführende Links

• Plattform Lernende Systeme – offizielle Webseite
• acatech – Deutsche Akademie der Technikwissenschaften