Im Superwahljahr 2024 steht die generative Künstliche Intelligenz (KI) im Mittelpunkt zahlreicher Diskussionen. Deepfakes und andere Formen von KI-erstellten Fälschungen werfen die Frage auf, inwieweit solche Technologien die Entscheidungsfindung der Wähler beeinflussen können. Trotz des Mangels an konkreten Beweisen für einen signifikanten Einfluss auf Wahlergebnisse fordern Experten der Plattform Lernende Systeme präventive Maßnahmen, um die Integrität demokratischer Prozesse zu schützen. Ein aktuelles Whitepaper, veröffentlicht von der Plattform Lernende Systeme, analysiert konkrete Beispiele und potenzielle Szenarien, wie generative KI auf Wahlen einwirken könnte. Dabei werden Herkunftsnachweise für KI-generierte Inhalte und die Stärkung der Medienkompetenz im Umgang mit KI besonders betont. Das musst Du wissen – Künstliche Intelligenz im Superwahljahr Herkunftsnachweise: Transparente Kennzeichnung von KI-generierten Inhalten. Medienkompetenz: Aufklärung und Bildung im Umgang mit KI und Medien. Rechtliche Regelungen: Umsetzung und Anpassung von Gesetzen zur Kontrolle von KI-Nutzung. Technische Lösungen: Einsatz von Technologien zur Erkennung und Verhinderung von Deepfakes. Hintergrund Plattform Lernende Systeme Die Plattform Lernende Systeme, ein ExpertInnen-Netzwerk zum Thema Künstliche Intelligenz (KI), wurde 2017 vom Bundesministerium für Bildung und Forschung (BMBF) initiiert. Ihr Ziel ist es, Deutschland als internationalen Technologieführer für Lernende Systeme zu positionieren. Die Plattform fördert den interdisziplinären Austausch und den gesellschaftlichen Dialog zu KI, entwickelt Positionen zu den Chancen und Herausforderungen von KI und benennt Handlungsoptionen für deren verantwortungsvollen Einsatz. Mit etwa 200 Mitgliedern aus Wissenschaft, Wirtschaft und Gesellschaft ist die Plattform breit aufgestellt. Diese Experten sind in Arbeitsgruppen und einem Lenkungskreis organisiert, während eine Geschäftsstelle bei acatech die Koordination übernimmt. Die Plattform veröffentlicht regelmäßig Berichte, Whitepaper und Factsheets, organisiert Veranstaltungen und Workshops und informiert über einen vierteljährlichen Online-Newsletter über aktuelle Entwicklungen im Bereich KI. Ihr Fokus liegt auf der gesellschaftlichen Gestaltung Lernender Systeme, der Untersuchung der Auswirkungen von KI auf verschiedene Lebensbereiche sowie ethischen, rechtlichen und sicherheitsbezogenen Fragen. Einfluss generativer KI auf demokratische Prozesse: 2024 werden weltweit über vier Milliarden Menschen in etwa 40 Ländern wählen, darunter die USA und Deutschland mit ihren Landtags- und Kommunalwahlen. Historisch gesehen, ist die Einflussnahme auf Wahlen durch falsche Informationen kein neues Phänomen. Neu ist jedoch die Dimension, die durch generative KI erreicht wird. KI-Tools ermöglichen eine bislang unerreichte Qualität und Quantität manipulativer Materialien. Beispiele umfassen gefälschte Videos und Stimmen von Politikern, die im Wahlkampf eingesetzt werden, um falsche Aussagen zu verbreiten. Ein Beispiel aus den USA: Eine KI-generierte Stimme von Joe Biden rief potenzielle Wähler an, um ihnen falsche Ratschläge zur Wahl zu geben. Solche Deepfakes können das Vertrauen in politische Institutionen erheblich untergraben. Unabsichtliche Einflüsse: Generative KI kann auch durch unbeabsichtigte Fehlinformationen wirken. Sprachmodelle wie ChatGPT können aufgrund technischer Einschränkungen falsche Informationen zu Kandidaten und Wahlprogrammen verbreiten. Dies wurde in einer Untersuchung vor den deutschen Landtagswahlen 2023 festgestellt, wo Chatbots falsche Parteienzuordnungen und Umfragewerte lieferten. Rechtliche und gesellschaftliche Maßnahmen: Um der Manipulation durch generative KI entgegenzuwirken, werden verschiedene Maßnahmen empfohlen. Auf rechtlicher Ebene sieht die Europäische Union im AI Act vor, dass KI-Systeme, die Wahlen beeinflussen könnten, als Hochrisiko-KI eingestuft werden. Diese Systeme müssen Qualitätskriterien für Trainingsdatensätze erfüllen und transparent gemacht werden. Der Digital Services Act (DSA) fordert zudem von großen Online-Plattformen, die Verbreitung von Falschinformationen zu reduzieren. Auf gesellschaftlicher Ebene ist die Stärkung der Medien- und KI-Kompetenzen essentiell. Bürger sollen befähigt werden, manipulative Inhalte zu erkennen und kritisch zu hinterfragen. Dies kann durch Bildungsangebote und Schulungen erreicht werden, die sowohl in Schulen als auch in der Erwachsenenbildung umgesetzt werden. Technologische Ansätze zur Prävention: Technische Maßnahmen spielen ebenfalls eine wichtige Rolle. Hierzu zählen kryptographische Herkunftsnachweise und Wasserzeichen, die die Echtheit von Inhalten bestätigen sollen. KI-basierte Systeme zur Erkennung von Deepfakes sind ebenfalls von Bedeutung. Diese Systeme können Unregelmäßigkeiten in Bildern und Videos erkennen und so manipulierte Inhalte aufdecken. Große Tech-Unternehmen arbeiten zudem daran, ihre Produkte weniger anfällig für Missbrauch zu machen. Entwickler setzen Schranken in Bildergeneratoren ein, die verhindern sollen, dass Bilder von politischen Persönlichkeiten erstellt werden können. Fazit: Künstliche Intelligenz im Superwahljahr Generative KI-Systeme sind zu einem festen Bestandteil unserer Lebensrealität geworden und stellen Demokratien vor neue Herausforderungen. Ob und wie stark der Ausgang von Wahlen durch KI manipuliert werden kann, bleibt zwar eine offene Frage, dennoch sind präventive Maßnahmen unerlässlich. Die Stärkung der Medienkompetenz und die Implementierung rechtlicher und technischer Maßnahmen können dazu beitragen, die Integrität demokratischer Prozesse zu schützen. Die Gesellschaft muss sich dieser Herausforderung bewusst stellen und kontinuierlich an der Anpassung und Verbesserung von Schutzmaßnahmen arbeiten. #AI #KünstlicheIntelligenz #Demokratie #Wahlen2024 #Deepfakes #Medienkompetenz #Whitepaper Das Whitepaper „KI im Superwahljahr 2024. Generative KI im Umfeld demokratischer Prozesse“ der Plattform Lernende Systeme bietet detaillierte Einblicke und Empfehlungen zur Prävention von Manipulationen bei demokratischen Wahlen. Plattform Lernende System