EU Chatkontrolle 2025: Über 600 Top-Wissenschaftler schlagen in offenem Brief Alarm

EU Chatkontrolle 2025: Ein Plan, private Chats mit Künstlicher Intelligenz (KI) zu durchleuchten, um Kinder zu schützen, löst einen beispiellosen Aufschrei in der Fachwelt aus. In einem dramatischen offenen Brief warnen über 600 führende KI- und Sicherheitsforscher aus 35 Ländern vor den katastrophalen Folgen der geplanten EU-Verordnung, oft als „Chatkontrolle“ bezeichnet. Sie argumentieren, dass die für den Vorschlag vom Juli 2025 vorgesehene KI-Technologie fundamental fehleranfällig, leicht zu täuschen und eine existenzielle Bedrohung für die Ende-zu-Ende-Verschlüsselung ist – die Grundlage unserer digitalen Sicherheit und Privatsphäre.

Das Vorhaben, das auf dem Papier die Jüngsten schützen soll, droht nach Meinung der Experten zu einem techno-solutionistischen Albtraum zu werden: Ein Überwachungsapparat, angetrieben von einer unzuverlässigen KI, die massenhaft unschuldige Bürger unter Generalverdacht stellt und Europas digitale Gesellschaft fundamental gefährdet. Dieser Artikel analysiert die vernichtende Kritik der Wissenschaft, warum gerade die KI-Komponente des Plans zum Scheitern verurteilt ist und welche besseren, sichereren Alternativen zum Schutz von Kindern existieren.

Wir tauchen tief ein in die Argumente, die von Koryphäen der Cybersicherheit von Institutionen wie dem Max-Planck-Institut, der ETH Zürich und hunderten weiteren Universitäten vorgebracht werden. Du erfährst, warum eine KI zur Inhaltsanalyse fundamental anders (und gefährlicher) ist als ein Virenscanner , wie ihre Schwächen von Kriminellen ausgenutzt werden könnten und warum Messaging-Dienste wie Signal lieber ihren Dienst in der EU einstellen würden, als eine solche Hintertür für eine fehleranfällige KI zu implementieren.

Dystopien gibt es leider – gerade bei und mit KI – extrem viele. Auch Mark Zuckerberg träumt von einer schönen neuen KI-Welt – natürlich unter der totalen Kontrolle von Meta. Vor einer Woche hat Anthropic angekündigt, dass der hauseigene Chatbot Claude nun auch mit User-Chats trainiert wird – und dies ist voreingestellt.

Keine Frage: Kinder gehören geschützt. Darüber besteht überall Einigkeit – der von der EU eingeschlagene Weg, ist aber sicher nicht das Allheilmittel. Es bietet Tor und Tür für 100% Überwachung. Das kann nicht der Preis sein.

EU Chatkontrolle 2025 – Das Wichtigste in Kürze

• Massiver Protest: Über 617 Wissenschaftler aus 35 Ländern haben einen offenen Brief unterzeichnet, der die geplante EU-Chatkontrolle scharf kritisiert.
• Technisch unbrauchbar: Die Experten halten die Erkennungstechnologie (CSAM-Scanner) für unzuverlässig, fehleranfällig und leicht durch Kriminelle zu umgehen.
• Verschlüsselung in Gefahr: Das Scannen von Inhalten auf dem Gerät bricht die Ende-zu-Ende-Verschlüsselung (E2EE) und schafft ein massives Sicherheitsrisiko für alle Nutzer – von Privatpersonen bis zu Regierungsstellen.
• Gefahr der Massenüberwachung: Die Technologie könnte leicht für andere Zwecke missbraucht werden („Function Creep“) und eine beispiellose Überwachungsinfrastruktur etablieren.
• Scheinlösungen: Zusätzliche Maßnahmen wie die Altersverifikation werden als ineffektiv und schädlich für die Online-Anonymität und Meinungsfreiheit kritisiert.
• Bessere Alternativen existieren: Die Forscher fordern, statt auf Überwachungstechnologie auf bewährte, von der UN empfohlene Maßnahmen zu setzen: Bildung, Prävention und Stärkung von Melde-Hotlines.
• Dialog gefordert: Die Unterzeichner beklagen das Fehlen eines offenen Dialogs mit der Fachwelt und fordern eine transparente, faktenbasierte Diskussion über wirksame Kinderschutzmaßnahmen.

Der Kern des Konflikts: Was die neue EU-Verordnung vorschlägt

Die Absicht hinter der Verordnung ist unbestreitbar nobel: die Verbreitung von Darstellungen sexuellen Kindesmissbrauchs (CSAM) im Internet zu bekämpfen und Opfer zu schützen. Der Entwurf vom 24. Juli 2025 sieht vor, Anbieter von Kommunikationsdiensten zu verpflichten, die privaten Nachrichten ihrer Nutzer auf verdächtige Inhalte – speziell Bilder und URLs – zu scannen. Diese Überprüfung soll direkt auf den Geräten der Nutzer stattfinden, bevor die Nachricht verschlüsselt und versendet wird. Man spricht hier vom „client-side scanning“. Wird eine potenzielle Übereinstimmung gefunden, soll eine Meldung an die Behörden erfolgen. Doch genau dieser Mechanismus ist laut der versammelten wissenschaftlichen Elite Europas Achillesferse – und eine existenzielle Bedrohung für unsere digitale Freiheit.

Aktuell ist das Vorhaben innerhalb der EU-Staaten politisch höchst umstritten. Während eine Mehrheit der Länder die Pläne unterstützt, blockiert eine Sperrminorität von Staaten eine finale Einigung. In dieser politischen Hängepartie könnte die Position Deutschlands entscheidend sein. Als bevölkerungsreiches Land hat Deutschland das nötige Gewicht, um diese Sperrminorität alleine zu kippen und der Verordnung so den Weg zu ebnen.

„Technisch unmöglich und brandgefährlich“: Die 4 Hauptkritikpunkte der Experten

Die Kritik der Forscher ist keine pauschale Ablehnung, sondern eine detaillierte, auf jahrzehntelanger Forschung basierende Analyse. Sie lässt sich in vier zentrale Problemfelder unterteilen.

1. Fehleranfällige Technologie: Warum CSAM-Scanner massenhaft Unschuldige verdächtigen

Das größte technische Problem ist die Unzuverlässigkeit der Scanner. Die Forscher stellen klar: Es gibt keine bekannte Technologie, die CSAM-Inhalte bei Hunderten von Millionen von Nutzern mit einer akzeptablen Genauigkeit erkennen kann.

• Leichte Umgehung (Evasion): Kriminelle können die Erkennung spielend leicht austricksen. Eine minimale Änderung einiger weniger Bits in einer Bilddatei genügt, um modernste Detektoren zu täuschen. Selbst wenn die Algorithmen geheim gehalten werden, funktionieren diese Umgehungsmethoden. Auch URLs lassen sich durch Weiterleitungsdienste trivial verschleiern.
• Extrem hohe Fehlerrate: Die Algorithmen produzieren zwangsläufig eine enorme Anzahl an „False Positives“ – also Falschmeldungen. Ein harmloses Urlaubsfoto, ein medizinisches Bild oder einvernehmliches „Sexting“ unter Teenagern könnte fälschlicherweise als CSAM markiert werden. Bei Milliarden von täglich geteilten Bildern würde selbst eine Fehlerrate von 0,01% zu Hunderttausenden unschuldigen Bürgern führen, die fälschlicherweise bei den Behörden gemeldet werden.
• Keine KI-Wunderwaffe: Auch der Einsatz von KI zur Erkennung unbekannten Materials ist keine Lösung. Die Wissenschaftler betonen, dass kein Machine-Learning-Algorithmus diese Aufgabe ohne eine große Anzahl von Fehlern bewältigen kann und fundamental anfällig für Umgehungsattacken bleibt.

2. Das Ende der sicheren Kommunikation: Wie die Chatkontrolle Verschlüsselung aushebelt

Die Verordnung behauptet, die Ende-zu-Ende-Verschlüsselung (E2EE) nicht zu schwächen. Die Experten bezeichnen dies als schlicht unmöglich und irreführend. E2EE ist das digitale Briefgeheimnis. Es garantiert, dass nur Sender und Empfänger eine Nachricht lesen können – niemand dazwischen, nicht einmal der Anbieter.

Das client-seitige Scannen bricht dieses Prinzip fundamental:

1. Zugriff vor der Verschlüsselung: Die Inhalte werden gelesen und analysiert, bevor sie überhaupt verschlüsselt werden. Das Kernversprechen von E2EE wird damit ad absurdum geführt.
2. Schaffung eines Generalschlüssels: Der Scan-Mechanismus wäre eine eingebaute Hintertür in jeder sicheren Kommunikation. Er wird zu einem zentralen Angriffspunkt („Single Point of Failure“) für Kriminelle und ausländische Geheimdienste. Wer diesen Mechanismus kontrolliert, kontrolliert die private Kommunikation von Millionen.

Die Konsequenzen sind verheerend. Nicht nur die Privatsphäre von Bürgern ist bedroht, sondern auch die Sicherheit von Journalisten, Menschenrechtsaktivisten, Politikern und sogar Strafverfolgungs- und Militärbehörden, die auf E2EE für ihre sichere Kommunikation angewiesen sind. Messenger-Dienst Signal hat bereits angekündigt, den EU-Markt zu verlassen, sollte dieses Gesetz in Kraft treten.

3. Die Büchse der Pandora: Das Risiko der Massenüberwachung und des „Function Creep“

Die Wissenschaftler warnen eindringlich davor, eine solche Überwachungsinfrastruktur überhaupt erst zu schaffen. Einmal etabliert, kann der Mechanismus technisch nicht auf CSAM beschränkt werden.

Es wäre trivial, die Scanner umzukonfigurieren, um nach anderen Inhalten zu suchen:

• Kritische politische Memes
• Urheberrechtlich geschütztes Material
• Finanzinformationen oder Geschäftsgeheimnisse
• Hinweise auf Protestorganisation

Der Brief verweist darauf, dass bereits jetzt Pläne existieren, den Anwendungsbereich in Zukunft wieder auf Text- und Audionachrichten (z.B. zur „Grooming“-Erkennung) auszuweiten. Dies öffnet Tür und Tor für eine schrittweise Ausweitung der Überwachung („Function Creep“), die in weniger demokratischen Regimen missbraucht werden könnte und die Grundrechte in Europa aushöhlt.

4. Scheinlösungen statt echter Hilfe: Warum auch Altersverifikation scheitert

Der Gesetzesvorschlag forciert auch den Einsatz von Altersverifikationssystemen. Auch hier sehen die Experten mehr Schaden als Nutzen. Die Erfahrungen aus Großbritannien mit dem Online Safety Act zeigen, dass solche Maßnahmen leicht umgangen werden können, beispielsweise durch die Nutzung von VPN-Diensten.

Schlimmer noch: Der Zwang zur Altersverifikation schafft einen Anreiz für Staaten, die Nutzung von Privatsphäre-schützenden Technologien wie VPNs zu verbieten. Dies würde nicht nur die Meinungs- und Informationsfreiheit bedrohen, sondern auch die IT-Sicherheit von Unternehmen gefährden, die VPNs für ihre tägliche Arbeit benötigen. Zudem untergräbt es das Prinzip der Online-Anonymität und könnte zur Erfassung immer weiterer persönlicher Daten führen.

Nicht nur „dagegen“: Das sind die konstruktiven Vorschläge der Wissenschaft

Die Unterzeichner des Briefes stellen klar, dass ihr Ziel der effektive Schutz von Kindern ist. Sie argumentieren jedoch, dass der Fokus auf einer fehlerhaften Überwachungstechnologie von den eigentlichen Ursachen und wirksameren Lösungen ablenkt. CSAM ist das Resultat von Missbrauch – daher muss die Bekämpfung beim Missbrauch selbst ansetzen, nicht nur bei der digitalen Verbreitung des Materials.

Anstelle der Chatkontrolle fordern die Experten die EU auf, in bewährte, von Organisationen wie der UN empfohlene Strategien zu investieren:

1. Bildung: Umfassende Aufklärung über Einvernehmlichkeit, Normen und Werte, digitale Kompetenz, Online-Sicherheit und Sexualkunde.
2. Trauma-sensitive Melde-Hotlines: Stärkung und Bewerbung von Anlaufstellen, an die sich Opfer und Zeugen leicht wenden können.
3. Keyword-basierte Interventionen: Gezielte Suche nach öffentlich zugänglichen Inhalten, die auf Täter hindeuten, anstatt der anlasslosen Massenüberwachung privater Chats.
4. Unterstützung von Opfern: Beschleunigte Bearbeitung von Meldungen und Bereitstellung schneller, effektiver Hilfe für Missbrauchsopfer.

Diese Maßnahmen bekämpfen die Wurzel des Problems, ohne die digitale Sicherheit und die Grundrechte aller Bürger zu gefährden.

Vergleichsmatrix: Chatkontrolle vs. Malware-Scanner

Oft wird argumentiert, das Scannen sei wie bei einem Virenscanner. Diese Analogie ist laut den Forschern grundlegend falsch.

Dimension	On-Device CSAM-Scanning (Chatkontrolle)	Malware-Scanner (Antivirus)
Zieldefinition	Kontextabhängig, subjektiv, nicht klar definierbar (Urlaubsfoto vs. Missbrauch)	Klar definierbare Bedrohungen (spezifischer Code, Signaturen)
Zuverlässigkeit	Extrem hohe Fehlerrate unvermeidbar	Hohe Zuverlässigkeit bei bekannten Bedrohungen
Konsequenz bei Fund	Automatische Meldung an Strafverfolgungsbehörden ohne Zustimmung des Nutzers	Nutzer wird informiert und entscheidet über weitere Schritte (löschen, karantäne)
Freiwilligkeit	Zwanghaft und für den Nutzer intransparent		Freiwillig, transparent und unter Kontrolle des Nutzers
System-Integrität	Schafft eine Hintertür für Strafverfolgungsbehörden und andere Akteure	Dient dem Schutz des Nutzers, keine eingebaute Hintertür für Dritte

Häufig gestellte Fragen zur Chatkontrolle-Kritik

1. Geht es hier nicht um ein wichtiges Ziel, den Schutz von Kindern? Ja, absolut. Die Wissenschaftler teilen dieses Ziel uneingeschränkt. Ihre Kritik richtet sich nicht gegen das Ziel, sondern gegen die vorgeschlagene Methode, die sie für unwirksam, gefährlich und kontraproduktiv halten. Sie argumentieren, dass die Chatkontrolle mehr schadet als nützt und von bewährten Schutzmaßnahmen ablenkt.
2. Warum kann man die Technik nicht einfach verbessern? Die Probleme sind laut den Forschern fundamentaler Natur und nicht einfach durch bessere Algorithmen lösbar. Die kontextuelle Natur von CSAM (was ist Kunst, was ist Missbrauch?) und die Leichtigkeit, mit der digitale Inhalte minimal verändert werden können, setzen der Technologie inhärente Grenzen.
3. Ich habe doch nichts zu verbergen. Warum sollte mich das stören? Erstens kann jeder durch Falschmeldungen ins Visier der Ermittler geraten. Zweitens untergräbt die Zerstörung der sicheren Verschlüsselung die Sicherheit aller – auch die Ihrer Bankdaten, Geschäftsgeheimnisse und der nationalen Sicherheit. Privatsphäre ist ein Grundrecht und die Basis einer freien, demokratischen Gesellschaft, kein Luxus für Leute, die „etwas zu verbergen haben“.
4. Wird die Verschlüsselung nicht nur von Kriminellen genutzt? Nein. Ende-zu-Ende-Verschlüsselung schützt die alltägliche Kommunikation von Milliarden von Menschen. Sie wird von Journalisten in autoritären Regimen, von Ärzten, Anwälten, Politikern und Unternehmen genutzt, um vertrauliche Informationen zu schützen. Sie ist ein Eckpfeiler der digitalen Sicherheit.
5. Welche Dienste wären von der Chatkontrolle betroffen? Potenziell alle Dienste, die Kommunikation ermöglichen. Dazu gehören Messenger wie WhatsApp, Signal, Telegram und Threema, aber auch E-Mail-Anbieter, soziale Netzwerke mit Direktnachrichtenfunktionen und sogar Online-Spiele mit Chat-Funktion.
6. Gibt es bereits Länder mit einer solchen Überwachung? Ein derart umfassendes, verpflichtendes client-seitiges Scannen privater, verschlüsselter Kommunikation wäre weltweit beispiellos und würde die EU in Sachen digitaler Überwachung auf eine Stufe mit weitaus weniger demokratischen Staaten stellen.
7. Was kann ich als Bürger tun? Informiere dich und andere über die Gefahren dieses Gesetzesvorhabens. Sprich mit deinen politischen Vertretern auf nationaler und EU-Ebene und mache deutlich, dass du sowohl den Schutz von Kindern als auch den Schutz deiner digitalen Grundrechte ernst nimmst. Unterstütze Organisationen, die sich für digitale Bürgerrechte einsetzen.

Fazit EU Chatkontrolle 2025: Europas digitales Schicksal am Scheideweg

Der offene Brief von über 600 der klügsten Köpfe in der Computer- und Sicherheitsforschung ist mehr als nur eine technische Stellungnahme. Er ist ein Weckruf. Die EU steht vor einer fundamentalen Entscheidung: Verfolgt sie einen Weg des technologischen Autoritarismus, der unter dem Deckmantel der Sicherheit die Grundpfeiler unserer digitalen Gesellschaft einreißt? Oder besinnt sie sich auf ihre Werte und investiert in wirksame, grundrechtskonforme Maßnahmen, die Kinder wirklich schützen, ohne 450 Millionen Bürger unter Generalverdacht zu stellen?

Die wissenschaftliche Evidenz ist erdrückend. Die geplante Chatkontrolle ist ein gefährliches Experiment mit der digitalen Freiheit und Sicherheit aller Europäer. Sie bietet eine Scheinsicherheit, die durch leicht umgehbare Technik und die Zerstörung der sicheren Kommunikation erkauft wird. Die von den Experten vorgeschlagenen Alternativen – Prävention, Bildung und gezielte Strafverfolgung – sind der schwierigere, aber einzig nachhaltige und richtige Weg.

Die Botschaft der Wissenschaft an die Politik ist unmissverständlich: Stoppt diesen gefährlichen Gesetzesentwurf. Hört auf die Experten und lasst uns gemeinsam an echten Lösungen arbeiten, die Kinder schützen, ohne die Freiheit und Sicherheit von uns allen zu opfern. Die Zukunft des digitalen Europas hängt davon ab.

---

Quellen und weiterführende Literatur

1. Der vollständige offene Brief der Wissenschaftler (Stand: 10. September 2025): https://csa-scientist-open-letter.org/Sep2025
2. Netzpolitik.org

#Chatkontrolle #StopScanningMe #E2EE #Datenschutz #Massenüberwachung #KINEWS24 #Tech2025 #Netzpolitik