Die EU-Kommission plant voraussichtlich die verpflichtende Chatkontrolle bei digitaler Kommunikation.
Im Kampf gegen Darstellungen von Kindesmissbrauch plant die EU-Kommission eine verpflichtende und automatische Überwachung privater Kommunikation einzuführen, die sogenannte Chatkontrolle. Diese auf künstlicher Intelligenz basierte Software soll verdachtsunabhängig und automatisch Nachrichten auf Handys und PCs nach missbräuchlichen Inhalten durchsuchen. Dabei wird die Verschlüsselung unterschiedlicher Messenger oder Videokonferenz-Anbieter umgangen. Die Inhalte sollen nämlich bereits vor dem Versenden und damit vor der Verschlüsselung mit den entsprechenden Datenbanken kinderpornographischer Inhalte abgeglichen werden. Verdachtsfälle werden dann automatisch mit Kontaktdaten und Nachrichteninhalten für die mögliche Strafverfolgung an die Behörden weitergeleitet.
Eines der größten Probleme dabei: Für die vorgeschalteten KIs gibt es kaum Regulierung, für ihre Fehleranfälligkeit gibt es keine Mindestanforderungen. Es kann also zu einer Vielzahl an fälschlich geflaggten Inhalten kommen.
Die Kommission schlug bereits 2020 eine Übergangsverordnung und Ausnahme der e-Privacy-Richtlinie von 2002 „zwecks Bekämpfung des sexuellen Missbrauchs von Kindern im Internet“, als Teil ihrer Strategie gegen Kindesmissbrauchs. Im Juli 2021 beschloss das Europäische Parlament mehrheitlich den Vorschlag über die sogenannte freiwillige Chatkontrolle. Die Übergangsverordnung ermöglicht Anbietern von Messanging-, E-Mail- oder Videokonferenzdiensten bereits jetzt schon über Algorithmen unverschlüsselte Kommunikation nach kinderpornographischem Material oder Hinweisen zu Kindermissbrauch zu durchsuchen. Die umstrittene Ausnahmeerlaubnis gilt allerdings nur bis Ende 2022. Bereits im Juli 2020 hat die zuständige Kommissarin für Inneres Ylva Johansson die verpflichtende Chatkontrolle in Betracht gezogen: „next year, the Commission will propose new legislation to make it mandatory for relevant internet and social media messaging companies to detect, report and remove materials, and refer them to appropriate authorities.“ Ende Oktober diesen Jahres konkretisierte der stellvertretende Generaldirektor für Inneres, Olivier Onidi, die Pläne der Kommission „alle Kommunikationsformen“ für die Chatkontrolle zu erfassen. Einige Medien berichteten, die Kommission zog laut Netzpolitik das geplante Veröffentlichungsdatum des Gesetzesentwurf von Anfang Dezember vorerst auf unbestimmte Zeit zurück. Im November bekam die verpflichtende Chatkontrolle jedoch weitere Unterstützung: Nachdem die EU-Innenminister*innenkonferenz bereits 2020 ein Verschlüsselungsverbot für Messenger forderte, wird der jüngste Vorstoß wenig überraschend begrüßt.
Kommentar Tobias B. Bacherle MdB
Tobias B. Bacherle, Mitglied des Bundestags für Bündnis 90/Die Grünen, kommentiert die mögliche Einführung einer verpflichtenden Chatkontrolle wie folgt: „Die Pläne der Kommission unter der Federführung von Innenkommissarin Ylva Johansson stellen nichts anderes als einen massiven Angriff auf unsere Grund- und Freiheitsrechte dar. Die automatische Chatkontrolle bedroht grundlegend unsere IT-Sicherheit und Privatsphäre – Ende-zu-Ende- verschlüsselte Messanger-Dienste wären damit Geschichte. Rechtsgutachten unterstreichen die Unvereinbarkeit einer solchen Technologie mit den europäischen Grundrechten.
Fehleranfällige künstliche Intelligenz und undurchsichtige Datenbanken helfen zudem nicht im Kampf gegen Kindesmissbrauch. Im Gegenteil: vertrauliche digitale Unterstützung und Beratung für Missbrauchsopfer wären damit wahrscheinlich nicht mehr in der heutigen Form möglich. Dies gilt insbesondere, wenn die Angst vor Victimshaming und Schuldumkehr von staatlicher Seite droht.
Gleichzeitig droht die hohe Fehlerwahrscheinlichkeit der Algorithmen für zahlreiche Falschmeldungen zu sorgen, wie das Schweizer Beispiel zeigt. Private Familienbilder von Kindern und die Kommunikation Jugendlicher geraten dabei Gefahr mit ihrer Kommunikation selbst ins Fadenkreuz der Ermittler zu gelangen.
Die ungeregelte Fehleranfälligkeit ist jedoch nicht nur eine Gefahr für die Privatsphäre, sondern für Menschen in Staaten, in denen aufgrund der sexuellen Identität oder Orientierung staatliche Repression drohen, eine substanzielle Bedrohung. Ein mögliches Zwangsouting gegenüber staatlicher Behörden kann in manchen Staaten eine echte Gefahr darstellen.
Eine verpflichtende allumfassende Chatkontrolle schafft zudem einen nie da gewesenen Präzedenzfall für die Überwachung unserer digitalen Kommunikation. Die Software, die Darstellungen von Kindermissbrauch erkennen soll, hat das naheliegende Potenzial mit entsprechenden Datenbanken auch gegen Urheberrechtsverletzungen und ungewollte politische Meinung verwendet werden. Wollen wir dem europäischen Anspruch gerecht werden ein Garant für Freiheit und Meinungsfreiheit zu sein, dürfen wir dürfen autoritären Staaten keine Blaupause für ihre Überwachungsphantasien liefern.
Das Vertrauen der Menschen in sichere Kommunikation ist in unserer Demokratie ein kostbares Gut und droht durch die Einführung der verpflichtenden Chatkontrolle massiv beschädigt zu werden. Im notwendigen Kampf gegen die Verbreitungen sexualisierter Kindesmissbrauchsdarstellungen gilt es vielmehr die klassische Ermittlungsarbeit der häufig überlasteten Polizei zu stärken. Eine personelle und technische Stärkung der Behörden und ein besserer Schutz der Opfer wären wesentlich zielführender.
Weitere Kritik am Vorhaben
Kritik kommt bisher überwiegend vom deutschen EU-Abgeordneten Patrick Breyer. Das Mitglied der Piraten-Partei und der Fraktion Die Grünen/Europäische Freie Allianz setzt sich vehement gegen die Pläne der Kommission ein. Breyer verweist auf die technischen Risiken aufgrund der hohen Fehleranfälligkeit der Künstlichen Intelligenz. In der Schweiz seien laut Aussage der Schweizer Bundespolizei nur rund 14% der gemeldeten Fälle strafrechtlich relevant gewesen. Vor allem fürchtet er „Massenüberwachung durch vollautomatisierte Echtzeit-Chatkontrolle und damit die Abschaffung des digitalen Briefgeheimnisses.“
Auch MdEP Moritz Körner von der FDP hat sich gegenüber watson gegen die Ausweitung der Chatkontrolle ausgesprochen: „Alle Nachrichten auf WhatsApp und Co. aller Bürger würden rund um die Uhr überwacht werden. Das digitale Briefgeheimnis wäre damit de facto tot.“
Datenschützer wie der Sprecher des Bundesbeauftragten für den Datenschutz und Informationsfreiheit Christof Stein haben die Sorge, dass die Ausweitung der Chatkontrolle für die Verfolgung von Kindesmissbrauchsdarstellungen nicht hilfreich ist. „Es bringt nichts, den Strafverfolgungsbehörden mehr Eingriffsbefugnisse zu geben, sie brauchen mehr Personal und Mittel, um die Straftaten zu verfolgen.“, äußert sich Stein gegenüber Business Insider.
Die Gesellschaft für Informatik kritisiert die Pläne ebenfalls: „Mit der geplanten Regelung verstößt die EU-Kommission gegen die Grundrechte der Bürgerinnen und Bürger, die in der Europäische Grundrechtecharta (GRCh) garantiert werden: insbesondere Artikel 7 (Achtung des Privat- und Familienlebens), Artikel 8 (Schutz personenbezogener Daten) und Artikel 11 (Meinungsäußerungsfreiheit und Informationsfreiheit) garantieren grundsätzlich vertrauliche Kommunikation.“
Klimaschutzaktivist Maurice Conrad äußert sich auf Twitter: „Auf EU Ebene wird übrigens gerade die verpflichtende #Chatkontrolle vorbereitet: Hersteller müssen auf Smartphones verdachtsunabhängig eure Nachrichten scannen. Erkennt die KI eine Straftat, wird eine eine Anzeige beim BKA gegen euch gestellt. Klingt gruselig?” Zum Thread
Das Rechtsgutachten von Prof. Dr. Ninon Colneric, in Auftrag gegeben von der Fraktion Die Grünen/Europäische Freie Allianz, kommt zu folgendem Fazit: “EU legislation obliging providers of number-independent communications services (i.e. e-mail, messaging, chat) to generally and indiscriminately screen the content of all private correspondence for ‘child pornography’ and report hits to the police would not comply with the fundamental rights guaranteed by Articles 7, 8, 11 and 16 of the Charter.”
Auswahl Presseberichte
02.11.2021 BILD Big-Brother-Angriff der EU auf unsere Handys
04.11.2021 Netzpolitik Warum die Chatkontrolle so gefährlich ist
08.11.2021 Heise online EU möchte totale Chat-Kontrolle
05.11.2021 Business Insider EU-Kommission will Chatprogramme wie Whatsapp schärfer kontrollieren: Künstliche Intelligenz soll private Nachrichten mitlesen
05.11.2021 Schweriner Volkszeitung Whatsapp, Signal, E-Mail: So will die EU alle privaten Nachrichten überwachen
06.11.2021 Watson Kontrolle über jeden privaten Chat? Wie die Europäische Kommission gegen Kindesmissbrauch vorgehen will – und warum das für Entrüstung sorgt
13.11.2021 Zeit Online Kein Chat zu geheim
Hintergrund Chatkontrolle
Mithilfe der sogenannten Client-Side-Scanning (CSS) Technologie können bestimmte Dateien vor der Verschlüsselung und Versendung auf den digitalen Endgeräten wie Handys und Computer durchsucht werden. Laut renommierten IT-Sicherheitswissenschaftler*innen verhindere das CSS jedoch weder effektiv Straftaten noch beuge es Überwachung vor. Im Gegenteil, es berge über zahlreiche Möglichkeiten des Missbrauchs und technischen Versagens weitreichende gesellschaftliche Sicherheits- und Datenschutzrisiken. Die Forscher*innen stellen die Technik mit dem gezielten Abhören von Endgeräten gleich, ein Verbot von Massenüberwachung müsse daher auch das CSS miteinschließen. Die Ausführung von CSS auf dem Client-Gerät sei nicht sicher und damit eine gravierende Schwachstelle, die Missbrauch ermögliche. Netzpolitik mutmaßt, dass die technischen Details zur geplanten Scanpflicht nicht im Gesetzesentwurf enthalten sein werden, ähnlich wie beim Umgang mit terroristischen Inhalten. Technische Ansätze zur Umsetzung gibt es laut Netzpolitik mit der PhotoDNA-Software von Microsoft und der Datenbank der US-Organisation National Center for Missing and Exploited Children (NCMEC). Der Konzern Apple plant ebenfalls mithilfe Client-Side-Scanning die Abgleichung von Inhalten mit der Datenbank, stoppte nach Protesten jedoch vorerst damit.