FM4-Logo

jetzt live:

Aktueller Musiktitel:

Spionin Emoji

Radio FM4

Erich Moechel

US-„Chatkontrolle“ nun mit Ausnahme für E2E-Verschlüsselung

Die US-Regelung zum Kinderschutz sieht ein Entschlagungsrecht bei Durchsuchungsbefehlen für E2E-Provider vor, da diese keinen Zugriff auf die geforderten Daten haben. Die in der EU und im UK geplanten Regelungen fordern von WhatsApp und Co hingegen den Einbau von Hintertüren.

Von Erich Moechel

Im britischen Unterhaus ufert das Überwachungsgesetz „Online Saftey Bill“ immer weiter aus. Nach Einarbeitung der Änderungsanträge vom Wochenanfang ist die britische „Chatkontrolle“ mit 255 Seiten nun völlig unübersichtlich. Zudem hatten sich Abgeordnete beider Großparteien zuletzt in teils absurde Überwachungsforderungen verstiegen.

Etwas anders steht es um das US-Gesetz zum Kinderschutz im Netz. Der Entwurf hat nur 30 Seiten und darin finden sich nun zwei neue Bestimmungen, die zumindest Ende-zu-Ende-verschlüsselte Kommunikationen von der rigiden Überwachungspflicht auszunehmen. Da dieses Gesetz alle US-Internetkonzerne betrifft, wird es auch die EU-Regelung maßgeblich beeinflussen.

Screenshot

US Kongress

Diese Passage auf Seite 19 der geplanten US-Regelung zum Kinderschutz im Internet ist nicht leicht zu finden, da sie nicht in unter den Bestimmungen für Strafverfolger gelistet ist. Sie findet sich vielmehr im zweiten Drittel unter „Section 7 Independent Research.“ Und das hat seine Gründe (siehe unten).

Entschlagungsrecht für E2E-Provider

Nach dem Start 2020 hatte die Vorläuferversion US EARN IT Act keine Mehrheit im Senat gefunden. Etwa zeitgleich mit der EU-Chatkontrolle, Anfang 2022 wurde es abgeändert und wieder auf die Agenda im Senat gesetzt.

Dem Einspruch einer Plattform gegen einen Durchsuchungsbefehl sei dann stattzugeben, wenn die Plattform selbst keinen Zugriff auf die Datensätze hat, heißt es da. Das ist mehr als ein bloßes Einspruchsrecht, sondern ein Recht auf Entschlagung und entspricht den seit Jahren üblichen Usancen im Umgang von Strafverfolgern, seitdem es E2E-Verschlüsselung gibt. Die nächste Passage geht aber darüber noch hinaus, denn Plattformbetreiber können sich ebenfalls auf das Entschlagungsrecht berufen, „wenn durch den Zugang zu den Datensätzen signifikante Lücken in der Sicherheit dieses Plattform-Dienstes“ hervorgerufen würden.

Auch das bezieht sich direkt auf E2E-Verschlüsselung, deren hohe Sicherheit ja darin besteht, dass der Aufbau einer verschlüsselten Verbindung direkt zwischen den beteiligten Browsern oder Apps auf den Endgeräten ausgehandelt wird. Da die Plattform daran nicht beteiligt ist, kann von dort aus auch nicht auf die Kommunikationen zugegriffen werden. In der ursprünglichen Version als EARN IT Act war ein solches Entschlagungsrecht dezidiert nicht vorgesehen. Im Gegenteil, denn schon im Titel „Eliminating Abusive and Rampant Neglect of Interactive Technologies Act“ wurde den Anbietern von E2E unterstellt, dass sie mit interaktiven Technologien notorisch Schindluder betreiben würden.

US Congress Federal Agencies

US Congress Federal Agencies

Hier wird noch einmal darauf verwiesen, dass Strafverfolger keinesfalls Zugriff auf diese Rohdatensätze haben dürfen, sondern ausschließlich „unabhängige Forscher“. Es sind also Zivilpersonen, die das von den Algorithmen ausgeworfenen Bild- und Videomaterial nach Darstellungen von Kindesmissbrauch vorsortieren werden. Nur das Ergebnis geht dann an die Strafverfolger.

Schmutzarbeit an Zivile ausgelagert

Ein Vergleich der EU-Verordnung mit der britischen „Online Safety Bill“ und dem US-Gesetz zur Sicherheit von Kindern im Netz zeigt erstaunliche inhaltliche wie methodische Parallelen. Aktuell sind alle drei Vorhaben auf dem Weg durch die Parlamente.

Warum diese Passage ausgerechnet auf „unabhängige Forscher“ zugeschnitten ist und eben nicht auf Strafverfolger, erklärt der Ansatz des Gesetzes. Wie auch in der EU-Verordnung und im UK werden die Datensätze mit den „Treffern“, die von den Big-Data-Maschinen ausgespuckt werden, nicht direkt bei den Polizeibehörden, sondern zuerst bei zivilen Instanzen landen. Im europäischen Fall ist es das „EU-Centre“, das auf dem Europol-Gelände entstehen soll, also eine neue bürokratische Instanz. Die USA setzen hingegen auf Vereine und Kinderschutzorganisationen, um die eigentliche Schmutzarbeit zu erledigen. Die besteht darin, aus dem Wust von Bildern oder Videos, die Fotos von Strandurlauben, Sportveranstaltungen, Pfadfinderlagern oder die intimen Bilder von (jungen) Erwachsenen aussortieren müssen.

KI-Algorithmen produzieren unweigerlich falsche Treffer, wenn die KI in Daten von menschlichem Verhalten Wahrscheinlichkeiten berechnen sollen, etwa ob Bilder oder Videos den Tatbestand der „Kinderpornographie“ erfüllen, dann gehen die falschen Treffer durch die Decke. Auf beiden Seiten des Atlantiks kommen die Polizeibehörden aktuell nicht damit nach, das Material zu sichten, das schon jetzt auf freiwilliger Basis von den KI-Anwendungen der Internetkonzerne angeliefert wird. Die Raten falscher Treffer bewegen sich in Größenordnungen jenseits von 80 Prozent, auch wenn das die EU-Beamten, die für den Text der EU-Regulierung verantwortlich sind, noch so oft bestreiten. Wenn nun die Internetkonzerne verpflichtet werden, alle Interaktionen auf ihren Plattformen rund um die Uhr zu scannen, dann fallen um Zehnerpotenzen mehr - falsche wie echte - Treffer an, die überprüft werden müssen.

Screenshot

US Conservative Party

Als Stimme der Vernunft trat in Großbritannien ausgerechnet der erzkonservative Abgeordnete David Davies auf, der seit 1987 im britischen Unterhaus sitzt. Davies, ein Fossil aus der Thatcher-Zeit, hatte schon einmal die Wiedereinführung der Todesstrafe gefordert, war später Brexit-Minister und trat aus Protest gegen die weiche Linie von Premierministerin Teresa May zurück. Am Montag reichte Davies einen Änderungsantrag im Unterhaus gegen das De-Facto Verbot sicherer Verschlüsselung ein und warnte vor wirtschaftlichen Konsequenzen. Der Text der Online Safety Bill in seiner jüngsten Iteration.

Anarchy in the UK

In der europäischen Regulierung erhalten statt unabhängigen Forschern die Mitarbeiter eines neu zu schaffenden EU-Centre Zugriff auf die abgefangenen Rohdatensätze.

Im britischen Unterhaus hatten sich die Abgeordneten beider Großparteien am Montag an starken Worten und Drohungen an Internetkonzerne förmlich überboten. Kulturministerin Michelle Donelan (Konservative) hatte den Internetkonzernen Milliardenstrafen angedroht, wenn nicht-erlaubte Inhalte Kindern zugänglich seien. Damit sind Zugangssperren für gewöhnliche Porno-Websites gemeint, die auch für Labour ein solches Anliegen sind, dass gefordert wurde, VPN-Anbieter(„Virtual Private Networks“) in die Pflicht zunehmen. Denn damit könnten Kinder die Altersbeschränkungen ja umgehen. Die Labour-Abgeordnete Margaret Hodge wiederum reichte einen Änderungsantrag ein, in dem die CEOs der Internetkonzerne persönlich haftbar gemacht werden sollten: „Wir wissen, dass die Direktoren persönlich die Entscheidungen treffen, um illegale Inhalte zu verstärken und zu verbreiten“.

Auf diesem Niveau läuft die Debatte Über Kinderschutz in Großbritannien und dabei wächst das Gesetz langsam ins Monströse. Die Parlamentarier sind offenbar von Teilen des britischen Boulevards derart getrieben, dass es sogar dem Leitartikler des nationalkonservativen Daily Telegraph zuviel wurde. Großbritannien sei dabei, in ein System schlafzuwandeln, das viel rigider als das geplante europäische oder amerikanische ausgefallen sei, warnte das wegen seiner Nähe zu den Konservativen „Torygraph“ genannte Blatt. Das Königreich werde am Ende dann mit drakonischsten System der freien Welt dastehen.

Die Auswirkungen auf die EU-Regelung

Da es sich bei fast alle Internetkonzernen, die unter die geplanten EU-Regulierungen fallen, um Unternehmen aus den USA handelt, stehen die US-Gesetze natürlich in Wechselwirkung mit dem Unionsrecht. Beim derzeitigen Stand der Verfahren könnten etwa WhatsApp, SnapChat oder Signal ihre Messaging-Dienste in den USA unverändert weiter anbieten. Für den EU-Raum und Großbritannien aber müssten diese und eine Reihe weiterer US-Anbieter ihre gesamte E2E-Sicherheitsarchitekturen um- und Hintertüren einbauen, um der europäischen Durchsuchungspflicht zu entsprechen. Angesichts des Kurses der Präsidentschaft Joe Bidens wird das unweigerlich als protektionistische Maßnahme ausgelegt werden und Gegenmaßnahmen zur Folge haben.

Der RSS-Feed zu diesem Blog. Sachdienliche Informationen, Metakritiken et al. sind über dieses Formular verschlüsselt und anonym beim Autor einzuwerfen. Wer eine Antwort will, gebe tunlichst eine Kontaktmöglichkeit an.

Aktuell: