EU-Kontrollausschuss blockt Verordnung zur Chat-Überwachung

Ein geleaktes Gutachten aus dem Kontrollausschuss der Kommission zeigt, dass es die Beamten des Innenressorts der Kommission in 18 Monaten nicht geschafft haben, einen gesetzeskonformen Entwurf vorzulegen.

Von Erich Moechel

Die für Ende März angekündigte Publikation der Verordnung zur automatisierten Überwachung von Chats wurde schon wieder verschoben. Diese vorgeblich gegen Kindesmissbrauch gerichtete Verordnung ist inzwischen 18 Monate in Verzug. Ein aktuelles Leak zeigt nun den Grund für diese Aufschubserie.

Die für den Kommissionsentwurf verantwortlichen Beamten konnten nämlich bis jetzt keinen Text vorlegen, der den Minimalanforderungen des EU-Ausschusses für Regulierungskontrolle entspricht. Sein Gutachten zum Entwurf hat dieser Ausschuss, der alle neuen Verordnungen begleitet, zwar diplomatisch formuliert, inhaltlich ist es vernichtend.

Übersetzung aus dem Diplomatischen

Der Entwurf sei zwar „substanziell verändert und in vielen Bereichen verbessert worden“ und werde deswegen grundsätzlich positiv beurteilt, heißt es da einleitend. Allerdings mit Einwänden („Reservations“) zu „signifikanten Mängeln“, von denen der Ausschuss annehme, dass sie beseitigt werden würden. Die wichtigsten vier Einwände in der Zusammenfassung (siehe Screenshot) sind zwar sehr zurückhaltend formuliert, aber ein „signifikanter Mangel“ ist nun einmal Ausschließungsgrund. Der Auschuss für Regulierungskontrolle der EU-Kommission stellt damit fest, dass das für den Entwurf verantwortliche Generaldirektorat der Kommission die Rechtsvorgaben der Union nicht eingehalten hat.

Einwand zwei betrifft die im Entwurf gelisteten technischen Optionen, um noch unbekanntes Material von Kindesmissbrauch und sogenanntes „Grooming“ durch Erwachsene zu entdecken. Damit ist klar, dass dieser Entwurf aus dem Innenressort von Kommissarin Ylva Johansson flächendeckendes Scanning sämtlicher Textchats samt Bildern und Videos auf Kindesmissbrauchsmaterial vorschreibt. Der Ausschuss verweist in seinem Gutachten auf das im EU-Raum geltende Verbot einer generellen Überwachungspflicht für Kommunikationen aller Art. Unbekanntes Material von Kindesmissbrauch wiederum lässt sich nur automatisiert entdecken, indem Algorithmen eines KI-Programms den gesamten Wust an Daten rastern und Wahrscheinlichkeiten errechnen, welche Bilder, Videos oder Konversationen auf Kindesmissbrauch verweisen.

Unter Anfangsverdacht durch Algorithmen

KI-Anwendungen im Bereich Strafverfolgung werden von der Kommission selbst als „Hochrisikoanwendungen“ eingestuft, für die in der kommenden KI-Richtlinie der EU signifikante Auflagen vorgesehen sind. Die hohen Fehlerraten - nämlich falsche Treffer - dieser noch in den Kinderschuhen steckenden Technologie sind in der Kommission inzwischen wohlbekannt, nur bis ins Innenressort Ylva Johanssons haben sie sich offenbar noch nicht herumgesprochen. Dabei sieht der Entwurf vor, dass ab einer gewissen Anzahl solcher „Treffer“ die betreffenden Datensätze automatisch an die Strafverfolger weitergegeben werden. Das heißt, ein Algorithmus errechnet die Wahrscheinlichkeit, ob dieses Material einen Anfangsverdacht rechtfertigt.

Offenbar werden im Entwurf mehrere „Lösungen“ genannt, mit welcher Methode die Chats abgegriffen werden sollten, eine davon muss als bevorzugt beschrieben sein. Der Ausschuss bemängelt nämlich in Punkt drei, „dass die Effizienz und Ausgewogenheit der bevorzugten Lösung nicht genügend begründet wird“. Diese „bevorzugte Lösung“ besteht bekanntlich darin, die Inhalte vor dem Aufbau einer End-to-End verschlüsselten Verbіndung auf dem Smartphone zu scannen. Diesen Ansatz des „Client Side Scanning“ hatten ein Dutzend der weltweit bekanntesten akademischen Kryptographen im vergangenen Herbst sicherheitstechnisch in der Luft zerrissen (siehe nächsten Link). Wie diese „signifikanten Mängel“ aber beseitigt werden könnten, wenn sie den gesamten Ansatz dieser Verordnung betreffen, verrät der Ausschuss zur Regulierungskontrolle freilich nicht.

Luftnummern statt Zahlen samt Vertuschung

Und dann sind da noch laufende und einmalige Kosten, die für den Ausschuss nicht „genau genug“ beschrieben sind. Das betrifft die geplante Einrichtung eines EU-Zentrums gegen Kindesmissbrauch, über das diese Scans durch Apple, WhatsApp und Co auf den Smartphones und PCs ihrer Kunden laufen sollen. Dies geschieht angeblich, um Missbrauch durch die Betreiber der Chat- und Messengerdienste beim Scanning zu verhindern. Die Tabelle zeigt einen regelrechten Zahlenschwindel, der im Namen des „Bürokratieabbaus“ da geplant ist.

So sollten die laufenden Kosten für Industrie und Behörden, die durch die einzelnen Maßnahmen und Betrieb des Missbrauchscenters jährlich enstehen, nicht unter die üblichen detaillierten Kosten/Nutzenrechnungen und Qualitätskontrollen fallen, sondern durch ein „one in one out“-Verfahren ersetzt werden (siehe Screenshot), in dem zum Beispiel die laufenden Kosten für die Kommission nicht mehr einzeln ausgewiesen werden und daher nicht überprüfbar sind. Man will also gar nicht näher wissen, wie die 820 Millionen Euro Kosten zustande kommen, die aus dem EU-Budget jährlich fällig werden. Dafür weiß man schon jetzt, dass die flächendeckende Überwachung von Chats für „Verbrechensreduzierung“ sorgen und dadurch jährliche Einsparungen von ungefähr 3,488 Milliarden Euro bringen würde.

Wie es (nicht) weitergeht

Als neues Publikationsdatum wird mittlerweile der 27. April genannt. Eine Verordnung, die schon vom Ansatz her und den Methoden in jeder Beziehung gegen geltendes EU-Recht verstößt, soll also binnen eines Monats auf Gesetzeskonformität getrimmt werden. Daran glaubt wohl nicht einmal mehr die zuständige Kommissarin un Initiatorin Ylva Johansson.