FM4-Logo

jetzt live:

Aktueller Musiktitel:

Symbolbild Künstliche Intelligenz: Menschliches Kopf vermixt mit Halbleitern

CC0

Erich Moechel

Neue KI-Verordnung mit „Kompromissen“ beim Datenschutz

Mehr „Flexibilität bei Hochrisiko-KI-Systemen“, Aufsichtsinstanzen wurden gestrichen, „weniger strenge Anforderungen“ und Ausnahmen, nicht beherrschbare Risiken werden in Kauf genommen.

Von Erich Moechel

Die französische Ratspräsidentschaft hat ihren Fortschrittsbericht zur kommenden Verordnung „Festlegung harmonisierter Vorschriften für künstliche Intelligenz“ vorgelegt. Dieser Bericht lässt kaum Zweifel offen, in welche Richtung dieser Fortschritt geht.

Mehr „Flexibilität für Anbieter von Hochrisiko-KI-Systemen“ durch „weniger strenge Anforderungen“, heißt es da und, dass dafür „Kompromisse“ in den Bereichen „Schutz der Privatsphäre oder Fairness“ erforderlich seien. Diese Verordnung greift nämlich tief in die bestehenden Daten- und Konsumentenschutzgesetze ein.

Text-Auszug

EU Ministerrat

Während die aktuellen Verordnungsentwürfe mit starkem KI-Bezug - wie etwa jene gegen Kindesmissbrauch - absichtlich in hochabstraktem Wording gehalten sind, macht dieser Fortschrittsbericht die Analysearbeit relativ leicht. Sehr übersichtlich werden da alle Änderungswünsche der Industrie aufgezählt, denn dieser Bericht zur Vorlage an den Ausschuss der ständigen Vertreter aus den EU-Mitgliedsstaaten (COREPER), wurde nämlich vollständig aus der Perspektive der Industrie erstellt.

Wachstum, Innovation und Bürgerrechte

Europol, das US-Finanzministerium und auch die CIA setzen seit Jahren KI-Systeme beim Data-Mining in massiven Datensätzen aus dem SWIFT-System ein.

Gleich einleitend wird der eigenen Bearbeitung der KI-Verordnung durch die französische Ratspräsidentschaft ein „horizontaler und menschenzentrierter Ansatz“ bescheinigt, drei Absätze weiter steht bereits, wie das konkret gemeint ist. Angesichts „wichtiger anderer EU-Rechtsvorschriften wie etwa der DSGVO, des EU-Verbraucherschutzrechts usw.“ habe der französische Vorsitz „den Text überarbeitet, um ein Gleichgewicht zwischen dem notwendigen Schutz der Sicherheit und der Grundrechte und der Notwendigkeit, Wachstum, Wettbewerbsfähigkeit und Innovation zu fördern herzustellen“. Der französische Ratsvorsitz stellt nämlich Wachstums- und Gewinnaussichten der Industrie auf eine Stufe mit Grund- und Bürgerrechten.

Nach der Genese der Verordnung samt Querverweisen und „menschenzentriertem“ Eigenmarketing der Präsidentschaft ist das obige Zitat auf Seite fünf die erste Sequenz mit einer konkreten Aussage zum Inhalt der Verordnung überhaupt. Sie ist nachgerade typisch für den gesamten Text, der im Wesentlichen aus der Streichung von Sicherheitsmaßnahmen und Einführung einer ganzen Reihe von Ausnahmeregelungen besteht, wie die Passage im Screenshot unten zeigt. Wie noch bei allen offiziellen EU-Dokumenten, in denen es um die Interessen von Großunternehmen geht, werden an den kritischen Stellen stets KMUs vorgeschickt. So auch in diesem Fall.

Text-Auszug

EU Ministerrat

Flexibilität und Kompromisse beim Datenschutz

Unter den neuen Befugnissen für Europol ist auch die Analyse massiver personenbezogener Datensätze mit KI-Programmen

Hier werden KMUs zwar als Beispiel angeführt, gemeint sind aber alle „Interessensträger“, die „Hochrisiko-KI-Systeme“ betreiben. Als solche sind vor allem KI-Anwendungen in den Bereichen Gesundheit und Strafverfolgung definiert, da jede Fehlfunktion der Algorithmen bzw. jede Fehlinterpretation der Ergebnisse hier fatale Folgen nach sich ziehen kann. Derartige Software-Applikationen arbeiten mit Wahrscheinlichkeitsrechnungen, deren Ergebnisse nicht einmal vom Hersteller der betreffenden Softwares nachvollzogen werden können. Die Datengrundlage dafür bilden massive Datensätze mit millionenfachen Personenbezügen, die teils intimste Informationen über die Betroffenen enthalten.

Aus diesem Grund hatte die Kommission derlei als „Hochrisikoanwendungen“ definiert, für die besondere Sorgfaltspflichten gelten sollten. Die wurden nun von der französischen Ratspräsidentschaft nun systematisch abgeschwächt bzw. überhaupt gestrichen, um alle „Interessensträger“ zu entlasten. Und das sind typischerweise eben keine KMUs, sondern große Systemhäuser und internationalen Consulting-Firmen. Um diesen Unternehmen bei der Einrichtung von Risikomanagementsystemen „ein gewisses Maß an Flexibilität“ zu geben, seien eben „Kompromisse“ nötig und zwar in den Bereichen Daten- und Konsumentenschutz.

Text Auszug

EU Ministerrat

Nicht beherrschbare Risiken ignorieren

Die Überwachungspflicht geht über Chats weit hinaus, sie betrifft sämtliche Kommunikationsdienste im Netz

Was aber tun, wenn die Anforderungen für diese geplante Regulierung mit einer Reihe von bestehenden Gesetzen wie in diesem Fall kollidieren? Da werden nicht etwa die Anforderungen für diese neue Regulierung abgeändert, vielmehr sollten die „Kompromisse“ für bestehende Gesetze gelten. Die französische Ratspräsidentschaft verlangt damit also nichts weniger als Änderungen an der Datenschutzgrundverordnung und das ist auch der Grund, warum einzelne große Mitgliedsstaaten, wie Frankreich mit der Verordnung zu E-Privacy, die Neufassung des wichtigsten Konsumentenschutzgesetzes im Netz seit nunmehr sechs Jahren im Ministerrat blockieren.

„Ferner hat der französische Vorsitz präzisiert, welche Arten von Risiken von den Bestimmungen zum Risikomanagement erfasst sind“. Damit werde sichergestellt, dass Anbieter nur „solche Risiken im Zusammenhang mit der Entwicklung von KI-Systemen angehen müssen, bei denen sie angemessene und realistische Maßnahmen ergreifen können.“ Übersetzt heißt dieser an sich unfassbare Satz: Wenn Risiken bei einem Data-Mining-Prozess erkannt werden, die das betreffende Data-Mining-Unternehmen nicht in den Griff bekommt, dann ist das Unternehmen haftungsfrei gestellt und kann diese Risiken einfach ignorieren.

Text Auszug

EU Ministerrat

Streichungen, Ausnahmen, Transparenzpflicht

Big-Data-Analysetools für Strafverfolger werden gerade in zwei Innenministerien des EU-Raums zu Trainingszwecken der „künstlichen Intelligenz“ auf echte, großdimensionierte Datensätze losgelassen.

In dieser Tonart geht es weiter, was immer einer schnellen Umsetzung im Wege steht, wird entweder gestrichen oder mit einer Ausnahmereglung versehen. Im obigen Fall werden die vorgesehenen Aufsichtsinstanzen in den Mitgliedsstaaten aus dem Konzept gestrichen, dass die Mitgliedsstaaten Behörden ihrer Wahl als Kontrollinstanzen einsetzen können. Und weil es in einem Aufwaschen geht, wurden auch gleich die Fristen dafür verlängert. Das ist de facto eine Garantie dafür, dass solche Hochrisikoanwendungen gestartet werden, ohne dass die Voraussetzungen dafür erfüllt sind.

Damit auch die Strafverfolger nicht leer ausgehen, wurden die dafür relevanten Passagen „präzisiert und angepasst“. Will heißen, „in besonders dringenden Fällen“ können die Strafverfolger „Hochrisiko-KI-Systeme“ aller Art nach Belieben einsetzen, Genehmigungen können dann ex post beantragt werden. Und dann schlägt die Ratspräsidentschaft auch noch vor, bestimmte Hochrisikosysteme der Strafverfolger von den Transparenzpflichten auszunehmen, nämlich solche, die „zur Erkennung von Emotionen eingesetzt werden“. Das betrifft den Fall des berüchtigten „iBorderCtrl“-Systems, eines „Video-Lügendetektors“, der bei Grenzkontrollen bereits probeweіse eingesetzt wurde. Anhand der Mimik des Kontrollierten berechnet da eine „künstlicher Intelligenz“ (KI) die Wahrscheinlichkeit, dass die betreffende Person gerade lügt.

Text-Auszug

EU Ministerrat

Worüber es im Rat noch Bedenken gibt

Vor dem EuGH läuft seit zwei Jahren eine Musterklage des EU-Abgeordneten Patrick Breyer (Piraten/Grüne) gegen die Geheimhaltung des von der Kommission geförderten Video-Lügendetektors

Gerade an Projekten wie „iBorderCtrl“ wird deutlich, warum sie von der Kommission als „hochriskant" eingestuft werden und vor allem wer dieses Risiko dann trägt. Im Falle von KI-Anwendungen tragen ausschließlich die Betroffenen das Risiko, unter die berüchtigt hohen Fehlerraten dieser Technologie zu fallen, bei der nicht einmal nachvollziehbar ist, wie ein bestimmter Treffer zustande kam. Bedenken dazu gibt es auch im Rat, allerdings gelten die nicht den Betroffenen. Im Gegenteil, denn laut Ratspräsidentschaft sorgen sich einige Mitgliedsstaaten, dass unter den im Hochrisikobereich eingestuften Anwendungen auch KI-Systeme sein könnten, die wahrscheinlich keine schwerwiegenden Grundrechtsverletzungen oder andere erhebliche Risiken nach sich ziehen.“

Der RSS-Feed zu diesem Blog. Sachdienliche Informationen, Metakritiken et al. sind über dieses Formular verschlüsselt und anonym beim Autor einzuwerfen. Wer eine Antwort will, gebe tunlichst eine Kontaktmöglichkeit an.

Aktuell: