Klage auf Transparenz bei KI-Forschungsprojekten der EU

Die EU-Kommission verweigert jede Auskunft über drei aktuelle Forschungsprojekte, die sie mit 14,5 Millionen Euro fördert. Die Kommission selbst stuft sie als „Hochrisikoprojekte“ ein.

Von Erich Moechel

Am 5. Februar verhandelt der Europäische Gerichtshof (EU-GH) in Luxemburg über die Klage eines Europabgeordneten gegen die (Nicht)-Informationspolitik der EU-Kommission. Patrick Breyer (Grüne/Piraten) verlangt Auskunft über Forschungsprojekte zu “Künstlicher Intelligenz” (KI) im Bereich Strafverfolgung, die von der Kommission gefördert werden. Diesbezügliche parlamentarische Anfragen Breyrers blieben unbeantwortet.

Auch eine Anfrage von ORF.at nach drei laufenden KI-Projekten hatte die Kommission mit Allgemeinplätzen beantwortet und sich auf einen ominösen „Ethikrat“ berufen, der die Projekte überprüft und genehmigt habe. „Darlene“, „Infinity“ und „Aida“ sіnd mit 14,5 Millionen Euro dotiert und verarbeiten große Mengen an personenbezogenen Daten, in den Projektbeschreibungen werden weder Sicherheitsmaßnahmen, Datenschutz oder Ethik auch nur erwähnt. Eine zweite, detaillierte Anfrage von ORF.at an die Kommission läuft.

Der "Video-Lügendetektor”

Die Transparenzklage betrifft eine KI-Anwendung, die als “Video-Lügendetektor” bezeichnet und bei Einreisekontrollen in den EU-Raum getestet wurde. Auch dieses Forschungsprojekt war im Rahmen des Horizon2020-Programms von der Kommission gefördert worden. Patrick Breyer hatte bereits im März 2019 Klage auf Herausgabe unter Verschluss gehaltener Dokumente zur ethischen Bewertung, der rechtlichen Grundlage und den Ergebnissen der Technologie eingereicht. „Mit meiner Transparenzklage will ich ganz grundsätzlich klären lassen, dass der Steuerzahler, die Wissenschaft, Medien und Parlamente ein Recht auf Zugang zu öffentlicher Forschung haben“, so Breyer, das gelte ganz besonders für pseudowissenschaftliche Entwicklungen wie diesen orwellschen "Video-Lügendetektor“.

Dasselbe gilt für die drei neuen Forschungsprojekte, „Darlene“, „Infinity“ und „Aida“ , an allen drei ist Europol maßgeblich beteiligt. Aktuell ist die Kommission dabei, eine Rechtsgrundlage für Europol zu schaffen, denn das gibt die bisherige Verordnung nicht mehr. Die in Arbeit befindliche Neufassung der Verordnung (siehe nächster Screenshot) erweitert die Befugnisse der europäischen Polizeibehörde teilweise in Richtung eines Freibriefs. So soll Europol ermächtigt werden, mit Unternehmen Daten auszutauschen sowie „große und komplexe Datensätze prozessieren, um grenzüberschreitende Verbindungen zu entdecken“.

Herkunft der Trainingsdaten weiterhin ungeklärt

Übersetzt heißt das: Europol kann in massiven, personenbezogenen Datensätzen europäischer Bürger Datamining betreiben und diese Daten mit KI-Algorithmen auswerten. Ebenso soll Europol die Verabeitung personenbezogener Daten gestattet werden, wenn es um Forschungsprojekte und Innovationen für Strafverfolger geht. Vorgeschlagen wurde sogar, eine neue Kategorie von Datensubjekten einzuführen, nämlich um die Daten unbescholtener Bürger zu speichern und zu prozessieren. Genau diese Kategorie von Daten wird schon jetzt bei den drei aktuellen Big-Data-Projekten verarbeitet, denn alle solchen Anwendungen benötigen ausnahmslos von vornherein riesige Datensätze, um die Künstliche Intelligenz zu trainieren.

Bei keinem der Projekte ist allerdings davon die Rede, woher diese Daten stammen. Das ist nicht nur dem frühen Stadium dieser Projekte geschuldet, diese Vorgehensweise hat Methode. Ein viertes solches KI-Projekt namens „Insikt“, das im Rahmen des Horizon2020-Programms der Kommission gefördert und bereits abgeschlossen wurde, erweist sich nämlich auch nach drei Jahren als geradezu mustergültig intransparent. Von dem von Oktober 2017 bis März 2020 geförderten Projekt „Insikt“ ist kein einziges „Deliverable“ - was etwa „Zwischenresultat“ oder „Teilergebnis“ bedeutet - öffentlich einzusehen.

Hochrisikoprojekte bitte warten

Derselbe Ansatz prägt den gesamten Umgang der Kommission mit dem Komplex „künstliche Intelligenz“ und Strafverfolgung. Europol arbeitet seit mehr als einem halben Jahr an drei derartigen Projekten, teils sogar federführend mit. Die Kommission aber hat erst jetzt angefangen, die Rechtsgrundlage dafür durch eine Novelle zur Europol-Verordnung herzustellen. Wenn das im üblichen Brüsseler Tempo vor sich geht, dann wird die Verordnung erst in Kraft treten, wenn diese drei Projekte bereits in der zweiten Hälfte ihrer Laufzeit sind. Für März hat die Kommission eine Verordnung für „Hochrisikoprojekte“ im Bereich „künstlicher Intelligenz“ angekündigt. Als Hochrisikoprojekte wurden der Einsatz von KI und den damit einhergehenden Analysen massiver, personenbezogener Datensätze in den Bereichen „Gesundheit“ und „Strafverfolgung“ definiert.