KI-Regulierung vor Finalisierung im EU-Ministerrat

120 Bürgerrechts- und Konsumentenschutz-Organisationen beobachten den Prozess mit Argusaugen. Diese schwierigen Regulierungen gehen nämlich direkt an die menschliche Substanz.

Von Erich Moechel

Die slowenische Ratspräsidentschaft hat nach einem wackeligen Start gegen Ende nun doch geliefert. In der vergangenen Woche wurde der erste Ratskompromiss zur Regulierung von Künstlicher Intelligenz (KI) im Rat vorgelegt. Der noch inoffizielle Text des Ministerrats macht bereits einen weitgehend akkordierten Eindruck.

Im EU-Parlament ist man jedenfalls darauf vorbereitet, dass die fertige Ratsposition nach Jahresbeginn zu erwarten ist. Parlamentsausschüsse wie Berichterstatter sind bereits bestimmt. Parallel dazu hat sich eine Koalition aus 120 digitalen Bürgerrechts-NGOs und Konsumentenschützern formiert, die das Prozedere buchstäblich mit Argusaugen beobachten wird.

Die letzten Änderungen im Text

Das geschieht mit gutem Grund, denn die Technologien und Methoden, die in der KI zum Einsatz kommen, gehen direkt an die Conditio Humana, an die menschliche Substanz. Das gilt vor allem dann, wenn menschliche Verhaltensweisen erfasst oder biometrische Daten verarbeitet werden und Algorithmen daraus Wahrscheinlichkeiten errechnen, von denen nicht einmal die Systembetreiber wissen, wie diese Ergebnisse zustande gekommen sind. Diese Nicht-Nachvollziehbarkeit ѕollte auch der Hauptgrund dafür sein, dass im Ministerrat bei dieser Regulierung etwas vorsichtiger vorgegangen wird, als bei anderen Regelungen mit Bezug auf Strafverfolgung bzw. Überwachung.

Ganz ohne Zugeständnisse an die Staatsorgane geht es freilich nicht. Neu im Text ist der explizite Ausschluss von Anwendungen für die nationale Sicherheit von der Regulierung, das heißt den Militärs werden überhaupt keine Beschränkungen auferlegt. Ebenso ist wissenschaftliche Forschung per se ausgenommen, allerdings nur, wenn es sich um reine Forschung handelt und nicht im Anschluss Produkte daraus entwickelt werden. Diese Regelung betrifft mindestens drei laufende KI-Projekte für Strafverfolger, die von der EU-Kommission gefördert werden.

„Transparenz könnte Vermarktung gefährden“

Sämtliche KI-Anwendungen für Strafverfolger fallen in der kommenden Verordnung in die Kategorie „Hochrisiko“. Bis jetzt hatte die Kommission allerdings solche Projekte aus Mitteln der Forschungsförderung, also aus Steuergeldern finanziert. Regeln dafür gab und gibt es dafür keine, obwohl alle diese Projekte explizit darauf ausgerichtet sind, dass am Ende fertige Produkte für Strafverfolger stehen. Gegen ein solches Projekt, das bereits abgeschlossen ist, läuft eine Musterklage des EU-Abgeordneten Patrick Breyer (Piraten/Grüne) vor dem EU-Gerichtshof (EuGH.) "iBorderCtrl“ ist ein auf KI basierender „Video-Lügendetektor“ zum Einsatz bei Grenzkontrollen, der anhand der Mimik erkennen soll, ob Personen lügen.

Dieses orwellianische Albtraum-Programm wurde nachweislich bereits an europäischen Grenzübergängen getestet. MEP Patrick Breyer hatte auf Veröffentlichung der Ergebnisse des Projekts „Video-Lügendetektor“ geklagt, nachdem seine parlamentarischen Anfragen dazu nicht beantwortet worden waren. Auch zwei Anfragen von ORF.at zu den drei laufenden EU-geförderten KI-Projekten „Infinity“, „Darlene“ und ’Aida" wurden ausweichend bis nicht beantwortet, mit der Begründung, dadurch werde das geistige Eigentum der teilnehmenden Unternehmen und damit die Vermarktung der Technologie gefährdet. Im übrigen wache über all diese Projekte ohnehin ein Ethikrat, dessen Zusammensetzung man allerdings nicht bekanntgeben könne.

Ausblick: Alles sehr kompliziert

Bei einer solchen Einstellung in Teilen der Kommission ist es nicht verwunderlich, dass Daten- und Konsumentenschützer das Werden dieser Regulierung mit Argusaugen verfolgen. Dementsprechend umfangreich ist die gemeinsame Erklärung ausgefallen, nicht ganz überraschend werden da durch die Bank Verschärfungen und Klarstellungen gefordert, die vor allem Artikel 5 betreffen. Doch auch sonst wurde eine ganze Reihe von Passagen identifiziert und aufgelistet, die nicht präzise genug formuliert sind, um unerwünschte Implikationen auszuschließen. Insgesamt liest sich das weniger wie eine Stellungnahme, vielmehr wirkt sie wie ein Handlungskatalog, um die Arbeit der Parlamentsausschüsse zu erleichtern.

Das werden der Binnenmarktausschuss (IMCO, federführend) und der für bürgerliche Freiheiten (LIBE) sein, unter Mitsprache des Rechtsausschusses. Zu den Berichterstattern wurden der italienische Sozialdemokrat Brando Benifei (IMCO) und der rumänische Liberale Dragos Tudorache gewählt. Ferner mitzureden haben der Industrie- und Kulturausschuss. Letzterer wird sich vorwiegend mit der Definition der verschiedenen Kategorien von Hochrisiko-KI befassen. Die Regulation könnte noch heuer im Ministerrat finalisiert werden und damit schon im Jänner in den Ausschüssen landen. Angesichts der komplexen Sachverhalte und des schieren Umfangs der Regulierung ist mit langwierigen Verhandlungen zu rechnen.