Wie Lücken im KI-Gesetz der EU Überwachung möglich machen

Mit dem „Artificial Intelligence Act“ wollte die EU das erste große Regelwerk für den Einsatz von Künstlicher Intelligenz schaffen. Das Gesetz führt viele klare Regeln ein, die Grundrechte schützen sollen. Aber es gibt auch Lücken. Und an einem bestimmten Ort könnte KI-basierte Überwachung sogar zur Regel werden.

Von Ali Cem Deniz

Je sensibler der Bereich, in dem Künstliche Intelligenz zum Einsatz kommt, desto strenger müssen die Regeln sein. Das war das Motto des AI acts, an dem die EU bereits seit fünf Jahren arbeitet. Im EU-Parlament wurde das Gesetz diese Woche mit großer Mehrheit verabschiedet. Nur 46 der über 700 Abgeordneten haben gegen das Gesetz gestimmt. Eine von ihnen war Cornelia Ernst von der Linken Fraktion im EU-Parlament. „Wenn das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum durch eine lange Liste von Ausnahmen ausgehöhlt wird, ja, dann ist das schlecht“, sagt sie bei der Abstimmung. 523 Abgeordnete waren am Ende für das Gesetz, das von vielen als historischer Schritt gesehen wird.

Bei dem Gesetz geht es nicht nur darum, endlich Regeln für eine Technologie zu schaffen, die sich rasend schnell entwickelt und die bestehende Gesetze ständig vor neue Aufgaben stellt. Es geht auch um europäische KI-Unternehmen wie Mistral aus Frankreich, die mit ChatGPT & Co. mithalten wollen. Zu strenge Regeln könnten ihre Wettbewerbsfähigkeit einschränken, befürchteten viele EU-Abgeordnete.

Ausnahmen machen es möglich

Das sei ein übliches Argument gegen strengere Regeln, meint Journalistin Chris Köver von netzpolitik.org. Sie glaubt nicht, dass mehr Regeln die Wettbewerbsfähigkeit einschränken würden, schließlich müssten sich auch nicht-europäische Unternehmen wie OpenAI an die gleichen Gesetze halten, wenn sie ihre Produkte in Europa anbieten wollen. Sie kritisiert, dass die ursprünglich angekündigten strengen Auflagen - bei der biometrischen Überwachung etwa - in der finalen Version der Verordnung deutlich abgeschwächt wurden.

Das jahrelange Gezerre um die Regeln wurde nicht nur von überraschenden technischen Entwicklungen, wie dem Aufkommen von ChatGPT, begleitet, sondern auch von einer intensiven Lobbyarbeit von Big Tech Unternehmen, die weiterhin möglichst viel Spielraum haben wollten.

Das Resultat ist ein Gesetz, dass etwa bei der biometrischen Überwachung empfindliche Ausnahmen vorsieht. Zwar werden heikle Anwendungen wie Social Scoring, wie es aus China bekannt ist, ausdrücklich verboten, gleichzeitig würden durch das Gesetz biometrische Überwachung und der automatisierte Abgleich von aufgenommenen Bildern aber legalisiert werden, sagt Chirs Köver.

Die Regel an den Außengrenzen

Während die EU versichert, dass biometrische Überwachung, Emotionserkennung und Lügendetektoren innerhalb der Union die Ausnahme sein sollen, könnte das neue Gesetz sie an den europäischen Außengrenzen zur Regel machen. Denn die Außengrenzen werden von der Verordnung explizit nicht als öffentlicher Raum definiert. „Womit dann eigentlich alle Einschränkungen für den Einsatz von biometrischer Identifikation für diesen Bereich nicht mehr greifen“, sagt Chris Köver.

Damit könnte KI ausgerechnet in einem der sensibelsten Bereiche, wo es um vulnerable Menschen, Asyl und Menschenrechte geht, ohne strenge Regeln eingesetzt werden.

Letzte Chance für Änderungen

Mit der Verabschiedung im EU-Parlament hat die Verordnung die wichtigste Hürde genommen. Jetzt müssen die Regierungen der 27 Mitgliedstaaten zustimmen und die Verordnung auf nationaler Ebene umsetzen. Die Verordnung der EU ist dabei der Mindeststandard, Länder können sich selbst dazu entscheiden, den Einsatz von KI strenger zu regulieren. Chris Köver hat die Hoffnung, dass die Mitglieder hier die Lücken im Gesetz, die biometrische Überwachung ermöglichen, wieder schließen.

In Deutschland hat die Ampel-Koalition angekündigt, eine Überwachung in Echtzeit nicht zu erlauben. Wie das Gesetz in Österreich umgesetzt wird, ist noch unklar. In der KI Strategie der Bundesregierung wird neben dem Schutz der Grundrechte auch die Wettbewerbsfähigkeit betont. „Österreich soll sich als Forschungs- und Innovationsstandort für Künstliche Intelligenz in Schlüsselbereichen und Stärkefeldern positionieren.“ Das lässt erahnen, dass Österreich sich an der EU-Verordnung richtet und keine allzu strengen Regeln einführt.