Zum Inhalt springen
OZD.news - News und Nachrichten zum Nachschlagen

EU und das Gesetz zur KI

Biometrische Gesichtserkennung und mehr

Die EU hat jetzt ein Gesetz, das KI im Zaum halten soll. Erstaunlich, dass es ein solches Regelwerk auf der ganzen Welt bisher noch nicht gab, war mein erster Impuls.


Was steht drin?

Ein wichtiger Punkt: Wie stark dürfen Behörden KI nutzen, um den öffentlichen Raum zu überwachen und so für mehr Sicherheit zu sorgen? Im Gesetz sind dafür nun Grenzen gesteckt: Biometrische Gesichtserkennung per KI ist nur erlaubt, wenn es darum geht, konkret gesuchte Personen bei schweren Straftaten aufzuspüren. So sollen Auswüchse wie in China vermieden werden, wo mit biometrischer Gesichtserkennung das Verhalten von Menschen erfasst und sie in soziale Kategorien eingeteilt werden. "Social Scoring" heißt das.

 

Bringt das Gesetz etwas?

Es gibt Kritik. Zum Beispiel von den Beobachtern von netzpolitik.org. Die schreiben: Die biometrische Überwachungsmöglichkeit von Menschen werde durch das Gesetz längst nicht genügend eingeschränkt. Die EU-Staaten dürften also in Zukunft aus deutlich zu vielen Gründen Menschen überwachen und so in ihre Grundrechte eingreifen. Die KI-basierte Gesichtserkennung war tatsächlich auch der größte Streitpunkt bei den Verhandlungen über den Gesetzestext. 

Ist KI wirklich so gefährlich, dass sie reguliert werden muss?


KI birgt große Chancen  aber auch große Risiken. Mit beiden beschäftigt sich die gemeinnützige Organisation „Future of Life Institute“. Sie hat eine neue Webseite zum neuen EU-Gesetz erstellt, auf der man unter anderem den Gesetzestext auf Schlagworte hin untersuchen kann. Der Organisation geht es unter anderem darum, dass die Entwicklung tödlicher autonomer Waffensysteme eng begrenzt werden muss. Also KI-basierter Waffensysteme, die – wie der Deutschlandfunk beleuchtet -  schlimmstenfalls dazu führen könnten, dass Kriege sich verselbstständigen. 

Wer sich gerne mal Weltuntergangsszenarien dank KI vorstellen möchte: Eine amerikanische NGO hat letztes Jahr viel öffentliche Aufmerksamkeit bekommen, als sie mit Unterstützung Prominenter (etwa dem Gründer von Chat-GPT) warnte, KI sei „so gefährlich wie Pandemien oder Atomkrieg“. 


Correctiv