Die EU hat jetzt ein Gesetz, das KI im Zaum halten soll. Erstaunlich, dass es ein solches Regelwerk auf der ganzen Welt bisher noch nicht gab, war mein erster Impuls.
Was steht drin?
Ein wichtiger Punkt: Wie stark dürfen Behörden KI nutzen, um den öffentlichen Raum zu überwachen und so für mehr Sicherheit zu sorgen? Im Gesetz sind dafür nun Grenzen gesteckt: Biometrische Gesichtserkennung per KI ist nur erlaubt, wenn es darum geht, konkret gesuchte Personen bei schweren Straftaten aufzuspüren. So sollen Auswüchse wie in China vermieden werden, wo mit biometrischer Gesichtserkennung das Verhalten von Menschen erfasst und sie in soziale Kategorien eingeteilt werden. "Social Scoring" heißt das.
Bringt das Gesetz etwas?
Es gibt Kritik. Zum Beispiel von den Beobachtern von netzpolitik.org. Die schreiben: Die biometrische Überwachungsmöglichkeit von Menschen werde durch das Gesetz längst nicht genügend eingeschränkt. Die EU-Staaten dürften also in Zukunft aus deutlich zu vielen Gründen Menschen überwachen und so in ihre Grundrechte eingreifen. Die KI-basierte Gesichtserkennung war tatsächlich auch der größte Streitpunkt bei den Verhandlungen über den Gesetzestext.
Ist KI wirklich so gefährlich, dass sie reguliert werden muss?
KI birgt große Chancen aber auch große Risiken. Mit beiden beschäftigt sich die gemeinnützige Organisation „Future of Life Institute“. Sie hat eine neue Webseite zum
neuen EU-Gesetz erstellt, auf der man unter anderem den Gesetzestext
auf Schlagworte hin untersuchen kann. Der Organisation geht es unter
anderem darum, dass die Entwicklung tödlicher autonomer Waffensysteme
eng begrenzt werden muss. Also KI-basierter Waffensysteme, die – wie der
Deutschlandfunk beleuchtet - schlimmstenfalls dazu führen könnten, dass Kriege sich verselbstständigen.
Wer sich gerne mal Weltuntergangsszenarien dank KI vorstellen
möchte: Eine amerikanische NGO hat letztes Jahr viel öffentliche
Aufmerksamkeit bekommen, als sie mit Unterstützung Prominenter (etwa dem
Gründer von Chat-GPT) warnte, KI sei „so gefährlich wie Pandemien oder
Atomkrieg“.
Correctiv