tl,dr: Die Verordnung ist besser als nichts, aber die zahlreichen Ausnahmen durchlöchern den Schutz der Menschenrechte. Insbesondere gilt das ausgerechnet für marginalisierte Gruppen wie Geflüchtete und für diejenigen Behörden, die besonders tief in Rechte eingreifen dürfen.
Es werden Sorgfaltspflichten eingeführt und ein Beschwerderecht für natürliche und juristische Personen. Grund- und Datenschutzbehörden dürfen Informationen anfordern, Social Scoring, „Scraping“ von Fotos aus dem Netz und „manipulative“ KI werden verboten.
Alles schlecht? Nein. Erstmal: Überhaupt eine Regulierung zu haben, ist ein Schritt nach vorn. Und: Es wird z.B. mehr Transparenz über den Einsatz von Hochrisiko-KI geben dank einer EU-Datenbank. (Außer bei Migrations-&Strafverfolgungsbehörden…)
Leider kein Exportverbot: Die Verordnung verpasst die Chance, wenigstens die hier verbotene KI auch im Export zu regulieren. Es bleibt also erlaubt, Technologie ins Ausland zu verkaufen, die die EU für so menschenrechtswidrig hält, dass sie hierzulande verboten ist.
Angebliche „Emotionserkennung“ ist erlaubt, außer auf Arbeit und in Bildungsinstitutionen. Über die Begründung komme ich nicht hinweg, siehe Bild – das ist alles richtig, gilt aber genauso natürlich auch in anderen Einsatzkontexten als nur Arbeit und Bildung!
Hierzu haben wir von @amnesty_de mit anderen Organisationen heute an den Bundestag und die Bundesregierung appelliert: www.amnesty.de/offener-brie...
Die biometrische Fernidentifizierung muss sowohl für den Einsatz in Echtzeit als auch für den nachträglichen Einsatz verboten werden.
Lichtblick: Eine Öffnungsklausel erlaubt EU-Staaten, national besser vor Massenüberwachung durch Biometrie zu schützen. Das muss die Bundesregierung jetzt tun und ein nationales Verbot beschließen – wie im Koalitionsvertrag versprochen!
Für die biometrische Überwachung des öffentlichen Raumes gibt es einen Richter*innenvorbehalt mit Ausnahmen – je nach EU-Land eine kleine bis keine Hürde. An Grenzen gilt selbst das durchlöcherte grundsätzliche Verbot nicht, sie sind angeblich kein öffentlicher Raum (?!).
Das Verbot biometrischer Fernidentifizierung (v.a. Gesichtserkennung) ist durch so viele Ausnahmen durchlöchert, dass es de facto eine geregelte Erlaubnis ist. Erlaubt ist Echtzeit-Massenüberwachung u.a. bei bestimmten Verbrechen, im Nachhinein es ist noch weniger eingeschränkt.
(Und ein richtig ärgerlicher Präzedenzfall: Wir können damit rechnen, dass solche Ausnahmen nun in mehr EU-Gesetzen kommen werden. Ergebnis: Ein regelfreier Raum der „nationalen Sicherheit“, in dem „alles erlaubt“ ist.