An vielen Bahnhöfen und öffentlichen Plätzen hängen Überwachungskameras. In der EU wird es künftig erlaubt sein, dass diese Kameras "live" Gesichter scannen, um Verdächtige oder Opfer schwerer Straftaten schneller zu finden. Das war das Ergebnis der Verhandlungen zum "AI Act", durch den die EU den Umgang mit Künstlicher Intelligenz (KI) verbindlich regeln will.
- Zum Hintergrund: Was bedeutet der AI Act für mich?
Anfang Dezember trafen sich Unterhändler von EU-Parlament, Mitgliedsstaaten und EU-Kommission in Brüssel, um im sogenannten "Trilog" einen gemeinsamen Gesetzentwurf zu verhandeln. Nach einem Gesprächsmarathon von fast 38 Stunden verteilt über drei Tage einigten sich die EU-Vertreter auf einen gemeinsamen Text.
Gesichtserkennung mit KI – wenn Richter zustimmt
Einer der strittigsten Punkte war bis zuletzt die Frage, ob Strafverfolgungsbehörden der Einsatz von Echtzeit-Gesichtserkennung erlaubt sein soll. Diese Art der Gesichtserkennung mithilfe von KI soll in Europa nun möglich sein, wenn ein Richter oder eine Richterin zugestimmt hat.
Im Juni hatte das EU-Parlament in seiner Abstimmung über den AI Act noch mit großer Mehrheit dafür votiert, Echtzeit-Gesichtserkennung im öffentlichen Raum vollständig zu verbieten. Mit dieser Forderung konnten sich die Abgeordneten im Trilog aber nicht durchsetzen.
"Uns ist es aber gelungen, entscheidende rechtsstaatliche Hürden einzuziehen", sagt Svenja Hahn von der FDP. Die Technik dürfe nur zur gezielten Identifizierung von Personen eingesetzt werden, die wegen schwerwiegender Straftaten gesucht werden, so die EU-Abgeordnete. "Dazu gehören Entführungen oder Vergewaltigungen." Auch nach Opfern schwerer Straftaten dürfen Strafverfolgungsbehörden künftig gezielt mit solcher KI fahnden.
"Halbe Berliner Innenstadt überwachen"
Die Liste der Einsatzmöglichkeiten der Technik ist lang. Gefährlich lang, kritisieren Menschenrechtsorganisationen und Expertinnen im Bereich digitaler Bürgerrechte und KI-Ethik. Zu den Verbrechen, die einen solchen KI-Einsatz künftig rechtfertigen sollen, zählen auch Menschenhandel, bewaffneter Raub, Mitgliedschaft in einer kriminellen Organisation, Umweltkriminalität – und Drogenhandel. "Mit der Begründung könnte man, wenn man möchte, die halbe Berliner Innenstadt überwachen", sagt Lena Rohrbach von Amnesty International.
Amnesty International bezeichnet den AI Act als "niederschmetternden globalen Präzedenzfall". Auch die Nichtregierungsorganisation, "AlgorithmWatch", spricht von, "Schlupflöchern". Laut EU-Parlamentarier Patrick Breyer (Piratenpartei) droht eine "verdachtslose Massenüberwachung".
Für Menschenrechtsorganisationen wie Amnesty International sind die potenziellen Gefahren der Technologie offensichtlich. Die Organisation dokumentiert weltweit Menschenrechtsverletzungen und beobachtet aktuell, dass einige Länder Gesichtserkennung einsetzen, um Menschen systematisch aufzuspüren und zu bestrafen. Beispiele seien der Iran und Russland, wo Demonstrationen mit Gesichtserkennung überwacht würden. "Wir wissen, dass im Nachhinein die russische Polizei bei diesen Menschen vor der Tür steht und sie dafür festnimmt, dass sie an dieser Demonstration teilgenommen haben", so Rohrbach.
Polizei nutzt Gesichtserkennung seit Jahren
Trotz der möglichen Gefahren zeigen einige EU-Staaten großes Interesse an einer flächendeckenden Echtzeiterkennung von Personen im öffentlichen Raum. Offenbar hatte sich Frankreich schon im Vorfeld der Trilog-Verhandlung Anfang Dezember dafür eingesetzt, mit Gesichtserkennung die Olympischen Spiele in Paris im kommenden Jahr absichern zu dürfen.
Wurde eine Straftat bereits begangen, nutzt die Polizei in Deutschland seit Jahren Videomaterial, um Tatverdächtige zu identifizieren. Vor fünf Jahren habe das Bayerische Landeskriminalamt (LKA) 150 Hinweise auf Tatverdächtige mit Gesichtserkennung gefunden, sagt Marco Pohle, Sachverständiger für Gesichtserkennung beim LKA Bayern. "2021 waren es 700 und 2023 liegen wir bei über 1.000."
Auch Pohles Arbeit wird mit KI unterstützt. Videomaterial von Tatverdächtigen gleicht der Ermittler mithilfe eines Algorithmus mit der bundesweiten Gesichtsbilddatenbank "Inpol-Z" ab, die das BKA betreibt. Darin sind Bilder aus Asyl- und Strafverfahren von 4,5 Millionen Menschen gespeichert. Falls der Gesichtserkennungs-Algorithmus in der Datenbank Übereinstimmungen findet, liefert das System eine Liste mit Fotos von Personen. Ob es sich dabei tatsächlich um die Tatverdächtigen handelt, entscheiden Sachverständige wie Pohle – und nicht die KI.
KI in Echtzeit zu fehleranfällig
Automatische Gesichtserkennung in Echtzeit sieht Ermittler Pohle kritisch: "Sicherlich könnte das die Polizeiarbeit weiterbringen. Ich denke aber, dass die Algorithmen aktuell nicht ausreichend gut dafür sind." Frühere Versuche zum Beispiel am Berliner Bahnhof Südkreuz haben gezeigt: Zum Teil erzeugen die Algorithmen Hunderte Fehler am Tag für einen einzelnen Ort, den die Polizei überwachen will.
Ähnlich sieht es die Juristin Sandra Wachter: "Wir wissen, dass Gesichtserkennung grottenschlecht ist. Es gibt Statistiken, die zeigen, dass sie in 80 bis 90 Prozent der Fälle falsch liegt." Wachter ist Professorin für Technologie und Recht an der Universität Oxford. Sie kritisiert den Kompromiss. Aus ihrer Sicht wird die Privatsphäre vieler verletzt, um wenige Personen zu finden: "Man muss ja mein Gesicht lesen, um zu erkennen, dass ich nicht der Verbrecher bin. Das heißt, mein Gesicht wird dennoch abgeglichen, und das stellt ein riesengroßes Problem dar."
Noch liegt der finale Text zum AI Act nicht vor. Parlament und Rat müssen die endgültige Version abstimmen – bis zur Europawahl im Sommer 2024 soll es so weit sein. Spätestens zwei Jahre später gilt das Gesetz, also vermutlich ab 2026.
🎧
Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in Der KI-Podcast – dem neuen Podcast von BR24 und SWR.
Beispiele für Echtzeit-Gesichtserkennung gibt es viele: In Hongkong scannt eine KI Gesichter von Hotelgästen und misst deren Körpertemperatur.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!