Künstliche Intelligenz (KI) mit hohen Gefahren für Grundrechte, Demokratie und Rechtsstaatlichkeit soll nach dem Willen des EU-Parlaments verboten werden. Darunter würden auch Systeme zum ungezielten Auslesen biometrischer Daten im Internet, zur Emotionserkennung oder zur Vorhersage möglicher Straftaten gehören. Die Abgeordneten in Straßburg stimmten am Mittwoch mit breiter Mehrheit für eine strengere Regulierung, als sie der Vorschlag der EU-Kommission vorsieht.
KI - je größer die Gefahr, desto strenger die Regeln
Demnach sollen KI-Systeme in verschiedene Risikogruppen eingeteilt werden. Je mehr Gefahr von der jeweiligen Anwendung ausgeht, desto strengere Regeln könnten für sie gelten. Auch komplette Verbote soll es geben, etwa von Gesichtserkennung in Echtzeit im öffentlichen Raum. KI-Systeme, die Menschen nach sensiblen Merkmalen kategorisieren, wären nach dem Willen der EU-Abgeordneten nicht zulässig. Dazu zählen Geschlecht und Geschlechtsidentität, Rasse, ethnische Herkunft, Migrations- oder Staatsbürgerschaftsstatus, politische und sexuelle Ausrichtung, Religion, Behinderung und jedwede andere Gründe, die keine Diskriminierung nach sich ziehen dürfen.
Die Anwendung von Gesichtserkennungs-Software im öffentlichen Raum soll untersagt sein, es sei denn, sie erfolgt im Nachhinein zur Aufklärung schwerer Straftaten und mit richterlicher Genehmigung. Ferner will das Parlament, dass die Verhinderung von Desinformation sowie Risiken für Klima und Umwelt bei der Bewertung von KI-Systemen eine Rolle spielen.
Keine KI-gestützte "vorausschauende Polizeiarbeit"
In einem eigenen Punkt will das Parlament eine KI-gestützte "vorausschauende Polizeiarbeit" verhindern. Gemeint ist die Auswertung von Datensätzen mit dem Ziel, das Risiko von Personen, Gruppen oder Orten zu bewerten oder Wahrscheinlichkeitsaussagen über das Auftreten potenzieller Straftaten zu treffen. Eine solche Praxis würde die Menschenwürde verletzen und gegen den Rechtsgrundsatz der Unschuldsvermutung verstoßen, argumentieren die Abgeordneten.
Weltweit erstes umfassendes KI-Gesetz
Über die finale Fassung des weltweit ersten umfassenden Rechtsrahmens für Künstliche Intelligenz müssen sich jetzt Parlament, Kommission und Rat verständigen. Die Verhandlungen sollten noch am Mittwochabend beginnen. Im Rat, der die Regierungen der Mitgliedstaaten vertritt, gibt es starke Interessen an weitergehenden staatlichen Befugnissen beim Einsatz Künstlicher Intelligenz. Grundsätzlich verfolgt die EU einen risikobasierten Ansatz, nach dem bestimmte hochriskante KI-Systeme gebannt und die Gefahren anderer durch Regeln begrenzt werden.
Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon jetzt in vielen Bereichen eingesetzt. Zum Beispiel können solche Programme Aufnahmen von Computertomografen schneller und mit einer höheren Genauigkeit als Menschen auswerten. Auch selbstfahrende Autos versuchen so, das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Chatbots oder automatische Playlists von Streaming-Diensten arbeiten ebenfalls mit KI.
Mit Material von dpa und KNA
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!