Die Vertreter der EU-Mitgliedsländer haben sich am Ende doch noch geeinigt. Nach mehr als zwei Jahren Verhandlungen ist der europäische "AI Act" zur Regulierung der Künstlichen Intelligenz so gut wie beschlossen. Bei einem Treffen der EU-Botschafter gaben die Mitgliedstaaten dem Regelwerk jetzt grünes Licht. Kurz zuvor hatte Frankreich eingelenkt, nachdem wenige Tage vorher auch Deutschland seinen Widerstand aufgegeben hatte. Die beiden Staaten hatten gemeinsam mit Italien vergeblich versucht, moderatere Auflagen für bestimmte KI-Anbieter durchzusetzen.
Was regelt der AI-Act?
Der Artificial Intelligence Act, wie das europäische Gesetz zur Regelung künstlicher Intelligenz ausgeschrieben heißt, sortiert KI-Anwendungen in unterschiedliche Risikoklassen ein. Je nachdem, als wie riskant eine Technologie gesehen wird, die Künstliche Intelligenz verwendet, müssen ihre Anbieter bestimmte Anforderungen erfüllen, was Sicherheit und Transparenz angeht. Es gibt dabei vier Risikoklassen.
Gefühls-Kontrolle oder "Social Scoring" werden verboten
Eingegriffen wird dabei vor allem in den beiden höchsten Klassen. Auf der obersten Stufe stehen Anwendungen, die als inakzeptables Risiko bewertet und deshalb komplett verboten werden. Ein Beispiel wäre die Erkennung und Analyse von Emotionen am Arbeitsplatz, etwa indem die Stimmen von Mitarbeitern in Callcentern analysiert werden. Als genauso problematisch und damit inakzeptabel stuft der AI Act "Social Scoring" ein. Ein solches KI-System kommt in China zur Anwendung, um das Verhalten von Bürgerinnen und Bürger zu bewerten. Künstliche Intelligenz entscheidet dabei über erwünschtes und unerwünschtes Verhalten und vergibt Punkte. Um zum Beispiel studieren zu können, braucht man dann einen bestimmten Punktestand.
Für Überwachung durch KI gibt es Schlupflöcher
Biometrische Echtzeit-Massenüberwachung gehört im Prinzip ebenfalls der höchsten Risikostufe an. Dazu zählt automatisierte Gesichtserkennung durch Kameras im öffentlichen Raum, etwa auf Bahnhöfen oder Flughäfen. Der AI-Act sieht hier allerdings einige Ausnahmen vom grundsätzlichen Verbot vor. Ohne Anlass und auf Dauer darf zwar nicht gefilmt und analysiert werden. Bei besonders schweren Straftaten können sich die Ermittlungsbehörden allerdings eine Genehmigung von den Gerichten holen. Spannend dürfte dabei werden, wie schnell Richter in der Praxis ihr "OK" geben. Kritiker befürchten jedenfalls, dass der AI Act eine neue Form der Massenüberwachung und Vorratsdatenspeicherung nicht verhindern wird.
Keine Black-Box in autonomen Fahrzeugen
In die zweithöchste Risikoklasse fallen Anwendungen, die Gesundheit, Sicherheit, Umwelt, Grundrechte und die Demokratie gefährden können. Dazu zählen beispielsweise selbstfahrende Autos oder automatisierte Kreditvergabesysteme. Bei solchen sogenannten Hochrisiko-Anwendungen müssen die Anbieter genau erklären können, wie die Entscheidungen ihrer KI-Systeme zustande gekommen sind. Einen Streitpunkt gab es in der Vergangenheit rund um autonome Fahrzeuge. Die Frage war, welche Entscheidungen ein solches Auto in Gefahrensituationen treffen wird, also etwa, ob es eher die Insassen schützt oder die Passanten auf der Straße. Laut dem neuen EU-Gesetz müssen Autohersteller solche internen Entscheidungsprozesse nun genau darlegen können.
Eine andere Hochrisiko-Anwendung wäre das Scoring. Folge: Banken müssen laut AI Act genau erklären können, warum eine Kundin oder ein Kunde, keinen Kredit bekommen hat. Sich darauf zu berufen, dass die KI eben zu diesem Ergebnis gekommen sei und man die Prozesse im System nicht genau nachvollziehen könne, reicht künftig nicht mehr.
900 Seiten, die so kaum jemand versteht
Es gab allerdings schon im Vorfeld viel Kritik an dem Gesetzestext, weil er angeblich sehr schwer verständlich ist. Allein der Umfang deutet darauf hin, dass es sich hier um keine leichte Lektüre handelt. Das schon vorab geleakte vorläufige Dokument umfasst knapp 900 Seiten.
In dem Gesetz wurde in einem teilweise chaotischen Verfahren ständig nachgebessert, wie Kai Zenner, der Büroleiter und Digitalpolitik-Berater des Europaabgeordneten Axel Voss, im Interview mit dem Tech-Portal Heise erklärt. Demnach wurden von der EU-Kommission Passagen immer wieder geändert, die dann von den Abgeordneten im Europaparlament schnell abgesegnet werden mussten. Für die Zustimmung hatten die Parlamentarier oft nur wenige Minuten Zeit. Laut Zenner ist der Text deshalb an vielen Stellen extrem vage geworden, zum Teil auch fehlerhaft. In Brüssel heißt es, das Gesetz sei insgesamt zu kompliziert und schlecht geschrieben, sodass der Text nun erst noch in verständliche Sprache übersetzt werden müsse.
AI Act verhindert europäischen Flickenteppich
Dass man anscheinend bei der Qualität des Gesetzes Abstriche in Kauf nahm, lag am Zeitdruck. Die Kommission unter Präsidentin Ursula von der Leyen wollte den AI Act noch vor der anstehenden Europawahl im Juni auf den Weg bringen. Die Sorge, dass es nach der Wahl für das Gesetz womöglich keine Mehrheiten mehr geben könnte, war groß.
Auch der Wirtschaft war ein vielleicht nicht perfektes Gesetz lieber als gar keines. So betont etwa Bitkom-Präsident Dr. Ralf Wintergerst: "Für die Unternehmen kann das die dringend notwendige Rechtssicherheit bei dieser wohl wichtigsten Zukunftstechnologie verbessern.“ Wäre das EU-Gesetz nicht gekommen, hätten die Mitgliedsländer ihre eigenen KI-Regeln und -Gesetze verabschiedet. Die Folge wäre ein europäischer Flickenteppich gewesen, was die Rechte und Pflichten rund um künstliche Intelligenz angeht.
Noch im Februar soll der AI Act nun in die Ausschüsse des EU-Parlaments. Im April kommt er dann ins Plenum, sodass ihn alle EU-Abgeordneten endgültig absegnen können. Nennenswerter Widerstand wird dabei nicht mehr erwartet.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!