Die EU-Staaten haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union beschlossen. Der Rat der 27 EU-Mitgliedstaaten verabschiedete in Brüssel endgültig das KI-Gesetz, das die Nutzung der Technologien etwa in der Videoüberwachung, Spracherkennung oder bei der Auswertung von Finanzdaten regelt.
Anfang Juni soll es im EU-Amtsblatt veröffentlicht werden und 20 Tage später in Kraft treten, abgestuft nach Geltungsbereichen. Alle Teile des Gesetzes gelten dann ab dem Frühjahr 2026. Das EU-Parlament hatte dem Gesetz bereits im März zugestimmt.
- Zum Artikel: "Was bedeutet der AI Act für mich?"
Menschen sollen KI sicher nutzen können
Das KI-Gesetz zielt darauf ab, die Nutzung von KI in der Europäischen Union sicherer zu machen. Es soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien.
Je riskanter eine KI-Anwendung ist, desto strengere Regeln gelten für sie
Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen demnach künftig strenge Anforderungen erfüllen. Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten. Durch ein solches "Social Scoring" werden die Bürgerinnen und Bürger in China in Verhaltenskategorien eingeteilt.
Gesichtserkennung im öffentlichen Raum ist grundsätzlich verboten
Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben. Die Gesichtserkennung im öffentlichen Raum – also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.
Amnesty International hatte vor dem Hintergrund der kürzlich beschlossenen Reform des EU-Asylrechts davor gewarnt, Gesichtserkennung und andere umstrittene Technologien gegen Migranten und andere Schutzsuchende einzusetzen. Das polizeiliche Identifizieren von Menschen in Echtzeit sei nicht streng genug geregelt, kritisierten auch Europaabgeordnete von SPD und Linken.
Kennzeichnungspflicht für KI-generierte Inhalte
Darüber hinaus sieht das KI-Gesetz eine Kennzeichnungspflicht vor: Entwickler sollen mit Künstlicher Intelligenz erzeugte Texte, Töne und Bilder markieren müssen, um Menschen nicht in die Irre zu führen. Experten halten dies wegen der Fülle des Materials allerdings für schwer kontrollierbar.
Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU. Wenn Unternehmen die Vorschriften nicht einhalten, müssen die Mitgliedstaaten Sanktionen beschließen. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.
EU will auch KI-Innovationen aus Europa fördern
Damit innovative und erfolgreiche KI-Anwendungen nicht immer nur aus den USA, sondern auch mal aus Europa kommen, sollen europäische Firmen zum Beispiel Zugang zu Supercomputern bekommen, die diese irren Datenmengen überhaupt stemmen können. Darauf können sie ihre KI-Systeme trainieren und testen. Die dafür nötigen Trainingsdaten sollen in Europa aufbereitet werden, und zwar nach gewissen Kriterien und auch Werten. Dazu gehört zum Beispiel, dass das Training der KI-Basismodelle nicht nur auf Englisch, sondern in vielen EU-Sprachen passiert.
Kommissionschefin Ursula von der Leyen versprach kürzlich: "Wir werden auch gemeinsame europäische Datenräume in den Dienst von Start-ups stellen und riesige Datenmengen allen EU-Sprachen zur Verfügung stellen. Denn KI soll auch für alle Nicht-Englisch-Sprecher da sein."
Mehrsprachiges KI-Basismodell Open GPT-X
Ein Beispiel dafür ist das von zehn deutschen Firmen und Institutionen entwickelte KI-Basismodell OpenGPT-X, [externer Link] das demnächst veröffentlicht werden soll. Neben Deutsch und Englisch soll das Sprachmodell auch die Sprachen Französisch, Spanisch und Italienisch beherrschen. Ein weiterer Unterschied zu ChatGPT: Open GPT-X wird als Open-Source-Software zur Verfügung stehen, jeder kann also den Programmcode herunterladen und das Modell nach seinen eigenen Wünschen anpassen.
🎧Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in Der KI-Podcast – dem Podcast zur KI-Revolution von BR24 und SWR.
Mit Informationen von dpa
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!