Von der Analyse von Bildern aus Überwachungskameras oder Computertomographen bis hin zu selbstfahrenden Autos: Künstliche Intelligenz verheißt in vielen Lebensbereichen große Fortschritte. Aber sie birgt auch Risiken. Um die in Grenzen zu halten und trotzdem Innovation möglich zu machen, haben sich Vertreter der Mitgliedsstaaten und des Parlaments der EU auf ein Gesetz geeinigt. Nach eigenen Angaben ist es das erste seiner Art auf der Welt. "Historisch! Die EU wird der erste Kontinent sein, der klare Regeln für den Einsatz von KI aufstellt", schrieb EU-Kommissar Thierry Breton am Freitag auf der Plattform X (früher Twitter). "Das KI-Gesetz ist viel mehr als ein Regelwerk - es ist eine Startrampe für EU-Startups und Forscher, um das globale KI-Rennen anzuführen." Die Präsidentin der Europäischen Kommission, Ursula von der Leyen, sagte, die KI-Vorschriften würden einen einzigartigen Rechtsrahmen für die Entwicklung vertrauenswürdiger Technologien bieten, die die Sicherheit und die Grundrechte von Menschen und Unternehmen nicht beeinträchtigen.
Streitthema automatische Gesichtserkennung
Der größte Knackpunkt bei den Gesprächen war der Streit um biometrische Überwachung. Das EU-Parlament wollte verbieten, dass mithilfe von Kameras und KI die Gesichter von Menschen auf öffentlichen Straßen und Plätzen in der EU automatisch erkannt werden dürfen. Kritiker halten eine solche Massenüberwachung für eine massive Verletzung der Bürgerrechte. Viele EU-Staaten dagegen, darunter Deutschland, wollten Ausnahmen zum Schutz der nationalen Sicherheit, zur Verteidigung und für andere militärische Zwecke durchsetzen. Laut der Einigung sollen Polizei und andere Strafverfolgungsbehörden nun die automatische Gesichtserkennung nutzen dürfen. Svenja Hahn (FDP), die das Gesetz für ihre Fraktion mit verhandelt hatte, betonte in der ARD, dass dieser Einsatz aber enge Grenzen haben werde, etwa um Vergewaltiger und Entführer aufzuspüren. Auch Opfer schwerer Straftaten und Vermisste dürfen gezielt gesucht werden. Die Einzelheiten sollen in den kommenden Tagen ausgearbeitet werden.
Bis zuletzt infrage stand die Regulierung von sogenannten Basismodellen. Das sind sehr leistungsfähige KI-Modelle, die mit einem breiten Satz an Daten trainiert wurden. Sie können die Grundlage für viele andere Anwendungen sein. Dazu zählen etwa bekannte Programme wie ChatGPT. Deutschland, Frankreich und Italien hatten zuvor gefordert, dass nur konkrete Anwendungen von KI reguliert werden sollten, nicht aber die Basis-Technologie an sich. Die Regeln sollen unter anderem die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleisten und sicherstellen, dass bei der KI-Entwicklung keine Urheberrechte verletzt werden. Außerdem müssen Entwickler klar kenntlich machen, dass durch Künstliche Intelligenz geschaffene Texte, Bilder und Töne auf dieser Technologie beruhen.
Video: EU einigt sich auf Regeln für Künstliche Intelligenz
Der Einsatz von Künstlicher Intelligenz (KI) soll in der Europäischen Union künftig strenger reguliert werden.
Je höher das Risiko, desto stärker die Regeln
Im Prinzip gilt: Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein, etwa bei kritischer Infrastruktur, Sicherheitsbehörden und Personalverwaltung. Dort sollen eine Kontrolle durch den Menschen über KI, eine technische Dokumentation und ein System zum Risikomanagement festgeschrieben werden. Die Vereinbarung sieht auch Verbote zur Manipulation oder Ausnutzung von Schwächen der Nutzer durch KI vor. Verbraucher sollen das Recht bekommen, Beschwerden einzureichen und angemessene Antworten zu erhalten. Der Grüne Europaabgeordnete Sergey Lagodinsky nannte die Einigung in der ARD "unter dem Strich ein gutes Gesetz, was auf die Herausforderungen unserer Zeiten sehr gut reagiert und die dringendsten Fragen der Geschichte beantwortet".
Bemühungen, den Einsatz von Künstlicher Intelligenz zu regeln, hatte es zuvor gegeben. So hatten im November die USA, Deutschland und 16 weitere Länder ein detailliertes, internationale Abkommen zum Schutz vor Missbrauch von künstlicher Intelligenz vorgestellt. Diese Vereinbarung ist allerdings unverbindlich und enthält überwiegend allgemeine Empfehlungen, wie etwa die Überwachung von KI-Systemen auf Missbrauch, den Schutz von Daten vor Manipulation und die Überprüfung von Softwareanbietern. Zuvor hatten Frankreich, Deutschland und Italien eine Einigung darüber erzielt, wie künstliche Intelligenz reguliert werden soll, die eine verbindliche Selbstregulierung durch Verhaltenskodizes für sogenannte Basismodelle der KI unterstützt.
Das Gesetz, auf das sich nun die Unterhändler von EU-Parlament und Mitgliedsstaaten geeinigt haben, soll aber verbindlich sein. Bei Verstößen sieht es Bußgelder zwischen 7,5 Millionen Euro und 35 Millionen Euro vor. Das Europaparlament und die Staaten müssen vereinbarten Vorhaben noch zustimmen. Das gilt aber als Formsache.
Das ist die Europäische Perspektive bei BR24.
11.12.2023: Unser Kommentarbereich ist im Moment wegen eines Software-Updates geschlossen. Der "Umbau" kann bis zu 48 Stunden dauern. Wir bitten um Verständnis.