Die erste Stufe des europäischen AI Acts ist am 2. Februar 2025 in Kraft getreten. Ab sofort sind nicht nur KI-Systeme mit unannehmbaren Risiken verboten – auch müssen Unternehmen sicherstellen, dass ihre Mitarbeiter über ausreichende KI-Kompetenz verfügen. So steht es im Gesetzestext. Denn der Artikel 4 des AI Act verpflichtet Unternehmen, "nach besten Kräften sicherzustellen", dass ihr Personal über ein "ausreichendes Maß an KI-Kompetenz" verfügt.
KI-Kompetenz und KI-Literacy: Was wir wissen
Die Regelung betrifft praktisch jedes Unternehmen, das KI-Tools einsetzt oder einsetzen lässt. Der Gesetzestext definiert als Betreiber jede "natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet" – ausgenommen sind lediglich private, nicht-berufliche Nutzungen.
Ganz ausdrücklich betrifft die Regelung auch nicht nur "Hochrisiko-KI", wie sie etwa im medizinischen oder Personal-Bereich definiert ist. Das heißt, auch die Nutzung von Chatbots wie ChatGPT fällt darunter.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in Der KI-Podcast – dem Podcast von BR24 und SWR.
Was wir noch nicht wissen
Allerdings sind bislang noch zahlreiche Fragen ungeklärt: Werden für die Nutzung von KI-Systemen Nachweise nötig sein? Werden für jedes KI-System "neue" Kompetenzen notwendig, etwa weil ein KI-Programm ein Update erhält? Werden Schulungen nötig, und wird es dafür bestimmte Standards geben?
Auch unklar: Was eigentlich passiert, wenn man gegen die Richtlinie verstößt. Die Sanktionen werden von den einzelnen EU-Mitgliedstaaten festgelegt – und das voraussichtlich erst ab August 2025.
"Der AI Act ist ein 'Rohbau', bei dem noch sehr viele Details fehlen", erklärt die Rechtsanwältin Kerstin Bäcker. Sie führt aus: "Das ist meiner Einschätzung dem Zeitdruck, aber vor allem auch der Komplexität und der Dynamik der Materie geschuldet – man wollte sich daher in dem Gesetz selbst bewusst nicht zu stark festlegen." Sie fordert nun, dass das neu formierte "AI Office" der Europäischen Kommission Klarheit schafft.
Was bedeutet KI-Kompetenz im Unternehmen?
Der AI Act selbst definiert KI-Kompetenz als "die Fähigkeiten, [...] KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden". Das deutet etwa an, dass KI-Modelle wie ChatGPT in bestimmten Fällen "halluzinieren" können, also plausibel klingende, aber falsche Informationen ausspucken.
Genauere Informationen gibt es bislang noch nicht – was in vielen Unternehmen für Unsicherheit sorgt. Denn Europa ist bei der Zukunftstechnologie Künstliche Intelligenz momentan eher im Hintertreffen – gefühlte Unsicherheiten in der Rechtslage könnten Unternehmen noch argwöhnischer gegenüber dem Einsatz von KI am Arbeitsplatz machen als sie ohnehin schon sind.
Rechtsanwältin Kerstin Bäcker empfiehlt, sich ganzheitlich mit dem Thema KI-Kompetenz auseinanderzusetzen – auch wenn noch nicht alle Details feststehen. "Die bloße Berufung eines 'AI Officers' oder 'KI-Koordinators' genügt nicht", warnt Bäcker. "Eine solche zentrale Position zu schaffen kann ab einer gewissen Unternehmensgröße sinnvoll sein, die Funktion muss jedoch mit Know-How und Leben gefüllt werden."
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!