Die meisten großen Nachrichten in der KI-Revolution kommen von Firmen aus den USA. Dass europäische KI-Firmen auch international auf sich aufmerksam machen, ist eher selten. Hin und wieder gibt es Ausnahmen, etwa als vor kurzem die französische Firma Mistral ein neues Sprachmodell veröffentlicht hat, das es mit den bis dato besten Konkurrenzprodukten aufnehmen kann. Seit wenigen Tagen macht nun auch ein deutsches KI-Start-up von sich Reden – mit einem neuen Bildgenerator und viel Selbstvertrauen.
Freiburger Start-up macht Schlagzeilen in der KI-Welt
Black Forest Labs ist der Name des Start-ups aus Freiburg im Breisgau, das gerade mit zwei Nachrichten an die Öffentlichkeit geplatzt ist, die man sonst eher selten von deutschen KI-Start-ups hört. Zum einen hat das Unternehmen 31 Millionen Euro Finanzierung des renommierten Wagniskapitalfonds Andreesen Horowitz und anderer Investoren aus dem Silicon Valley im Rücken. Zum anderen erfährt dessen KI-Bildgenerator "Flux" gerade viel positive Resonanz in der KI-Community.
Hinter der Firma stecken verschiedene KI-Forscher, die bereits an der Entwicklung des Open Source Bildgenerators Stable Diffusion beteiligt waren – eines der ersten Modelle, dass 2022 KI-generierte Bilder in die breite Öffentlichkeit brachte.
KI-Bilder immer schwerer erkennbar
Tatsächlich kann sich "Flux", in verschiedenen Ausführungen öffentlich verfügbar, mit den besten aktuell verfügbaren Bildmodellen wie Midjourney, Dall-E oder Stable Diffusion messen. Das Modell zeigt, wie weit die Technik gekommen ist.
Die Tage, an denen man KI-generiert Bilder mit einem kurzen Blick erkennen konnte, etwa an anatomisch falschen Händen oder falsch geschlungenen Brezen, scheinen endgültig vorbei. Auch von der Geschwindigkeit, mit der das Modell seine Bilder berechnet, gibt sich die Fachwelt beeindruckt.
Missbrauch lässt sich kaum verhindern
Allerdings zeigt sich an "Flux" auch ein Problem, das die Technologie der Bildgeneratoren seit ihren Anfangstagen begleitet: je besser und lebensechter die Outputs werden, umso leichter lässt sich mit ihnen auch Unwesen treiben.
Beispielsweise, indem mit KI-generierten Fotos von Politikern auf die öffentliche Meinungsbildung Einfluss genommen werden soll. Firmen wie OpenAI oder KI-Forschungsinstitute wie Midjourney unterbinden aus diesem Grund die Erstellung von Politikerbildern mit ihren Programmen.
Doch es ist technisch schwierig, dies ganz zu verhindern, vor allem bei Programmen, die ganz oder in Teilen Open Source sind, also auch lokal betrieben werden können statt nur auf den Servern einer einzelnen Firma. Auch Flux von Black Forest Labs ist in Teilen Open Source – und setzt nur wenig Begrenzungen für die Inhalte, die man damit generieren kann.
Politikerbilder sind kein Problem …
Das Team des KI-Podcasts der ARD hat dies selbst überprüft und verschiedene Bilder von Politikern mit dem Tool erstellt – mit einem interessanten Ergebnis. Tatsächlich lassen sich ohne große Probleme Bilder generieren, auf denen etwa die amerikanische Vizepräsidentin Kamala Harris gemeinsam mit dem republikanischen Präsidentschaftskandidaten Donald Trump Podcasts aufnimmt, tanzen geht oder Achterbahn fährt.
Auch Angela Merkel oder Barack Obama kriegt die KI problemlos hin. Will man jedoch Bilder von deutschen Politikern mit weniger Historie auf der Weltbühne, wie etwa Robert Habeck, Annalena Baerbock, Markus Söder oder sogar Olaf Scholz, hat man weniger Erfolg.
... außer sie sind aus Deutschland
Will man sich etwa ein Bild von Markus Söder beim Essen einer riesigen Breze erstellen lassen, bekommt man zwar einen Mann mit einer riesigen Breze, der auch ein bayerischer Politiker sein könnte – aber ansonsten keinerlei Ähnlichkeit mit dem bayerischen Ministerpräsidenten hat. Ein Bild von Olaf Scholz beim Händeschütteln mit Wladimir Putin zeigt wiederum eindeutig den russischen Präsidenten – doch der Mann, dem er die Hand gibt, sieht weder aus wie Olaf Scholz noch wie sonst eine öffentlich bekannte Persönlichkeit.
🎧Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in Der KI-Podcast – dem Podcast von BR24 und SWR.
Der Grund dürfte simpel sein: vermutlich hat das Programm zu wenig Bildmaterial neuerer deutscher Politiker in seinen Trainingsdaten. Damit ist das KI-Modell aus dem Schwarzwald aber wohl eher eine Ausnahme. Und vermutlich ist es auch nur eine Frage der Zeit, bis künftige Modelle von Black Forest Labs und anderer Firmen auch deutsche Politiker hinkriegen.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!