Florian Hansemann leitet die IT-Sicherheitsfirma HanseSecurity in München. Er hackt Firmen oder verschafft sich - auch mal als Sanitäter verkleidet - Zugang zu Hochsicherheitsbereichen, um Schwachstellen aufzudecken. Sein Gegner ist immer öfters die Künstliche Intelligenz.
Denn längst gehe es nicht mehr nur um Bild-Fälschungen, sondern auch um Betrug und Erpressung, sagt der Fachmann: "In den USA ist es bereits häufiger vorgekommen, dass Videokonferenzen mit einem Geschäftsführer stattgefunden haben, der Zahlungsanweisungen gemacht hat. Im Nachhinein stellte sich heraus: Es war nicht er." Das Problem: Bild, Ton, im Zweifel sogar der Dialekt des Geschäftsführers - alles passt. Und trotzdem, es ist nicht wahr. "Bei dem einen Fall, das war bei uns im europäischen Raum, ist es nur aufgefallen, weil der Geschäftsführer auf einmal angefangen hat, zu siezen. Obwohl die immer per du sind."
Fälschungen werden immer schwieriger zu erkennen
Auch mit gefälschten Fotos, die vorgeben, den Vorstand beim Sex oder bei Bestechung zu zeigen, werden Firmen erpresst. Solche Bilder sind professionell gemacht, aber selbst Laien können sich in dreißig Sekunden Bilder über KI erstellen lassen. Etwa vom Papst auf dem Oktoberfest. Allerdings: Auf dem Foto hat der Papst sechs Finger, offensichtlich gefälscht. Doch Experten sind sich einig: In zwei Jahren dürfte niemand mehr mit bloßem Auge einen Unterschied zwischen echt und falsch erkennen. Wem und was können wir dann noch trauen?
"Die große Gefahr ist, dass wir das Vertrauen komplett verlieren"
Der Theologe und Medienethiker Alexander Filipović forscht zu KI. "Die große Gefahr ist tatsächlich, dass wir das Vertrauen komplett verlieren. Letztlich führt das dazu, dass wir uns von der Welt entfremden, dass wir also das Gefühl haben, egal was wir lesen, hören, wo wir uns einmischen: Man kann niemandem mehr vertrauen."
Keine guten Aussichten für den gesellschaftlichen Zusammenhalt. Wird dieser wegen KI noch weiter bröckeln? Ganz so negativ möchten es KI-Experten nicht sehen. "Mit den Möglichkeiten, Deepfakes zu erschaffen, werden auch die Möglichkeiten steigen, Deepfakes zu entlarven", sagt Filipović. "Da kämpfen sozusagen irgendwann die KI-Tools gegeneinander". Letztlich sei es wie im guten Journalismus. "Wenn ich ein Bild von Papst beim Oktoberfest sehe, dann rufe ich im Festzelt an und frage, war der Papst wirklich da? Und dann werden die sagen, nein, Quatsch."
Problem mit Deepfakes: "Einmal gesehen, ist halb geglaubt"
Doch das Problem sei: "Einmal gesehen ist halb geglaubt. Das heißt, unsere ganze visuelle Wahrnehmung ist gar nicht darauf ausgerichtet, so stark zu misstrauen. Und das ist ein Spannungsfeld", sagt Anika Gruner. Sie und ihr Partner Anatol Maier decken mit ihrem Start-up nicht nur Versicherungsbetrug auf oder beraten Journalisten, sie sehen es als eine Art Aufklärung. Denn: "Wir müssen als Gesellschaft lernen, damit umzugehen. Weil, die KI wird bleiben."
Florian Hansemann sieht aus dem Umgang mit bisherigen Betrugsfällen nicht komplett schwarz. "Das Thema 'Phishing-E-Mails' haben wir auch jahrelang gepredigt und es hat niemanden interessiert. Und mittlerweile reden auch meine Großeltern über dieses Thema. Ich habe Hoffnung, dass da Sensibilisierung stattfindet und die Leute das lernen."
Und wie geht's dem Papst mit KI? Alexander Filipović sagt, dass Franziskus neben dem Klimawandel das Thema KI sehr beschäftigt: "Ihm ist es sehr wohl bewusst, dass er da im Ghetto-Style irgendwie in weißer Bomberjacke quasi gedeepfaked wurde. Aber trotzdem ist es erfrischender Weise so, dass Papst Franziskus diese Technologie nicht verteufelt, sondern auch die positiven Seiten immer sieht und einmahnt, dass wir diese mächtigen Dinge für was Gutes einsetzen und nicht für etwas Schlechtes".
Auch im Umgang mit KI gehören Glauben und Zweifeln fest zusammen.
Mehr zum Thema "Vom Mut, zu vertrauen" in der Sendung STATIONEN in der ARD Mediathek.
Das ist die Europäische Perspektive bei BR24.
Sie interessieren sich für Religion, Kirche, Glaube, Spiritualität oder ethische Fragen? Dann abonnieren Sie hier den Newsletter der Fachredaktion Religion und Orientierung.