"Papa, Papa, mir ist etwas Schreckliches passiert! Ich habe einen Autounfall gehabt. Ich glaube, ich habe jemanden totgefahren. Ich bin hier bei der Polizei. Du musst mir unbedingt helfen", sagt die Stimme einer jungen Frau am Telefon. Am anderen Ende der Leitung ist ihr Vater Christoph Ewert, der sich damals gerade auf einer Berg-Wanderung befindet. "Ich war total schockiert", erzählt der Münchner. Sowohl er als auch seine Frau sind sich sicher, mit ihrer Tochter Luisa zu sprechen, die sich gerade in den USA aufhält. "Ich habe dann gefragt: Luisa, wo bist Du?", erzählt Ewert. Dann sei der Apparat weitergegeben worden an eine Frau, die sich als Mitarbeiterin der Polizei in Chicago vorgestellt habe. Die Tochter befände sich in Untersuchungshaft und die Kaution betrage 170.000 Dollar.
Diese Geschichte schildert Christoph Ewert in der aktuellen Ausgabe von "Der KI Podcast", einem BR Podcast, der sich mit den Veränderungen beschäftigt, die künstliche Intelligenz antreibt. Veränderungen, die nicht nur Bildung, Gesellschaft und Wirtschaft betreffen, sondern auch die Welt des Verbrechens. Denn als Christoph Ewert die Wanderung abbricht, um sofort nach München und von dort aus nach Chicago zu fliegen, meldet sich Luisa erneut – und diesmal ist es wirklich Luisa. "Und die sagt völlig verschlafen: 'Papa, was ist los? Ich liege im Bett, ich schlafe noch'. Und damit war alles aufgelöst", erzählt der Hochschullehrer.
Betrug per Stimm-Klon
Ewert ist vermutlich Opfer einer neuen Betrugsmasche geworden. Kriminelle nutzen künstliche Intelligenz, um Stimmen zu imitieren, etwa die von Angehörigen – um so an das Geld von deren Familienangehörigen zu gelangen. Gut möglich, dass die Betrüger auf Luisas öffentlichen Instagram-Profil zugegriffen haben, um an das notwendige Stimm-Material zu kommen.
Dass man Stimmen heute nicht mehr unbedingt vertrauen kann, das musste bereits 2019 ein britischer Geschäftsführer feststellen. Betrüger klonten die Stimme des Chefs der deutschen Muttergesellschaft, baten um eine Überweisung und ergaunerten so 220.000 Euro.
Neue Maschen dank KI
Aber Stimm-Klone sind nur eine Methode, mit der Kriminelle die neue Technologie nutzen. Längst geht die Sorge um, dass Sprachmodelle wie ChatGPT dazu verwendet werden könnten, Spammails oder Computerviren zu generieren. Europol warnt beispielsweise, KI könnte Kriminellen ganz neue Betrugsmöglichkeiten eröffnen und eine Analyse der Universität London sieht die Gefahr, dass autonom fahrende Fahrzeuge als Waffe eingesetzt werden könnten.
Längst gibt es Unterwelt-Varianten von ChatGPT & Co.
In der Tat könnte Künstliche Intelligenz nicht nur Büroangestellte produktiver machen, sondern auch Verbrecher. Als das Team von Open AI ChatGPT auf mögliche Risiken testet, da verrät das Sprachmodell kurzerhand en détail, wie man das die Droge Crystal Meth herstellt und gibt Tipps zum Bau eine Bombe. Mittlerweile wurden längst Sicherungsmechanismen eingebaut, sodass man den KIs fragwürdige Inhalte nicht mehr so einfach entlocken kann. Allerdings wird immer wieder versucht, die Sicherheitsmechanismen der Systeme zu umgehen. Zudem gibt es mittlerweile auch Open Source-Sprachmodelle, die man auf dem eigenen Server laufen lassen kann – ohne Sicherheitsfilter. Und so bilden sich nach uns nach auch Unterwelt-Varianten von ChatGPT, Google Bard & Co. heraus.
Trau, schau, wem!
Allerdings gibt es auch Faktoren, die den Einsatz kriminellen KI-Einsatz bremsen. Das Betreiben von eigenen Sprachmodellen ist beispielsweise recht teuer. Zudem kann KI nicht nur Kriminellen helfen, sondern auch denjenigen, die Kriminalität bekämpfen, allen voran natürlich den Ermittlungsbehörden. Und dann sind da natürlich auch noch die Nutzer, die hoffentlich nach und nach ein Gespür für KI-Betrügereien entwickeln werden. "Trau, schau, wem!", das gilt generell im Internet - und im KI-Zeitalter umso mehr.
🎧 Welche Auswirkungen bringt die KI in Arbeitswelt, Bildung und Gesellschaft mit sich? Wie kann man künstliche Intelligenz selbst im Alltag nutzen? Und was passiert, wenn jeder Inhalt im Internet auch ein KI-Fake sein könnte? Im „KI Podcast“ stellen sich Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jeden Mittwoch den großen und kleinen Fragen der KI-Revolution – und trennen die Fakten vom Hype. Sie finden den Podcast in der ARD-Audiothek und überall, wo es Podcasts gibt.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht’s zur Anmeldung!