Sachinformation

Deepfakes sind gezielt gestaltete Bild- und/oder Tonmanipulationen. Durch das Ersetzen von Bildausschnitten in Videos, zum Beispiel das Kopieren des Gesichts eines Menschen auf das Gesicht eines anderen, werden neue realistisch wirkende Medieninhalte geschaffen. Deepfake-Methoden nutzen das maschinelle Lernen, um die Fälschungen herzustellen.

Methodische Überlegungen

Die Schüler*innen kennen, zum Beispiel durch die entsprechenden Einheiten von „so geht MEDIEN“, den Begriff „Fake News“ und haben vielleicht schon Methoden kennengelernt, wie sie eine Fake News entlarven. Das Phänomen „Deepfake“ geht noch einen Schritt weiter. Es verdeutlicht, dass mit zunehmend verbesserter Technologie eine zunehmend kritische Haltung gegenüber dem Realitätsgehalt der Medien erforderlich ist.

Für einige Schüler*innen eröffnen sich hier vielleicht Fantasien, selber kreativ tätig zu werden und damit kommen sie an ein aktuelles Beispiel für angewandte Medienethik. Entsprechend geht es um folgende Punkte: Sensibilisierung, Auseinandersetzung mit den Wirkungen, Reflexion über die Folgen, Wertekonflikte thematisieren, ein Ethos entwickeln und Handlungsoptionen aufzeigen (Grimm et al. 2018).

Angestrebte Kompetenzen

Von der Existenz von Deepfakes wissen, mögliche Folgen abschätzen, ein eigenes Ethos entwickeln.

Benötigtes Material

Die Unterrichtseinheit

Hintergrund zu Deepfakes

Das Wort „Deepfake“ ist eine Zusammensetzung aus „Deep Learning“ und „Fake“. Deep Learning ist ein Teilbereich des maschinellen Lernens. Dabei werden große Datenmengen mit Hilfe von Algorithmen in viele einzelne Schichten strukturiert, Merkmale extrahiert und klassifiziert. Die gewonnenen Muster können immer wieder mit anderen Daten verknüpft werden. Die Maschine kann dadurch lernen und Einordnungen, Entscheidungen oder Prognosen treffen. Das ganze System der Datenstrukturierung, der Analyse und des Lernens wird auch künstliches neuronales Netz genannt.

Eine Programmierung kann zum Beispiel zunehmend darauf trainiert werden, wie eine bestimmte Person in den verschiedensten Perspektiven und Zusammenhängen aussieht, und bei neuen Bildern entscheiden, ob es sich um diese Person handelt. Die Maschine kann lernen, wie „unangemessene Bilder“ aussehen und diese beim Upload in soziale Netzwerke blockieren oder aufgrund vorhandener Daten vorhersagen, wie sich Kunden eines Unternehmens verhalten werden.

Beim Deepfake werden Entwicklungen des Deep Learnings genutzt, um Videos zu fälschen. Dabei wird zum Beispiel der Kopf einer Person, die gar nicht im Film vorkommt, auf den Körper eines Akteurs oder einer Akteurin im Film gesetzt. Die Aufnahmen beider Gesichter – also vom Original und der „Fälschung“ – werden mit Hilfe von Algorithmen analysiert und in Punkte unterteilt. Es wird jeweils ein künstliches neuronales Netz über die Aufnahmen gelegt, und zwar nicht nur von einem Bild, sondern von möglichst vielen verschiedenen Aufnahmen der Gesichter in unterschiedlichen Positionen, mit unterschiedlicher Mimik und unterschiedlichen Aufnahmebedingungen wie Helligkeit oder Kontrasten. Der Computer kann die Wahrscheinlichkeit berechnen, wie gut die Punkte von Gesicht A und von Gesicht B übereinander passen und die Gesichter entsprechend übereinanderlegen.

Weil von prominenten Schauspieler*innen bereits sehr viele Aufnahmen im Internet vorhanden sind, werden sie bevorzugt Opfer von Deepfakes, so zum Beispiel Nicolas Cage. Die Gesichter von Schauspielerinnen und Sängerinnen wurden bereits häufig in Pornos kopiert. Einer Untersuchung des niederländischen Unternehmens Deeptrace von 2019 zu Folge sind 96 Prozent der entdeckten Deepfakes pornografisch.

Mit Apps und frei verfügbarer Software kann jedermann kurze Clips und eine nicht perfekte Qualität von Deepfakes erstellen. Qualitativ hochwertige Deepfakes, die zudem nicht nur ein paar Sekunden, sondern viele Minuten lang dauern, sind aufwendig, teuer in der Produktion und kommen selten vor.

Neben den Bildern, können auch Audios gefälscht werden. Aus Stimmproben lässt sich mit Hilfe von Software in Wirklichkeit nicht Gesagtes erzeugen. Derzeit ist noch relativ viel Ausgangsmaterial nötig, damit es neu gemixt und die Lücken von der künstlichen Intelligenz ergänzt werden können. Die Zukunftsperspektive ist, dass aus wenigen Sekunden Originalton beliebig viele Sequenzen erstellt werden können.

Gemeinsam den Film „Deepfakes – wie Videos gefälscht werden“ ansehen

Die Klasse schaut sich gemeinsam den Film „Deepfakes – wie Videos gefälscht werden“ an.

Begriffe klären

Im Klassengespräch wird noch einmal gesichert: Was ist ein Deepfake und wie funktioniert er.

Was würdet ihr deepfaken?

In Partner*innenarbeit diskutieren die Schüler*innen das Arbeitsblatt. Dabei werden sie selber gedanklich aktiv und überlegen, was sie gerne deepfaken würden. Sie entscheiden sich für zwei Varianten und überlegen für diese dann, welche Folgen entstehen könnten. In einer Pro-Contra-Liste suchen sie Argumente für oder gegen dieses Medienhandeln.

Im Klassengespräch werden die erarbeiteten Punkte zusammengetragen.

Kann ein Deepfake legal sein?

In Partner*innenarbeit wird die Aufgabe 4 des Arbeitsblattes bearbeitet und überlegt, welche Aussagen wohl richtig sind. Das Ergebnis:

Bezogen auf die konkrete Zulässigkeit dieser sogenannten Deepfakes ist in Deutschland noch kein Gerichtsurteil bekannt.

Verfälschte Informationen, insbesondere, wenn nicht deutlich wird, wie sie entstanden sind, dienen nicht der Meinungsbildung. Sie sind ein Eingriff in die Intimsphäre der Betroffenen und nicht durch „künstlerische Neuschöpfung“ oder eine Nutzung im Pressekontext gerechtfertigt.

Eine täuschend echte Deepfake-Montage kann danach so gut wie nie legal verbreitet werden, denn die Technik ist dazu ausgelegt, andere über den Inhalt zu täuschen.

Tipps zur Worterklärung

In der Unterrichtseinheit werden verschiedene Medienbegriffe verwendet. "so geht MEDIEN" bietet in seinem Lexikon erklärende Videoclips dazu an, die optional in der Unterrichtsstunde eingesetzt werden können.