Wenn dein Gesicht in einem Porno zu sehen ist

Ein Essen mit einem Produzenten hat das Leben von Collien Ulmen-Fernandes verändert. Der Mann fing plötzlich an herumzudrucksen, erinnert sich die Schauspielerin und Moderatorin. „Er habe mit mir einige Zeit lang auf LinkedIn in Kontakt gestanden, sagte er.“ Etwa ein halbes Jahr lang sei der Austausch auf dem Karriere-Portal unverbindlich gewesen, dann habe sie angefangen, mit ihm zu flirten, Nacktbilder zu schicken, sogar Sexvideos.

Doch es war nicht die Schauspielerin, die hier kommunizierte. Weder die Fotos noch die Videos hatte sie aufgenommen. Es handelte sich um Deepfake-Pornos – Videos, in denen mit künstlicher Intelligenz (KI) das Gesicht einer Person auf den Körper einer anderen gesetzt wird. Betroffene wissen häufig nichts davon.

„Ich bin froh, dass der Produzent mir davon berichtet hat“, sagt Ulmen-Fernandes im Gespräch mit der Redaktion des WEISSEN RINGS. „Ich wurde unfreiwillig zu jemandem gemacht, der in dieser Branche Männer anbaggert.“ Sie empfindet dieses Vorgehen als perfide und massiv rufschädigend, spricht von „digitalem sexuellem Missbrauch“.

Collien Ulmen-Fernandes ging mit dem Thema auf die Produktionsfirma Tower Productions zu. Daraufhin entstand eine mehrteilige Dokumentation für das ZDF-Doku-Format „Die Spur“. Das Besondere: Ulmen-Fernandes brachte nicht nur die Idee ein, sondern sprach auch ausführlich über ihre eigenen Erfahrungen mit Deepfake-Pornos.

„Jetzt, wo ich weiß, in welchem Umfang ich Männer in der Branche angebaggert habe, ist es mir umso wichtiger, darauf aufmerksam zu machen, dass das nicht wirklich ich war“, sagt sie. „Man wird unfreiwillig ausgezogen.“ So beschreibt sie den Missbrauch in der Doku. Die neuen Deepfakes seien von echten Nacktbildern kaum zu unterscheiden.

Einblicke in ein verborgenes System

Wer steckt dahinter? Daten-Journalistin Marie Bröckling ist der Frage in einer sechsmonatigen Recherche nachgegangen. Sie wollte Einblicke in einen verborgenen Bereich gewinnen. Bröckling meldete sich auf Webseiten an, die Deepfake-Inhalte veröffentlichen, schrieb Szenemitglieder an. „Ich habe spätabends gearbeitet, wenn die Nutzer aktiv waren.“ Die ersten Kontakte führten sie zu weiteren Plattformen und schließlich zu den Herstellern.

Bröckling lernte ein System kennen, das von vielen Konsumenten, Produzenten, App- und Webseitenentwicklern getragen wird – und vielen Menschen schadet. „Es gibt Fälle im Schulkontext, in denen Jugendliche Deepfakes von Menschen aus ihrem Umfeld durch Apps erstellen.“ Aber auch Professionelle, die mit Spezialsoftware aufwändige Deepfakes von Prominenten anfertigen. Um für die Nutzer eine möglichst authentische Illusion zu schaffen, arbeiten sie teilweise tagelang, perfektionieren etwa die Augen- und Mundbewegungen. Eine Methode ist es, Bilder von einem Gesicht auseinanderzubauen und neu zusammenzusetzen. Den Produzenten gehe es nicht zwingend um Geld; manchen genüge die Anerkennung der Szene.

Was Macher und Konsumenten ignorieren: Die Videos zeigen Opfer. „Mir war klar, dass wir respektvoll mit den Informationen umgehen“, sagt Bröckling. Auf einer Porno-Messe spielte sie der Darstellerin Aische Pervers zwar einen Clip vor, in dem ein anderes Gesicht auf den Körper der Frau montiert worden war. Vorher hatte die Journalistin Pervers aber gefragt, ob sie das Material sehen möchte. Bröckling sprach vor den Interviews mehrfach mit allen Betroffenen, um sicherzustellen, dass sie dazu bereit waren.

In einer weiteren Szene trifft sich Collien Ulmen-Fernandes mit ihren Moderationskolleginnen Lola Weippert und Mareile Höppner. Beide sind ebenfalls Opfer von Deepfake-Pornos. Sie sprechen über ihre Erfahrungen und Gefühle – nicht alleine vor der Kamera, sondern gemeinsam, an einem Tisch, in einem lichtdurchfluteten Raum.

Mangel an Gesetzen?

Die Dokumentation endet damit, dass Ulmen-Fernandes zur Polizei geht und die Deepfakes mit ihrem Gesicht anzeigt. Noch habe sich daraus nichts ergeben. „Leider werden Frauen in Deutschland nicht hinreichend vor digitalem sexuellem Missbrauch geschützt“, kritisiert die Schauspielerin. Während der Recherche berichtete ihr eine Anwältin, dass bisher jeder ihrer Fälle wegen Geringfügigkeit eingestellt worden sei. „Ich habe eine Frau interviewt, die bereits zum fünften Mal umziehen musste, weil im Internet, neben Deepfake-Pornografie von ihr, mehrfach ihre Adresse veröffentlicht wurde“, so Ulmen-Fernandes. Männer hätten darunter Vergewaltigungsfantasien ausgetauscht.

Das Bundesministerium der Justiz (BMJ) sieht auf Anfrage der Redaktion des WEISSEN RINGS keine dringende Notwendigkeit für ein neues Gesetz zur Bekämpfung von Deepfakes. Es betont, die Paragrafen im Strafgesetzbuch, insbesondere zu Verleumdung und Verletzung von Persönlichkeitsrechten durch Bildaufnahmen, böten ausreichende Möglichkeiten zur Strafverfolgung. Deepfakes werden in keinem der Gesetze erwähnt.

„Ein eigenes Gesetz hätte eine Signalwirkung, Opfern, aber auch Tätern gegenüber“, meint Marie Bröckling. In Foren hätten Hersteller von Deepfakes und Konsumenten oft nichts von der Strafbarkeit gewusst. Das Justizministerium sollte Gerichte und Staatsanwaltschaften mehr auf die existierenden Gesetze hinweisen, fordert die Journalistin. „Nach meiner Recherche werden die Gesetze nicht angewendet, in Deutschland wurde bisher kein Fall geahndet.“

Collien Ulmen-Fernandes spricht sich dennoch dafür aus, Anzeige zu erstatten, da so die Fälle in der Statistik erfasst werden und das Ausmaß bekannt wird. „Dieser digitale sexuelle Missbrauch passiert vielen Frauen. Irgendwann kann der Staat nicht mehr wegsehen.“

„Die Scham muss die Seite wechseln“, dieser Satz hat die von Missbrauch betroffene Französin Gisèle Pelicot berühmt gemacht. Auch Ulmen-Fernandes kennt ihn. Damit die Forderung Wirklichkeit wird, müsse Tätern auch juristisch gespiegelt werden, dass ihr Handeln falsch ist, mahnt sie: „Wenn Fälle von bildbasiertem sexuellem Missbrauch jedoch wegen ‚Geringfügigkeit‘ eingestellt werden, sagt das ja auch etwas aus.“ Deepfake-Pornos können für die Opfer traumatische Folgen haben, deshalb will sich die Schauspielerin weiter öffentlich für Opferschutz einsetzen.