KI, „Deepfakes“ und Face-Swap-Apps können Personen in Pornos austauschen

Im Internet gibt es eine Vielzahl an Foren, in denen man sich zur Aufgabe macht, die Gesichter anderer möglichst realistisch auf bloßstellendes Material zu montieren – etwa Nackt- oder Erotikbilder, aber vor allem auch Hardcore-Pornos. Und das, ohne dass sie sich jemals so vor einer Kamera gezeigt hätten. Insbesondere mit den neuen Möglichkeiten von Künstlicher Intelligenz erlauben es viele beliebte Smartphone-Apps, mit nur wenigen Schritten jedes beliebige Gesicht in Videoaufnahmen zu montieren. Die Ergebnisse werden durch sogenanntes Machine-Learning immer besser und können in der Regel kaum mehr vom Original unterschieden werden. Aus einem einfachen Profilfoto werde so schnell ein kurzer Videoclip mit dem Gesicht der betreffenden Person. Die Beratungsstelle für Opfer von digitaler Gewalt verweist auf Studien, denen zufolge rund 90 bis 95 Prozent aller Deepfakes nicht-einvernehmliche Pornografie betreffen. Etwa 90 Prozent davon sei gegen Frauen gerichtet. Doch wie ist die Rechtslage bei diesen Fake-Pornos?

Was sind Deepfakes?

Moderne Algorithmen machen es möglich: Millionen von Klicks fahren dabei vor allem die Videos ein, die mit fortgeschrittenen KI-Algorithmen erstellt werden, die sog. „Deepfakes“. Der Prozess nennt sich „maschinelles Lernen“. Dafür wird eine große Menge an Trainingsdaten gesammelt, in denen das Gesicht gut zu erkennen ist. Etwa Szenen mit bestimmten Filmstars, oder Aufzeichnungen von bekannten Streamerinnen oder YouTuberinnen. Diese werden dann analysiert, bis die KI quasi eine Vorstellung von den Gesichtern und Details bekommt, und können dann so auf das Zielmaterial kopiert werden, dass jeder Gesichtszug des Originals gleichbleibt – dafür aber mit einem anderen Gesicht. Und das kann alles sein, von Playboy-Bildern bis hin zu Internet-Pornos.

Etwas weniger realistisch, aber dafür viel einfacher, sind Face-Swap-Apps, die sich inzwischen jeder aufs Handy laden kann. Eine schnelle Suche nach „Face Swap“ in Googles Play Store förderte 30 Anwendungen zutage. Die beiden beliebtesten Apps – Reface und FaceApp – wurden allein jeweils mehr als 100 Millionen Mal heruntergeladen. Teilweise reicht da ein Click und ein bisschen Tüftelei, um ähnlich realistische Ergebnisse wie bei Deepfakes zu kriegen. Mit Face-Swap-Apps lassen sich Film- und Videoszenen derart manipulieren, dass der Kopf einer Person auf den Körper einer Figur oder eines Darstellers in einem Film montiert oder auch ein ganzes Filmset virtuell nachgebaut werden kann.

Dies war auch früher schon möglich, jedoch recht aufwendig und optisch recht einfach als „Fake“ auszumachen. Mittlerweile ist jedoch ein Algorithmus entwickelt worden, der mit Hilfe von künstlicher Intelligenz und sogenanntem Machine-Learning – wobei der Algorithmus besser wird, je öfter er abgewandt wird – täuschend echt zum Beispiel Gesichter anderer Menschen auf die der Darsteller projiziert. Dadurch eröffnen sich auch für streitsüchtige Ex-Partner nun ganz neue Möglichkeiten: Selbst wenn man zur Zeit der Beziehung nie sein Sexleben per Videokamera mitgeschnitten hat, kann man nachträglich trotzdem einen fremden Porno so modifizieren, dass auf einmal der (nun) ungeliebte Ex-Partner mitspielt.

Verletzung der DSGVO

Die Frauen, deren Gesichter auf Pornos montiert werden, werden zunächst in ihrem allgemeinen Persönlichkeitsrecht verletzt. Das Allgemeine Persönlichkeitsrecht ist ein durch Art. 2 Abs. 1 i.V.m. 1 Abs. 1 Grundgesetz geschütztes Grundrecht. Einklagbar wird es aber erst, wenn man Gesetze findet, in denen es geschützt wird.

Früher richtete sich das Ganze nach dem Kunsturhebergesetz, welches in §§ 22, 23 KUG das sog. Recht am eigenen Bild schützte. Das ist aber, seitdem es die DSGVO gibt, höchstwahrscheinlich nur noch anwendbar, wenn jemand Bilder von Personen zu – im weitesten Sinne – journalistischen Zwecken verbreitet. Darum geht es hier ja nun wirklich nicht, es sind wohl eher ziemlich schmuddelige und höchst private Zwecke. Damit scheidet das KUG wahrscheinlich aus und wir sind im Anwendungsbereich der EU-Datenschutzgrundverordnung (DSGVO).

Die Rechtslage nach der DSGVO ist schnell geklärt: Bilder von Personen sind personenbezogene Daten nach DSGVO. Und das systematische Speichern für die Deepfakes oder schon das Benutzen des Bildes für ein Face Swap bzw. Deepfake kann hier schon so eine Verarbeitung sein. Spätestens dann, wenn man das aus seinem stillen Kämmerlein hinaus ins weite Internet trägt. Um personenbezogene Daten zu verarbeiten, braucht man eine Rechtsgrundlage. Diese findet man grundsätzlich in Art. 6 DSGVO. Dort findet sich aber keine Rechtsgrundlage. Denn eingewilligt hat die Person sicher nicht. Eine andere Rechtsgrundlage kommt bei solch verwerflichem Handeln nicht in Betracht. Damit ist das Deepfaken von Pornos zunächst eine Verletzung fremden Datenschutzrechts.

Strafbarkeit von Deepfakes

Eine Strafbarkeit ergibt sich daher zunächst aus dem Bundesdatenschutzgesetz nach § 42 BDSG. Hier droht eine Geldstrafe oder Haftstrafe bis zu 2 Jahren, wenn man bei der Datenverarbeitung die „Absicht“ hat, einen anderen zu schädigen. Gerade bei Rachepornos von Ex-Freunden wird das der Fall sein.

Strafrechtlich kann man außerdem den Ersteller solcher Fake-Pornos wegen Beleidigung, Verleumdung oder übler Nachrede (§§ 185 – 187 Strafgesetzbuch, StGB) anzeigen. Da die Darstellung der Person in kompromittierenden, sexuellen Positionen in der Regel ihre Würde berührt und das Einsetzen per Deepfake eine Missachtung der Person selbst darstellt, kommt die Beleidigung nach § 185 StGB in Betracht. Soweit damit behauptet wird, das Opfer habe tatsächlich an den konkreten, abgebildeten Handlungen teilgenommen, ist auch die Üble Nachrede nach § 186 oder die Verleumdung nach § 187 StGB denkbar. Da ja indirekt behauptet wird, die Person hätte bei einem Porno mitgemacht, kommt hier die Verleumdung in Betracht, die mit maximal 5 Jahren Freiheitsstrafe bei öffentlicher Verbreitung im Internet den höchsten Strafrahmen hat

Nach § 201a Strafgesetzbuch – der hat es erst 2015 so ins StGB geschafft – ist es außerdem verboten, Bildaufnahmen zugänglich zu machen, die geeignet sind, das Ansehen einer Person erheblich zu gefährden. Das könnte jedenfalls bei tatsächlichen Nacktaufnahmen zutreffend sein. Zumindest ließe sich diskutieren, ob das bei solchen Deepfake-Montagen auch zutrifft, obwohl das Gesetz hier nur von „Aufnahmen“ spricht. Das Ergebnis wäre auch hier eine Geldstrafe oder Freiheitsstrafe mit bis zu 2 Jahren.

Es gibt auch noch § 184k StGB. Dieser Paragraph stellt eher darauf ab, dass wirklich unbefugt Aufnahmen von „den Genitalien, dem Gesäß“ oder „der weiblichen Brust“ gemacht und dann verbreitet werden. Das ist bei Deepfakes eher nicht anzunehmen, denn hier stammen die entsprechenden Körperteile ja gerade nicht von der verletzten Person.

Wie können sich Betroffene gegen Rechtsverstöße wehren?

Für Betroffene wird es zunächst am Wichtigsten sein, das betreffende Video – zum Beispiel ein Porno in dem man durch den Deepfake „mitspielt“ – unzugänglich zu machen und eine Weiterverbreitung zu unterbinden. Die schnellste Möglichkeit ist ein Vorgehen gegen die Sozialen Netzwerke, bei denen solche Videos verbreitet werden. Diese sind verpflichtet, solche rechtsverletzenden Inhalte schnell zu prüfen und ggf. zu löschen, um sich nicht haftbar zu machen. Nach dem neuen Digital Services Act (DSA) sind sie außerdem verpflichtet, ein leicht zu bedienendes Beschwerdeverfahren anzubieten. Auch gegen Google kann man auf Basis von Art. 17 DSGVO vorgehen und verlangen, dass Verlinkungen auf andere Webseiten-Inhalte entfernt werden. Schließlich ist ein Vorgehen gegen alle Webseiten selbst möglich, auf denen so ein Material zu finden ist.

Außerdem ist der zivilrechtliche Weg einer einstweiligen Verfügung und Klage gegen den Veröffentlichenden möglich. Auf die Rechtsverletzungen gestützt kann man auch Schadensersatzansprüche geltend machen. Zum einen aus Art. 82 DSGVO, der auch immateriellen Schadensersatz vorsieht, eine Art Schmerzensgeld. Gerade bei Rachepornos dürfte das auch nicht gering ausfallen. Zum anderen aus einer Verletzung des Persönlichkeitsrecht der abgebildeten Person aus Art. 2 Abs. 1, Art. 1 Grundgesetz (GG). Eine solche Montage ist eine schwere Verletzung der persönlichen Ehre und betrifft sogar die sog. Intimsphäre, also den absolut geschützten Kern des Persönlichkeitsrechts, wenn durch diese Abbildung bzw. Bearbeitung eine fehlerhafte oder herabwürdigende Darstellung des Betroffenen entsteht. Hierzu hat der Bundesgerichtshof nach einem Beschluss des Bundesverfassungsgerichts auch geurteilt: Eine unrichtige (weil verfälschte) Information dient überhaupt nicht der Meinungsbildung und unterliegt dieser daher nicht. Der Eingriff in die Intimsphäre der Betroffenen sei daher auch nicht durch die „künstlerische Neuschöpfung“ oder eine Nutzung im Pressekontext von den jeweiligen Grundrechten gerechtfertigt. Hierbei ist jedoch zu beachten, dass ein Schmerzensgeld wegen der erlittenen Persönlichkeitsverletzung nur dann gewährt wird, wenn „das Persönlichkeitsrecht derart schwer verletzt worden ist, dass ein unabwendbares Bedürfnis nach einem finanziellen Ausgleich besteht“ (KG Berlin, Urt. v. 15.05.2007, Az. 9 U 236/06). Bei Rachepornos ist das sicher der Fall.

Unterlassungsansprüche bestehen auch nicht nur gegen den ursprünglichen Urheber des geänderten Videos, sondern auch gegen alle, die das Video weiterverbreitet haben. Sollten Sie dies mit Kenntnis von der Rechtsverletzung getan haben, kommen auch gegen sie Schadenersatz- und Geldentschädigungsansprüche in Betracht.

Außerdem kann man das Ganze den Datenschutzaufsichtsbehörden anzeigen, die dann ermitteln müssen. Dem Verbreiter bzw. Deepfake-Monteur drohen dann nach Art. 83 Abs. 5 DSGVO Bußgelder bis zu einer Grenze von 20.000.000 Euro.

Ebenfalls sollte man den Täter bei der Polizei anzeigen und Strafantrag stellen.

Schließlich kann sogar der Urheber der verwendeten Vorlage den Täter wegen Verstößen gegen das Urheberrecht auf Schadensersatz- oder Unterlassungsansprüche in Anspruch nehmen. Denn zum einen sind solche Vervielfältigungen ohne Einwilligung des Urhebers rechtswidrig. Zudem könnte die Montage eine Entstellung des Werkes darstellen, die das sog. Urheberpersönlichkeitsrecht verletzt.

Kann die „Videomontage“ überhaupt legal sein?

Kann es nicht aber auch legale Montagen geben – z.B. solche, die zu belustigenden oder künstlerischen Zwecken gefertigt wurden oder die – wie eine Karikatur auch – dazu dienen, meine Meinung zu untermauern? Hier kommt es im Einzelfall darauf an, ob die Bearbeitung dazu geeignet ist, potenzielle Zuschauer über das Zustandekommen des Inhaltes zu täuschen und sie dazu bringt, zu glauben, das Video sei echt.

Bezogen auf die konkrete Zulässigkeit dieser sogenannten Deepfakes ist uns zwar noch kein Urteil bekannt. Jedoch haben sich deutsche Gerichte in der Vergangenheit immer wieder mit bearbeiteten und zusammengeschnittenen Fotos oder Videos beschäftigt und hierfür einige Feststellungen getroffen: Zwar sei nach Ansicht des LG Offenburg (Urt. v. 12.03.2011, Az. 2 O 415/10) nicht automatisch eine Verletzung der Rechte des Abgebildeten anzunehmen, nur weil er oder sie auf einem zusammengeschnittenen Foto abgebildet ist. Aber wenn durch diese Abbildung bzw. Bearbeitung aber eine fehlerhafte oder herabwürdigende Darstellung des Betroffenen entsteht, verletzt es diesen in seinen Persönlichkeitsrechten und er hat einen Unterlassens- und eventuell auch einen Schadensersatzanspruch. Hierzu hat der Bundesgerichtshof (BGH / Urt. v. 08.11.2005, Az. VI ZR 64/05) nach einem Beschluss des Bundesverfassungsgerichts (BVerfG / Beschl. v. 14.02.2005, Az. 1 BvR 240/04) auch geurteilt: Eine unrichtige (weil verfälschte) Information dient überhaupt nicht der Meinungsbildung und unterliegt dieser daher nicht. Der Eingriff in die Intimsphäre der Betroffenen sei daher auch nicht durch die „künstlerische Neuschöpfung“ oder eine Nutzung im Pressekontext von den jeweiligen Grundrechten gerechtfertigt.

Letztlich folgt daraus, dass kaum Fälle denkbar sind, in denen eine täuschend echte Deepfake-Montage tatsächlich legal verbreitet werden darf, da diese Technik fast immer dazu geeignet ist, andere über den Inhalt zu täuschen. Zumindest dürfte immer eine Verletzung des Rechts am eigenen Bild vorliegen.

Meinungskrieg mit KI? – Fake-News werden in Zukunft realistischer

Dadurch, dass Künstlicher Intelligenz immer besser wird und es immer schwieriger wird, den technischen Eingriff in das Originalmaterial nachzuvollziehen bzw. nachzuweisen, gibt es also einige Gefahren – für betroffene Personen, Urheber und ggf. auch Unternehmen.

Auch kann durch die Nutzung einer Fake-App das Gesicht von Menschen zum Beispiel innerhalb von journalistischen Beiträgen vertauscht werden. Dies bietet ein enormes Missbrauchspotential für solche, die bereits jetzt „alternative facts“ oder Fake-News im Internet verbreiten.

ahe