Der Fall der Schauspielerin Colin Fernandes ist derzeit in aller Munde. Sie hat öffentlich gemacht, dass über Jahre hinweg sogenannte Deepfakes – gefälschte Bilder und Videos - und pornografische Inhalte von ihr im Internet verschickt wurden. So etwas passiert nicht nur Prominenten - es kann jede und jeden treffen. Aber vor allem Mädchen und Frauen sind Opfer.
Deepfakes – Fälschungen im Netz
Deepfakes sind durch Künstliche Intelligenz erzeugte und manipulierte Videos oder Bilder, die zunehmend im Internet auftauchen und für Betroffene gravierende Folgen haben können. Häufig handelt es sich dabei um gefälschte pornografische Inhalte. Bei Deepfake-Pornografie werden reale Gesichter mithilfe von KI ohne Zustimmung in explizite Inhalte eingefügt oder vollständig künstlich erzeugt. Die Verbreitung erfolgt anschließend über soziale Netzwerke, spezialisierte Plattformen oder auch Bereiche wie das sogenannte Darknet, oft anonym. Ermittlungen gegen Betreibende sind jedoch schwierig, da diese ihre Identität gezielt verschleiern, etwa durch wechselnde IP-Adressen oder anonymisierende Dienste.
Meist trifft es Mädchen und Frauen
Die Erstellung solcher pornografischer Inhalte ist inzwischen auf vielen Wegen möglich – etwa über spezialisierte Apps, Online-Dienste oder digitale Marktplätze. Betroffen sind dabei fast ausschließlich Frauen, weshalb Fachleute von einer geschlechtsspezifischen Form digitaler Gewalt sprechen. Insbesondere Frauen des öffentlichen Lebens – etwa aus Politik, Wissenschaft oder Medien – geraten häufig ins Visier.
Strengere Gesetze und eine strengere Durchsetzung wird gefordert
Rechtlich besteht in Deutschland bislang kein eigener Straftatbestand für nicht einvernehmliche Deepfake-Pornografie. Das Bundesjustizministerium prüft jedoch, ob bestehende Gesetze ausreichend greifen. Bundesjustizministerin Stefanie Hubig setzt sich für strengere Regelungen sowie eine begrenzte Speicherung von IP-Adressen ein. Zudem plant die Bundesregierung eine Reform des Cyberstrafrechts mit besonderem Fokus auf bildbasierte sexualisierte Gewalt.
Auf europäischer Ebene verpflichtet eine Richtlinie der EU die Mitgliedstaaten, missbräuchliche Deepfakes künftig ausdrücklich unter Strafe zu stellen. Bis spätestens 2027 sollen entsprechende Regelungen umgesetzt werden. Bereits in Kraft ist der Digital Services Act, der Plattformen dazu verpflichtet, illegale Inhalte schneller zu entfernen – auch wenn die praktische Umsetzung bislang noch Defizite zeigt. Als Vorreiter gilt Spanien, wo strengere Gesetze zum Schutz vor sexueller und digitaler Gewalt bestehen. Auch Irland hat bereits Maßnahmen ergriffen und eine spezielle Kommission eingerichtet, die schnell auf Deepfake-Fälle reagieren soll.
So kann man sich vor der verbreitung von Fälschungen schützen
Betroffene haben die Möglichkeit, Anzeige zu erstatten, woraufhin die Behörden den Einzelfall prüfen. Wenn man selbst, oder jemand aus der Familie Opfer von pornografischen Deepfakes wird, ist es wichtig, systematisch vorzugehen – sowohl aus rechtlicher als auch aus praktischer Sicht:
1. Beweise sichern:
Sichern von Screenshots, Links und alle verfügbaren Informationen zu den betreffenden Inhalten. Möglichst Datum, Plattform und Fundort dokumentieren, um später belastbare Nachweise zu haben.
2. Inhalte melden und entfernen lassen:
Inhalte direkt bei der Plattform melden, auf der sie veröffentlicht wurden. Große Anbieter wie Google stellen zudem Formulare bereit, über die entsprechende Inhalte aus den Suchergebnissen entfernt werden können. Zu beachten ist aber, dass dies die Inhalte nicht automatisch von der Ursprungsseite löscht – diese muss zusätzlich kontaktiert werden.
3. Anzeige erstatten:
Es gibt die Möglichkeit eine Strafanzeige bei der Polizei zu stellen. Auch wenn es bislang keinen spezifischen Straftatbestand für Deepfake-Pornografie gibt, können bestehende Gesetze zum Schutz der Persönlichkeit greifen. Die Behörden prüfen jeden Fall individuell.
4. Rechtliche Schritte prüfen:
Es kann sinnvoll sein, juristischen Rat einzuholen. Eine Anwältin oder ein Anwalt kann dabei unterstützen, zivilrechtlich gegen die Verantwortlichen vorzugehen, etwa durch Unterlassungsansprüche oder Schadensersatzforderungen.
5. Unterstützung in Anspruch nehmen:
Man muss die Situation nicht allein bewältigen. Organisationen wie HateAid, Weisser Ring oder ANNA NACKT bieten Beratung, rechtliche Unterstützung und Hilfe im Umgang mit der Belastung.
6. Online-Präsenz beobachten:
Regelmäßig überprüfen, ob neue Inhalte im Umlauf sind, beispielsweise durch Suchanfragen nach dem eigenen Namen oder Bildern. So kann man frühzeitig reagieren.
Es gibt auch Firmen und Dienste, die gegen Bezahlung dabei helfen, Deepfakes (auch pornografische Inhalte) im Internet aufzuspüren und löschen zu lassen. Dort kauft man im Grunde Zeit, Expertise und juristischen Druck – keine Garantie. Bezahlte Dienste lohnen sich vor allem, wenn man stark betroffen ist, viele Inhalte kursieren und schnelles Handeln gefragt ist. Für einzelne Fälle können kostenlose Wege oft ähnlich effektiv sein.
Mehr zum Thema im SWR:
Mehr Infos finden Sie auch hier:
Die Homepage zur Sendung Alle aktuellen Themen der Landesschau hier!
Stets am Puls des Landes und seiner Menschen: Die Sendung zeigt interessante Geschichten und Informationen zu aktuellen Themen in Rheinland-Pfalz.
"Keine Likes für Lügen" Fake News und KI - Wie schützen wir uns vor Täuschung im Netz?
Über die sozialen Medien erreichen Fake News oder Desinformationen jede und jeden ganz direkt. Mit künstlicher Intelligenz entstehen täuschend echte Videos oder Bilder.
Welche Informationen werden gespeichert? Wie Meta unsere Daten nutzen will
Meta AI will Informationen von seinen Plattformen für das Training seiner KI nutzen. Welche Risiken wirft das auf und wie können Nutzende sich noch bis zum 26. Mai 2025 wehren?
EU will mehr Verbraucherschutz beim Onlinehandel mit asiatischen Billiganbietern Temu & Co.: Wie Fakeshops und echte Qualität erkennen?
Viele Verbraucher lassen sich von supergünstigen Preisen bei Shopping-Portalen locken. Verbraucherschützer warnen: Oft entspricht die günstige Ware nicht europäischen Sicherheitsstandards. Deshalb hat die EU beschlossen, Maßnahmen einzuleiten, um den Verbraucherschutz im Onlinehandel zu garantieren. Wir geben Tipps, wie man Fake-Shops erkennt und auf welche Aspekte Verbraucher im Onlinehandel achten sollten.