EU-Parlament beschließt Verbot von Programmen für sexualisierte Deepfakes

Die EU will Programme zur Erstellung sexualisierter Deepfakes verbieten. Ein Schritt für mehr Schutz vor digitaler Gewalt, die vor allem Frauen betrifft.

Was früher technisch aufwendig war, geht heute in Sekunden: Aus einem einzigen Foto lassen sich täuschend echte sexualisierte Bilder oder Videos erzeugen, sogenannte Deepfakes. Oft ohne Wissen, Zustimmung oder Kontrolle der Betroffenen.

Öffentliche Aufmerksamkeit bekommt das Thema vor allem durch Berichte von Betroffenen. Immer wieder schildern insbesondere Frauen, dass intime oder sexualisierte Bilder von ihnen im Umlauf sind, die sie nie selbst erstellt haben. Das zeigt, wie weit verbreitet entsprechende Technologien inzwischen sind – und wie schwer es für Betroffene ist, sich gegen die Herstellung und Verbreitung solcher Inhalte zu wehren. Auch die Schauspielerin Collien Ulmen-Fernandes hat das Thema in einer ZDF-Dokumentation aufgegriffen: Darin begleitet sie die Recherche zu sogenannter Deepfake-Pornografie und spricht auch über eigene Erfahrungen mit digitaler sexualisierter Gewalt.

Was dabei entsteht, ist eine neue Form bild- und videobasierter sexualisierter Gewalt. Aus echten Fotos werden Inhalte generiert, die sich schnell verbreiten und für die Betroffenen kaum wieder aus dem Netz zu entfernen sind. Für sie bedeutet das oft mehr als eine einmalige Verletzung der Privatsphäre. Es ist ein dauerhafter Kontrollverlust über das eigene Bild und die eigene Würde. 

Die Gewalt durch Deepfakes nimmt zu und trifft vor allem Frauen

Mit der rasanten Entwicklung von KI-Anwendungen wird diese Form des Missbrauchs immer leichter zugänglich. Ein Beispiel dafür ist der Einsatz sogenannter „Nudifier“-Apps, von denen inzwischen zahlreiche in den Appstores frei verfügbar sind. Sie können aus alltäglichen Bildern in wenigen Sekunden sexualisierte Darstellungen jeglicher Art generieren. Eine Einwilligung der dargestellten Person braucht es dafür nicht. 

Auch große Social-Media Plattformen nutzen solche Tools. Analysen der Plattform Tweet Binder deuten darauf hin, dass Elon Musks Chatbot Grok Anfang des Jahres innerhalb von nur neun Tagen rund 1,8 Millionen entsprechende Darstellungen generierte.

Auffällig ist dabei die ungleiche Verteilung der Betroffenen: Studien gehen davon aus, dass rund