KI erzeugt Fake-Pornos

Eine KI-Anwendung im Netz montiert beliebige Gesichter in einen Fake-Porno: Die Folgen solcher Fakes können verheerend sein: Wir brauchen dringend ethische Regeln.

Das Netz hat gerade mal wieder eine Scheußlichkeit ausgespuckt, die neu und abstoßend ist – uns alle aber wohl noch lange beschäftigen wird. Wie Technology Review berichtet, bietet jemand auf einer Website einen perversen Dienst an: Hier kann jeder das Porträtfoto einer Person hoch laden und auf Knopfdruck ein Hardcore-Video erstellen, mit der betroffenen Person als Akteurin oder Akteur. Wohlgemerkt ein Pornovideo, kein Foto.

Gesichtserkennung

Neue Dimension: Fake-Technologie für alle verfügbar

Die Ergebnisse sehen – aus technischer Sicht – keineswegs perfekt aus. Wer nur einen flüchtigen Blick darauf wirft, hält die Videos aber für echt. Man muss schon genauer hinsehen, um Verdacht zu schöpfen: Da ist dann mal ein Gesicht etwas verzerrt oder es stimmt irgendwie etwas mit der Belichtung nicht. Am Ende spielt das aber auch keine Rolle. Fest steht: Es ist jetzt möglich, mithilfe einer öffentlich zugänglichen KI-Anwendung im Netz solche Videos zu erzeugen.

Wer nun sagt: „Das gab’s schon immer!“, der liegt nicht ganz richtig. Zweifellos kursieren schon seit Jahren immer wieder Fotos und Videos im Netz, die zum Beispiel Prominente in Pornos zeigen – vor allem Frauen sind Opfer.  Aber das wurde in der Regel noch manuell angefertigt und war mit hohem Aufwand verbunden. Der sich allerdings „lohnt“, da für solche Fotos und Videos im Netz Geld gezahlt wird.

Enthemmt: Jeder kann Fake-Pornos erstellen

Nun kann aber jeder, ohne den geringsten Aufwand und ohne jeden technischen Sachverstand solche Videos herstellen. Auch Jugendliche, um solche Videos im Klassen-Chat herzuzeigen. Oder Verrückte, die einfach mal pöbeln wollen. Nicht zu vergessen gewissenlose PR-Agenturen, die Kampagnen gegen Personen fahren und oft genug zu allen sich bietenden Mitteln greifen.

Mit einem Wort: Wer nur enthemmt genug ist, muss keine technischen Hindernisse mehr überwinden. Es gibt Fake-Pornos für die Massen.

Das war abzusehen. Denn populäre Apps wie ReFace oder Wombo gibt es schon länger: Auch sie ermöglichen, auf Knopfdruck ein Gesicht in einen Film zu montieren, etwa in Hollywood-Szenen oder Musik-Videos. Darüber hinaus ist vor einigen Monaten eine KI-Anwendung namens DeepNude aufgetaucht, mit der Frauen auf Fotos „virtuell ausgezogen“ werden können. Auch das war schon ein Dammbruch.

Eindeutig ethische Grenzen überschritten

Diese neue KI-Anwendung überschreitet eindeutig ethische Grenzen. Denn die psychischen Folgen der Opfer sind unabsehbar – aber immer grausam. Egal, von wem ein Pornovideo kursiert: Es wird immer Schaden entstehen. Vor allem seelische Schäden. Aber auch Einschnitte in die Karriere: Es sind schon Frauen mit solchen Fake-Pornos erpresst worden.

Es braucht dringend ethische Rahmenbedingungen für KI-Anwendungen. Weltweit. Und wenn Anwendungen zum Einsatz kommen, die gegen diese Bedingungen verstoßen, müssen sie unverzüglich eingezogen werden. Vollständig.

Vimeo

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von Vimeo.
Mehr erfahren

Video laden

 

Fake-Videos sind zur Popkultur geworden – jeder kann sie anfertigen