100.000 Fakes entdeckt

Plötzlich nackt: KI entblößt Frauen wider Willen

23.10.2020 14:41

Der Traum vom Röntgenblick - die Anwendung „DeepNude“ ließ ihn im Juni 2019 kurzzeitig wahr werden und zauberte Frauen auf Fotos mittels künstlicher Intelligenz förmlich die Kleider vom Leib. Aus Angst vor Missbrauch zogen die Macher jedoch den Stecker. Ein Jahr später scheint eine Weiterentwicklung der „Striptease“-App ihr Unwesen zu treiben: Sicherheitsforscher fanden mehr als 100.000 gefälschte Nacktfotos von Frauen, die über den Messengerdienst Telegram öffentlich geteilt wurden.

„DeepNude“ entfernte mithilfe sogenannter neuronaler Netzwerke auf hochgeladenen Fotos von Frauen deren Kleidungsstücke und erstellte automatisch ein neues, nacktes Bild derselben Person. Die Macher wurden vom Erfolg ihrer Anwendung offenbar selbst überrascht: Wegen des großen Ansturms gingen die Server immer wieder in die Knie. Ebenso groß wie das Interesse war allerdings auch die Aufregung über die „Striptease“-App. Nur wenige Tage nach der Veröffentlichung zogen die Entwickler deshalb Ende Juni 2019 den Stecker.

In einem Tweet erklären sie, dass das Projekt lediglich der Unterhaltung dienen sollte. „Wir dachten, dass wir jeden Monat ein paar Exemplare verkaufen würden. (...) Nie hätten wir geglaubt, dass die Sache viral gehen würde und wir nicht in der Lage wären, den Traffic zu kontrollieren“, räumten sie damals ein - zumal die Anwendung gar „nicht so großartig“ sei und nur mit „bestimmten Fotos“ funktioniere.

Ungeachtet der implementieren Sicherheitsmaßnahmen - die Nacktfotos wurden mit einem „Fake“-Wasserzeichen entsprechend gekennzeichnet - , sei die Gefahr eines Missbrauchs aber auch zu groß. Auf diese Art und Weise wolle man kein Geld verdienen. „Natürlich werden ein paar Kopien von ‚DeepNude‘ im Netz geteilt werden, aber wir wollen nicht diejenigen sein, die es verkaufen“, schrieben die Entwickler und schlossen mit den Worten: „Die Welt ist noch nicht bereit für ‚DeepNude‘.“

Mehr als 100.000 gefälschte Nacktfotos entdeckt
Mehr als ein Jahr später sorgen erneut gefälschte Nacktfotos für Schlagzeilen. Entdeckt hat sie das auf die Erkennung sogenannter Deepfakes spezialisierte Unternehmen Sensity in Kanälen des Messengerdienstes Telegram. Den Experten zufolge wurden dort bis Ende Juli 2020 104.852 solcher Fotos veröffentlicht und verbreitet. Die Anzahl dieser Bilder stieg in den letzten drei Monaten bis Juli um 198 Prozent.

Bei der Mehrheit der abgebildeten Frauen (70 Prozent) handle es sich um Privatpersonen, deren Fotos entweder von Social-Media-Konten oder aus privatem Material stammten, so die Forscher in einem Blogeintrag. Unter den gefälschten Nacktfotos finden sich demnach teils auch Bilder von Minderjährigen.

Produziert werden die Bilder von einem sogenannten Bot, an den Telegram-Nutzer über die Chat-Funktion bloß ein Bild zu schicken bräuchten. Kurze Zeit später erhielten sie - kostenlos - das von sämtlicher Kleidung künstlich bereinigte Foto, um es über Telegram und andere soziale Medien weiterzuverbreiten. Wer hinter dem Programm steckt, ist laut Sensity nicht bekannt. Den Experten nach handelt es sich um eine Weiterentwicklung von „DeepNude“. Auffällig ist, dass es das Programm nur in Englisch und Russisch gibt. Laut Sensity wurde ein Großteil der Bilder in den öffentlichen Kanälen von Nutzern aus Ländern der ehemaligen Sowjetunion geteilt.

Obwohl die gefälschten Nacktfotos als solche zu erkennen sind und eher unrealistisch aussehen, könnten sie für „öffentliche Scham- oder Erpressungsangriffe“ missbraucht werden, warnt Sensity. Die in der Untersuchung des Unternehmens aufgezeigten Entdeckungen dürften übrigens lediglich die Spitze des Eisbergs sein: Kurz vor der Veröffentlichung des Berichts stießen die Experten auf eine neue Webseite, auf der der „Striptease“-Bot beworben wird. Die Seite zeigte laut Sensity „erstaunliche Statistiken“ über die Anzahl der Personen, auf die der Bot abzielt. Demnach wurden bislang mehr als 680.000 gefälschte Nacktfotos öffentlich geteilt.