KI-„Deepfakes“

Erster Bundesstaat stellt Fake-Pornos unter Strafe

Hier hat ein Deepfake-Macher das Gesicht von „Wonder Woman“-Star Gal Gadot in einen Porno eingebaut.

(Bild: SendVids)

Ein paar Fotos oder Videoschnipsel aus dem Internet genügen, um mithilfe künstlicher Intelligenz täuschend echt aussehende Fake-Pornos zu erstellen. Dass diese von IT-Kennern „Deepfakes“ genannten Filmchen zumeist nicht mit Zustimmung der Foto- und Videospender entstehen und es nur eine Frage der Zeit ist, bis sich Gerichte mit der Thematik beschäftigen müssen, liegt auf der Hand. Ein erster US-Bundesstaat hat Deepfake-Pornos deshalb nun unter Strafe gestellt.

Wie das IT-Portal „CNET“ berichtet, hat der US-Bundesstaat Virginia es unter Strafe gestellt, eine Person ohne ihre Zustimmung in Deepfake-Pornos einzubauen. Dafür wurde ein bestehendes Gesetz abgeändert: Wer Nacktbilder oder Sexszenen fälsche, um „Zwang auszuüben, jemanden zu belästigen oder einzuschüchtern“, macht sich demnach strafbar. Die lokale Politik hatte die Gesetzesänderung bereits im März auf den Weg gebracht, seit Montag ist die neue Regelung in Kraft.

Hier sehen Sie ein harmloses Beispiel für die Möglichkeiten von „Deepfakes“, bei dem Internetnutzer den neuen gegen den alten Han Solo getauscht haben: 

Künstliche Intelligenz zur Bildmanipulation hat in den letzten Jahren erstaunliche Fortschritte gemacht. Brauchte es zu Beginn noch ein größeres Set Fotos von jemandem, um ihn wider Willen in Sexfilme einzubauen, gab es zuletzt schon Tools, die Fake-Videos aus einem einzelnen Foto erstellen. Zuletzt gab es auch Aufregung um eine App, die man mit einem beliebigen Foto einer Frau füttert, damit diese ein Nacktfoto daraus generiert.

(Bild: thinkstockphotos.de)

In IT-Sicherheitskreisen sieht man angesichts dieser Möglichkeiten eine neue Form des Cybermobbings entstehen. Wenn jeder mit einem Smartphone und dem Foto einer Person diese auf Knopfdruck in potenziell kompromittierende Clips einbauen kann, senkt das die technologische Hürde, jemanden mit gefälschtem Material zu tyrannisieren. „Das Gesicht und die Mimik eines Menschen in ein Video einzubauen ist keine Frage des technischen Könnens, sondern nur mehr eine Frage des Willens“, sagt dazu Richard Werner vom japanischen IT-Sicherheitsanbieter Trend Micro.