Deepfakes und die rechtlichen Konsequenzen

Ob Fotos, Videos oder sogar Audio-Dateien – sogenannte Deepfakes wirken realistisch, sie sind es allerdings nicht.

Sie wurden mittels KI entweder abgeändert oder verfälscht, meistens für scherzhafte Zwecke, teilweise aber auch zur bewussten Verbreitung von Fake-News.

Grundlegend sind Deepfakes an sich nicht illegal, aber unter Umständen verstößt die Erstellung gegen das allgemeine Persönlichkeitsrecht, das Urheberrecht oder führt zu anderen Tatbeständen wie Verleumdung, Beleidigung oder üble Nachrede.

Welche rechtlichen Konsequenzen Deepfakes haben können, erfährst Du hier.

Ein Gastbeitrag von Maria Lengemann.

Was versteht man unter einem Deepfake?

Wenn Medieninhalte durch künstliche Intelligenz verfälscht oder abgeändert werden und auf den Fotos oder Videos Personen zu sehen sind, die Dinge tun, die sie gar nicht getan haben, spricht man von Deepfakes. 

Gleiches ist auch mit Audio-Inhalten und Stimmen möglich ( siehe dazu: www.tutkit.com/de/blog/215-die-revolution-der-ki-stimmen-und-deepfakes-mehr-als-nur-spielerei ).

Es gibt daher auch verschiedene Arten von Deepfakes:

Face-Swap:
Dies ist eine Art „Klassiker“ der Deepfakes, bei dem das Gesicht in einem Bild oder einem Video mit dem Gesicht einer anderen Person ersetzt wird.

Audio-Deepfake:
Die zweite Form ist die synthetische Nachstellung der Stimme einer Person. Diese Form wird auch Voice-Swapping genannt.

Puppet-Master:
Bei dieser Form werden Kopfbewegungen und Mimik manipuliert und sowohl Stimmen als auch Gesten anderer Personen im Video übertragen.

Lip-Syncing:
Diese Deepfake-Variante manipuliert die Lippenbewegungen, sodass der Eindruck entsteht, dass tatsächlich diese Worte gesprochen werden, obwohl sie eigentlich von einer anderen Quelle stammen.

Gesichtssynthese:
Hierbei findet kein Austauschen von Gesichtern statt, sondern die Erstellung künstlicher Gesichter, die es nicht gibt.

Body-Pupperty:
Hierbei ersetzt die KI sämtliche Bewegungsabläufe. Der Körper kann dabei wie eine Art Marionette gesteuert werden.

Sind Deepfakes illegal?

Per se illegal sind Deepfakes nicht, wobei es sich hier um eine Art rechtliche Grauzone handelt. Einige Dinge sind aber bereits klar im Gesetz verankert, wobei nicht auszuschließen ist, dass es künftig weitere rechtliche Folgen geben könnte.

Es kann juristische Maßnahmen und Strafen nach sich ziehen ( siehe auch: www.anwalt.org/deepfakes ), wenn Folgendes eintritt:

• die Deepfakes wurden durch urheberrechtlich geschütztes Material erstellt
• die Deepfakes verletzen das Recht am eigenen Bild
• die Deepfakes verstoßen gegen ein Persönlichkeitsrecht (zum Beispiel in Form von Beleidigung, Verleumdung oder übler Nachrede)
• die Deepfakes verstoßen gegen die DSGVO
• die Deepfakes verstoßen gegen die persönliche Ehre

All die genannten Fälle können juristische Probleme nach sich ziehen und auch mit Strafen verbunden sein. Derzeit handelt es sich aber in der Regel um individuelle Einzel-Urteile.

Warum sind Deepfakes gefährlich?

Die Liste der möglichen Rechtsverletzungen zeigt bereits auf, dass Deepfakes ein großes Potenzial haben, ausgenutzt zu werden. Die Technik mag auf den ersten Blick vor allem faszinierend erscheinend, allerdings kann sie auch gleichzeitig zur Gefahr werden.

Hierzu einige mögliche Beispiele:

• Von einem Sportler, der sich schon seit Jahren aufgrund einer Krankheit aus der Öffentlichkeit zurückgezogen hat, ist plötzlich in einer Videobotschaft sichtbar. Dort vertritt er eine bestimmte politische Meinung, ruft zu Taten auf oder bestärkt spezielle Werbeangebote.
• Von einer prominenten Person wird in einer Zeitschrift eine Fotoserie abgedruckt mit einer angeblichen Liebschaft, hergestellt durch Deepfakes, sodass all dies überhaupt nicht ansatzweise real ist.
• In den Nachrichten werden beispielsweise intime Fotos oder private Audio-Nachrichten eines Politikers veröffentlicht, um kurz vor der Wahl den Ausgang zu manipulieren.

All diese Beispiele zeigen vor allem auf, dass das Potenzial nahezu grenzenlos ist. Die Gefahr allerdings ebenfalls. 

Es werden demnach nicht nur Urheberrechtsverletzungen begangen oder Persönlichkeitsrechte verletzt, sondern auch Fake-News oder generell unwahre Behauptungen, Videos, Bilder und Aufnahmen verbreitet. Das kann Menschen in das falsche Licht rücken, aber auch zu Handlungen aufrufen.

Besonders gefährlich an der Technologie ist die Authentizität der Deepfakes. Es ist nicht gerade selten, dass es durchaus problematisch sein kann, Deepfakes von der Realität zu unterscheiden. Genau das macht sie so gefährlich. 

Gleichzeitig besteht die Gefahr, dass einmal erstellte Deepfakes – selbst wenn im Nachgang aufgeklärt wurde, dass es sich um Fakes handelte – den Ruf einer Person nachhaltig schädigen.

Wie kannst Du ein Deepfake erkennen?

Sowohl Deepfakes als auch Falschinformationen im Allgemeinen sind nicht immer einfach zu erkennen. 

Die künstliche Intelligenz ist schon jetzt derart fortschrittlich ( siehe auch: www.bundesregierung.de/breg-de/schwerpunkte/umgang-mit-desinformation/deep-fakes-1876736 ), dass Du schon sehr genau hinsehen müsstest.

Achte bei Fotos vor allem auf Unregelmäßigkeiten ( wie sechs statt fünf Finger ) oder auf falsche Proportionen der abgebildeten Person. Wenn Dir etwas ungewöhnlich vorkommt oder das Bild „aufgesetzt“ wirkt, kann es sich um ein KI-erstelltes Deepfake handeln.

Bei Video-Aufnahmen wirken die Gesichtsausdrücke unnatürlich oder die Lippenbewegungen stimmen nicht vollkommen mit dem Gesagten überein.

Dennoch sind es oft nur kleine Details oder ein „Gefühl“, das ein Deepfake auffliegen lässt.

Viel wichtiger ist daher, nicht nur das Deepfake zu erkennen, sondern eher die damit verbreitete Botschaft infrage zu stellen.

Die Gefahr als solche geht nicht vom Bild oder Video aus, sondern von dem, was damit transportiert, symbolisiert oder gezeigt werden soll. 

Sämtliche Meldungen solltest Du daher mit einer guten Portion Skepsis betrachten. Wenn also beispielsweise nur eine einzige Quelle genannt wird, wäre es ratsam, zu überprüfen, ob es sich um eine echte News oder um eine Falschinformation handelt.

Generell gilt:

• hinterfrage Gesehenes kritisch und leite es nicht einfach weiter
• prüfe sowohl Quellen als auch Absender von Nachrichten
• versuche Bilder und Videos zu ihrem Ursprung zurückzuverfolgen
• nutze einen Faktenfinder, der von unabhängigen Organisationen oder von öffentlich-rechtlichen Medien bereitgestellt wird

Gibt es rechtliche Konsequenzen bei der Erstellung/Verwendung von Deepfakes?

Wie oben schon erwähnt kann es in vielen Fällen zu juristischen Folgen kommen, wenn Du selbst Deepfakes erstellst und damit gewisse Rechte verletzt.

Doch was ist, wenn Du selbst die Deepfakes weiterverbreitest?

Auch das kann juristische Folgen nach sich ziehen, da du in dem Fall ( falls es zum Beispiel eine Urheberrechtsverletzung ist ) ebenfalls urheberrechtlich geschütztes Material weiterverbreitest. 

Fazit

Der Umgang mit Deepfakes zeigt auf, welche Gefahren diese Technologie mit sich bringt. Personen können nachgestellt, Gesichter getauscht, ganze Stimmen synthetisch hergestellt werden.

Dass dabei so einiges schiefgehen und vor allem Falschmeldungen verbreitet werden können, ist die eine Sache. Die andere Sache sind die juristischen Folgen, die durch Urheberrechtsverletzungen oder Verletzungen der Persönlichkeitsrechte auftreten können. 

Über die Autorin:

Maria Lengemann ist Geschäftsführerin der Diginauten GmbH,
einer Content-Marketing-Agentur mit Sitz in Bayern.
Sie ist zudem seit 14 Jahren als Journalistin selbstständig und Romanautorin.