Die Verbreitung von Deepfakes stellt eine ernsthafte Bedrohung dar, sowohl für die Gesellschaft als auch für die Wirtschaft. Erfahren Sie mehr über die Auswirkungen und wie Sie sich davor schützen können.
Wissen Sie was ein „Deepfake“ ist? Rund ein Drittel der deutschen Bevölkerung kann laut einer Befragung des Digitalverbandes Bitkom e.V. mit dem Begriff nichts anfangen, wobei viele mit Sicherheit schon mal einen Deepfake gesehen oder gehört haben. Das Bild vom Papst in weißer Designer-Daunenjacke - Foto ging weltweit durch alle Medien. Auch Ex-US-Präsident Barack Obama oder die Sängerin Taylor Swift wurden bereits Deepfake-Opfer.
Wenn Sie jemand am Telefon mit vertrauter Stimme auffordert, in dessen Namen einen großen Geldbetrag zu überweisen – Vorsicht! Sind sie sicher, dass da wirklich ihr Chef gesprochen hat?
Ein Deepfake kann hinter einem Foto, einem Videoclip oder einer Audio-Datei stecken, die mit Hilfe künstlicher Intelligenz (KI) erzeugt wurden. Dabei werden Personen oder Situationen so authentisch dargestellt, dass man sie bei oberflächlicher Betrachtung für die Realität halten kann. Beispielsweise kann mittels eines sogenannten „Face Swaps”, das Gesicht in einem Video, durch das einer anderen Person spielerisch getauscht werden. Doch der offensichtliche Schein trügt, denn Deepfakes bilden nicht die Wirklichkeit ab – sie präsentieren uns eine konstruierte Realität.
Manipulierte Bilder gibt es schon sehr lange. Mit den Möglichkeiten der digitalen Bildbearbeitung haben es geschickte Grafikdesigner oder kreative Airbrush-Künstler schon vor Jahrzehnten verstanden, Fotos per Retusche zu optimieren oder fotorealistische Bilder zu erzeugen. In jeder Werbeagentur eine übliche Arbeit, aber früher war es noch recht aufwändig, einem Bild den Anschein einer anderen Identität zu geben. Der Begriff „Deepfake“ wurde erstmals im Jahr 2017 verwendet und beschrieb zunächst das Phänomen des „face swapping“. Dabei wurden Gesichter von Personen in Fotos oder Videos durch Gesichter anderer Personen ausgetauscht, die in dieser Bildumgebung niemals real zugegen gewesen sind. Seither ist die Technologie weit fortgeschritten. Heute zählen auch manipulierte Audioinhalte oder Sprachnachrichten zu den Deepfakes – man spricht dabei von „voice swapping“ – und auch die Übertragung von Körperbewegungen auf andere Personen ist möglich und wird „body-puppery“ genannt.
Die Technologie dahinter nutzt Methoden des Deep Learning, insbesondere künstliche neuronale Netze, um realistisch wirkende Fälschungen zu erzeugen. Die bunte Welt der Fotografien, Videoclips oder Audios wird zuweilen immer skurriler. Und je schneller wir digitale Inhalte wahrnehmen, umso häufiger sollten wir uns fragen, ob wir dem gerade gesehenen oder gehörten auch wirklich trauen können. Oder haben wir uns soeben von einem, durch technische Manipulation erstellten Deepfake täuschen lassen? Die Illusion kann durch zwei unterschiedliche Methoden entstanden sein:
Per Autoencoder
Beim „Autoencoder“ handelt es sich um ein neuronales Netzwerk, das komprimierte Darstellungen (Latent Space) von Eingabedaten lernen kann. Zur Erstellung eines Deepfakes wird ein „Encoder“ trainiert, die maßgeblichen Merkmale eines Bildes (z.B. die Gesichtszüge einer Person) aus dem Material-Input zu extrahieren und im „Latent Space“ zu präsentieren. Darauf greift dann ein „Decoder“ zu und generiert aus dem erlernten Material die gefälschten Daten des Deepfakes.
Durch Generative Adversarial Networks (GANs)
Hierbei arbeiten zwei neuronale Netzwerke zusammen, der „Generator“ und der „Diskriminator“. Während der Generator die gefälschten Daten aus dem Eingangsmaterial (z.B. Bilddateien oder Videoclips) erzeugt, versucht der Diskriminator, echte von gefälschten Daten zu unterscheiden. Die Konkurrenz zwischen den beiden Netzwerken erzeugt dabei sehr hochwertige Deepfakes, denn je besser der „Diskriminator“ darin ist, die Fehler zu erkennen, lernt der „Generator“, immer realistischere Fälschungen zu erzeugen.
Deepfakes können als Medieninhalte, die mit Hilfe von Künstlicher Intelligenz und maschinellem Lernen erzeugt werden, einerseits lustig sein, je nach Inhalt bergen Sie aber auch große Gefahren. Täuschend echt wirkende Foto-, Audio oder Videodateien können für Desinformationen oder Manipulation eingesetzt werden und sind damit ein großes Risiko für die Gesellschaft und die Wirtschaft. Können wir den Statements von Politiker*innen noch trauen, oder waren Ihre überraschenden Aussagen nur manipulierte Desinformationen? Die Gefahr eines schleichenden Vertrauensverlusts in die Medien, die Politik oder die Technologie wird die langfristige Folge sein. Schon heute wird zunehmend versucht, durch Deepfakes die Authentizität von Beweismitteln in Gerichtsverfahren in Frage zu stellen oder durch Wählertäuschung gezielte Wahlbeeinflussung zu betreiben.
Die betrügerische Absicht hinter Deepfakes ist oft nicht sofort erkennbar. Daher ist auch im Geschäftsleben größte Vorsicht geboten, wenn eine Information aus einer unbekannten oder nicht vertrauenswürdigen Quelle kommt. Was zunächst mit einer, vergleichsweise harmlosen Verletzung der Privatsphäre beginnt kann über Rufschädigungen bis zu massiver Erpressung reichen. Auch kann eine Fake-Information schnell zu falschen Entscheidungen führen, die unter Umständen sehr viel Geld kosten – so wie bei dem Beispiel des eingangs beschriebenen Anrufs des gefälschten Chefs - eine heute schon oft genutzte Methode von Cyberkriminellen. Für diese und die zahlreichen anderen Gefahren im Bereich der iT-Sicherheit haben wir bei der R.iT GmbH sehr offene Augen und Ohren. Um Imageschäden und hohe Kosten zu vermeiden, sollten sie einen professionellen Partner an Ihrer Seite haben, der Sie in Sachen Cybersecurity unterstützt.
Zur besseren Übersicht hier noch einmal die wesentlichen Gefahren durch Deepfakes:
So ist es eine erschreckende Situation, wenn in der bereits oben zitierten, repräsentativen Bitkom-Umfrage 81 Prozent der Befragten angaben, einen Deepfake nicht erkennen zu können. Und 44 Prozent gaben zu, sogar schon mal auf Deepfakes reingefallen zu sein. Folglich sind 70 Prozent der Meinung, dass man Fotos heute nicht mehr trauen kann, worin immerhin 60 Prozent eine Gefahr für die Demokratie sehen. Schließlich sagten 63 Prozent der Befragungsteilnehmer, dass Deepfakes ihnen sogar Angst machen.
Das Phänomen Deepfake sollte man also nicht als amüsante Spielerei von Internet-Freaks abtun. Daher wird in Digitalwirtschaft und Politik auch bereits eingehend über das Für und Wider einer Kennzeichnungspflicht diskutiert. Bitkom-Hauptgeschäftsführer Dr. Bernhard Rohleder: „Selbst wenn es eine Kennzeichnungspflicht oder gar ein Verbot gäbe, würden sich genau diejenigen nicht daran halten, vor denen man sich schützen möchte, wie beispielsweise Cyberkriminelle oder die Troll-Fabriken aus feindlich gesonnenen Staaten.“ Nicht nur aus seiner Sicht sind daher wohl eine breite Aufklärung und Förderung der Medienkompetenz im Kampf gegen Deepfakes unverzichtbare Maßnahmen.
Dazu ist es zunächst erforderlich, Deepfakes zuverlässig zu erkennen. Hilfestellung geben dabei bereits technologische Lösungen zur Erkennung von Deepfakes. Gefälschte Inhalte werden von diesen Tools identifiziert und blockiert. Um das Bewusstsein für Deepfakes jederzeit wach zu halten, sollte jedes Unternehmen seine Mitarbeiter*innen in wiederholten Schulungen über die Merkmale von Deepfakes und ihre Risiken informieren. Mit diesem Selbstschutz trägt man dann auch gleich dazu bei, Andere vor Deepfakes zu schützen. Denn, um den Absichten der Deepfake-Erfinder nicht ungewollt Vorschub zu leisten empfiehlt Dr. Bernhard Rohleder von Bitom e.V.: „Jede und jeder Einzelne sollte genau prüfen, ob ein Text, Bild oder Video authentisch ist, bevor man es zum Beispiel in sozialen Medien liket oder teilt.“
Deepfakes stellen sowohl wirtschaftliche als auch gesellschaftliche Risiken dar, die Unternehmen ernst nehmen sollten. Indem Sie sich über Deepfakes informieren, geeignete Maßnahmen zur Erkennung und Prävention ergreifen und klare Richtlinien für den Umgang mit Deepfakes implementieren, können Unternehmen ihre Sicherheit und ihr Image schützen. Es ist wichtig, dass Unternehmen sich proaktiv mit diesem Thema auseinandersetzen und sich kontinuierlich über neue Entwicklungen in der Deepfake-Technologie auf dem Laufenden halten.
Als iT-Beratung stehen wir Ihnen für Fragen gerne zur Verfügung. Sollten Sie auf der Suche nach einem starken Partner für Cybersecurity sein, zögern Sie nicht ein kostenloses Erstgespräch mit unserem Head of iT-Security zu buchen.
#Deepfakes #AI #Innovation #Cybersecurity