Penetrationstest - Jan Kahmen - 23. September 2022

Was sind Deepfakes?

deepfakes_de_4b73c01468

Deepfakes gehören mittlerweile zu den größten Gefahren im Internet. Aber was ist ein Deepfake? Dieses Schlagwort bezeichnet eine täuschend echt wirkende Audio- oder Videomanipulation.

Inhaltsverzeichnis

Deepfakes gehören mittlerweile zu den größten Gefahren im Internet. Aber was ist ein Deepfake? Dieses Schlagwort bezeichnet eine täuschend echt wirkende Audio- oder Videomanipulation. Solche ausgeklügelten Manipulationen lassen sich ausschließlich mit einer KI herstellen. Problematisch ist darüber hinaus, dass Deepfake Software frei im Internet verfügbar ist. Solche Anwendungen können Gesichter und Stimmen automatisiert nachahmen. Dies erhöht die Anforderungen an das interne Security Management für Unternehmen enorm.

Diese Risiken bringen Deepfakes

Deepfakes sind online ein immenses Problem für Unternehmen. Schließlich ist es nicht einfach, ein Deepfake zu erkennen. Deshalb ist eine gesteigerte Security Awareness entscheidend, wenn es darum geht, die Firma zu schützen. Zu den bedeutendsten Risiken gehören: Ist ausreichend Audio- und Videomaterial verfügbar, können Cyberkriminelle Stimmen oder Videos fälschen. Auf diese Weise gelingt es ihnen, Verträge mittels Video-Ident-Verfahren abzuschließen oder Überweisungen zu tätigen. Ein Deepfake Video könnte Angestellte zu Handlungen bewegen, die dem Unternehmen schaden. Das ist beispielsweise dann möglich, wenn eine Audiomanipulation eines Vorgesetzten schädigende Anweisungen erteilt. Im öffentlichen Bereich kann das Image von Personen oder Unternehmen des öffentlichen Interesses ebenfalls Schaden nehmen. Erstellt ein Deepfake Generator Videos oder Audioaufnahmen mit falschen Inhalten, können daraus prekäre Situationen entstehen. Ein Deepfake beschränkt sich per Definition nicht ausschließlich auf Unternehmen und Personen öffentlichen Interesses. Deshalb besteht auch ein berechtigtes Risiko für Privatpersonen, die regelmäßig online aktiv sind. Schließlich lässt sich mit solchen Manipulationen Unruhe stiften. Dies kann dazu führen, dass Beziehungen zerbrechen oder der eigene Ruf gefährdet wird. Übrigens: Je mehr Audio- und Videomaterial der Deepfake Software vorliegt, desto besser sind die Deep Fakes. Deshalb sind Personengruppen, die online regelmäßig aktiv sind, besonders anfällig für diese Form der Manipulation.

Deepfakes: Konkrete Bedrohungsszenarien

Während es früher nur Profis möglich war, Deep Fakes zu erstellen, gelingt dieses Vorhaben heute auch Laien. Um mediale Identitäten zu manipulieren, sind lediglich die richtige Deepfake Software und ausreichend Audio- oder Videomaterial notwendig. Daraus ergeben sich zahlreiche Bedrohungsszenarien: Biometrie umgehen: Der Deepfake Generator erstellt Manipulationen inzwischen in Echtzeit. Deshalb stellen sie ein hohes Risiko für biometrische Systeme dar. Fernidentifikationsverfahren sind ebenfalls anfällig für Deepfakes, wodurch sich Verträge abschließen oder Überweisungen tätigen lassen. Desinformation: Informationskampagnen führen meist Schlüsselpersonen im Unternehmen durch. Aber: Was ist ein Deepfake mit Fokus auf Desinformation? In solchen Fällen werden falsche Informationen so manipuliert, dass sie die Zielgruppe für glaubwürdig hält. Social Engineering: Möchten Cyber-Kriminelle an Daten gelangen, können sie mithilfe von Deepfake Videos gezieltes Phishing durchführen. Beispielsweise lässt sich die Stimme des Vorgesetzten dazu verwenden, falsche Arbeitsanweisungen zu geben und Unternehmen zu schaden. Verleumdung: Mit einer Deepfake App lassen sich Medieninhalte manipulieren oder gezielt generieren. Dadurch ist es möglich, Personen in beliebigen Situationen darzustellen und ihre Reputation zu untergraben.

Gesichter fälschen

Seit einigen Jahren gibt es unterschiedliche KI-basierte Verfahren, die es erlauben, Gesichter in Videos zu manipulieren. Diese Prozesse verfolgen grundsätzlich drei Ansätze: Face Reenactment: Durch das Reenactment ist es möglich, die Mimik und die Kopfbewegung der Zielperson zu kontrollieren. Deshalb eignet sich dieser Ansatz dazu, täuschend echte Videos zu erstellen. Auf diese Weise gelingt es, mit der Deepfake App hochmanipulative Inhalte zu generieren. Schließlich entsteht der Eindruck, eine Person hätte Aussagen getroffen, die jedoch von einer anderen Person stammen. Face Swapping: Hierbei lassen sich Gesichter in einem vorhandenen Video austauschen. Ziel bei diesem Ansatz ist es, dass die neue Person dieselbe Mimik, Blickrichtung und Gesichtsbeleuchtung vorweist. Dadurch wirken die Deep Fakes noch realistischer, als es bei früheren Vorgehensweisen der Fall war. Zusätzlich funktioniert dieses Verfahren nahezu in Echtzeit mit einem minimalen Zeitversatz. Identität: Ziel dieses Ansatzes ist es, Pseudo-Identitäten zu synthetisieren. Stellt jemand ein solches Deepfake online, zielt derjenige darauf ab, eine neue Person zu erzeugen. Diese existiert ausschließlich im Internet, nicht jedoch in der realen Welt. Bisher sind bei diesem Verfahren hochauflösende Nahaufnahmen möglich, die eine exzellente Detailtiefe erreichen.

Stimmen fälschen

Auch bei gefälschten Stimmen ist es nicht einfach, einen Deepfake zu erkennen. Es handelt sich dabei um eine manipulierte Stimme. Diese stellt bei Voice Conversion oder Text-to-Speech ein hohes Risiko dar. Dabei entsteht kein Deepfake Video, sondern eine reine Audioaufzeichnung. Bei Text-To-Speech wird ein Text vorgegeben und anschließend in ein Audio-Signal umgewandelt. Dabei entspricht der semantische Inhalt dem vorgegebenen Text. Voice Conversion hingegen konzentriert sich darauf, ein Audiosignal in eine Zielstimme zu konvertieren. Da beide Verfahren idealerweise die spezifischen Charakteristika der Zielperson berücksichtigen, wirken die Stimmen täuschend echt. Das führt letztlich dazu, dass sie sowohl Menschen als auch automatisierte Systeme täuschen können.

Texte fälschen

KI-Modelle sind längst dazu in der Lage, komplexe Aufgaben zu übernehmen. Beispielsweise lassen sich mit ihrer Hilfe große und zusammenhängende Textdatenbanken generieren. Da diese Texte auf tiefen neuronalen Netzen basieren, sind sie gehaltvoll und wirken ebenfalls täuschend echt. Ob eine Maschine oder ein Mensch sie geschrieben hat, lässt sich auf den ersten Blick nicht feststellen. Gleichzeitig kann eine Deepfake App Fortsetzungen zu Texten erzeugen, Chat-Antworten generieren oder längere Nachrichten verfassen. Deepfakes und erfolgreiche Gegenmaßnahmen Ist ein Deepfake online, lässt er sich kaum von den realen Gegebenheiten unterscheiden. Das macht Deepfakes in vielen Fällen zu einem potenziellen Risiko. Trotzdem ist es möglich, diesen Gefahren entgegenzuwirken. Die Grundlage dafür bildet ebenfalls die KI. Erfolgreiche Gegenmaßnahmen lassen sich am besten mit derselben Technologie implementieren, die auch Deepfakes nutzen. Der Grund dafür ist: Menschen können die immense Menge an Daten niemals innerhalb eines realistischen Zeitraums auswerten. Dafür ist es notwendig, die KI zunächst mit dem gefälschten Material zu trainieren. Die Kombination aus echten Inhalten und Deepfakes hilft der künstlichen Intelligenz dabei, mögliche Unstimmigkeiten zu erkennen. Was bringen automatisierte Gegenmaßnahmen? Da es für Menschen meist nicht möglich ist, einen Deepfake zu erkennen, ist eine andere Vorgehensweise notwendig. Automatisierte Gegenmaßnahmen basieren auf derselben KI, die auch Cyber-Kriminelle für ihre Deepfakes nutzen. Der Vorteil von automatisierten Lösungen ist, dass die Algorithmen selbstständig reagieren, wenn sie eine gefälschte Datei erkennen. Damit fördern diese Mechanismen die AI in Cybersecurity. So helfen sie Unternehmen dabei, sich vor den Risiken zu schützen.

So lässt sich das Bewusstsein und Erkennen von Deepfakes schulen

Um künftig Deepfakes erkennen zu können, sind Kompetenzen und automatisierte Maßnahmen unausweichlich. Der Einsatz von KI, regelmäßige Assessments und turnusmäßige Schulungen helfen dabei, Manipulationen rechtzeitig als solche zu erkennen. Dabei ist die Schulung der KI grundsätzlich einfacher als die zwischenmenschliche Wissensvermittlung. Das liegt nicht zuletzt daran, dass die Deepfakes immer besser werden. Während für die künstliche Intelligenz lediglich Vergleichsmaterial notwendig ist, benötigen Mitarbeitende abweichende Informationen. Wichtig ist es beispielsweise, Anweisungen oder Aussagen stärker zu hinterfragen. Gleichzeitig hilft die Sensibilisierung für Sicherheitsaspekte dabei, Unstimmigkeiten schneller zu erkennen und aktiv zu werden.

Fazit: Deepfakes zu erkennen ist immer schwieriger - Gegenmaßnahmen müssen sich mit entwickeln!

Ein Deepfake bezieht sich gemäß Definition auf manipuliertes Video- und Audiomaterial. Während solche Aufnahmen in der Vergangenheit leicht zu erkennen waren, ist dies heute nicht mehr möglich. Stattdessen sind KI und Sicherheitsexperten, die sich auf digitale Forensik fokussieren, notwendig. Diese versuchen, die Fälschungen als solche aufzudecken. Dennoch entwickeln sich die Deepfakes stetig weiter und es ist absehbar, dass sie immer besser werden. Es ist also notwendig, Medienmaterial und Informationen gleichermaßen zu hinterfragen. Gleichzeitig ist eine ständige Weiterentwicklung der Gegenmaßnahmen unausweichlich. Denn auch wenn die Mitarbeitenden sensibler für die Gefahren im Cyberspace werden: Die Cyberkriminellen entwickeln ihre Techniken stetig weiter.

Kontakt

Neugierig? Überzeugt? Interessiert?

Vereinbaren Sie ein unverbindliches Erstgespräch mit einem unserer Vertriebsmitarbeiter. Nutzen Sie den folgenden Link, um einen Termin auszuwählen: