Islamwissenschaftlerin über Deepfakes - „Der Dschihad wird besonders intensiv im Cyberspace geführt“
INTERVIEW MIT ISABEL LANG am 9. Februar 2024
Die Nutzung von Künstlicher Intelligenz (KI) zur Erstellung und Bearbeitung von Fotos, Videos und Audiodateien revolutioniert auch die Erstellung von Propagandamaterial in islamistischen Milieus. Wie Islamisten von Deepfakes profitieren, erklärt die Islamwissenschaftlerin Isabel Lang.
Veranstaltung des Bayerischen Netzwerks für Prävention und Deradikalisierung gegen Salafismus / dpa
Anzeige
Autoreninfo
Ilgin Seren Evisen schreibt als freiberufliche Journalistin über die politischen Entwicklungen in der Türkei und im Nahen Osten sowie über tagesaktuelle Politik in Deutschland.
Isabel Lang ist Islamwissenschaftlerin und Extremismusexpertin. Sie war für die hessische Polizei tätig und hat zusammen mit Eliane Ettmüller vor kurzem das Buch „Islamismus. Eine analytische Einführung für Polizei und Sicherheitsbehörden“ im Verlag Deutsche Polizeiliteratur GmbH veröffentlicht.
Frau Lang, für Islamisten bietet der Nahostkonflikt großes Potential, um vor allem junge Menschen für ihre Zwecke zu instrumentalisieren. Beobachten Sie einen Anstieg der islamistischen Rekrutierungsversuche auf deutschem Boden?
Islamisten – auch in Deutschland – gehören definitiv zu den Hauptprofiteuren des Nahostkonflikts. Seit dem 7. Oktober, dem Tag des Terrorangriffs der Hamas auf Israel, ist er wieder verstärkt in den Fokus von Islamisten auch in Deutschland gerückt. Sie posten mehr antisemitische Inhalte und versuchen, durch diese auch ihre Zielgruppe, das sind insbesondere junge Menschen, zu emotionalisieren und zu rekrutieren. Islamisten sind dabei sowohl online in sozialen Medien als auch zum Beispiel bei Demonstrationen sehr aktiv. Antisemitismus ist ein Hauptmerkmal des Islamismus. Es werden zum Beispiel Verschwörungsnarrative mit stereotypen Inhalten über Israel und Juden transportiert.
Wie gelingt islamistischen Influencern der Seelenfang?
Islamisten nutzen dabei ganz unterschiedliche Mittel. Sie verfügen zum Teil über hervorragende Medienkenntnisse – das betrifft sowohl Methoden der Aufbereitung und Präsentation als auch der Manipulation ihrer Adressaten. Dabei nutzen sie zielgruppengerecht gestaltete Videos und Bildbotschaften in verschiedenen sozialen Medien. Islamisten knüpfen von den Inhalten her an die Situation der jungen Menschen wie etwa vermeintliche Diskriminierungserfahrungen an und vermitteln darauf basierend ihre Ideologie. Wenn junge Menschen Rat wegen unterschiedlicher Themen im Internet suchen, dann landen sie ebenfalls leicht auf islamistischen Seiten und geraten in solche Communities.
Welche Möglichkeiten ergeben sich hier durch Deepfakes?
Isabel Lang / privat
Der Dschihad wird schon lange nicht mehr nur in Präsenz, sondern auch – und das besonders intensiv – im Cyberspace geführt. Und da sagt ein Bild mehr als tausend Worte. Die Möglichkeit, dass man jetzt Fotos, Videos und Audios mit Hilfe einer KI erstellen oder manipulieren kann, revolutioniert die Produktion von Propagandainhalten. Das ist wie der Umstieg von der Schreibmaschine auf den Computer. Für Deepfakes benötigt man lediglich einen PC mit einer guten Grafikkarte und kostenlose und frei verfügbare Apps. Deepfakes sind etwas, was eigentlich jeder machen kann. Und die Qualität wird immer besser. Gerade bei hoch emotionalen Konflikten wie dem Nahostkonflikt können solche Deepfakes durch islamistische Gruppierungen zur Emotionalisierung und Rekrutierung ihrer Anhänger eingesetzt werden.
Warum sind Deepfakes so gefährlich? Islamisten haben ja auch bereits vorher Bilder und Videos zur Propaganda und Manipulation eingesetzt.
Das ist richtig. Ein mit Photoshop bearbeitetes Bild ist jedoch deutlich leichter zu erkennen als ein KI-manipuliertes Bild. Deepfakes sind ein Mittel zum Verbreiten von Fake News mit deutlich besseren Werkzeugen. Fake-Inhalte lassen sich hier wesentlich schwerer identifizieren. Ein Beispiel ist etwa der gefälschte Videoanruf eines angeblichen Vitali Klitschko bei Franziska Giffey, wobei die deutsche Politikerin jedoch noch rechtzeitig misstrauisch wurde. Man kann also beispielsweise Videos von Personen erstellen und diese mit ihrer eigenen Stimme sagen lassen, was man möchte. Deepfakes können von Extremisten verschiedener Couleur, aber auch von fremden Geheimdiensten, Hackern und in der Wirtschaftsspionage eingesetzt werden.
Welche Gruppe ist besonders empfänglich für Deepfakes?
Auf Deepfakes hereinfallen kann eigentlich jeder von uns. Insbesondere da diese immer besser gemacht sind. Die Technologie der KIs entwickelt sich Jahr für Jahr rasant weiter. Insbesondere dann, wenn Personen das Gefühl haben, dass durch die Bilder oder Videos ihre Meinung über etwas oder jemanden bestätigt wird, sind sie geneigt, diesen zu glauben. Besonders verletzbar sind aber Personen mit einer geringen Medienkompetenz.
Können Sie uns Beispiele von Deepfakes und islamistischer Propaganda nennen?
Ein Beispiel ist das Netzwerk um Muhammad Qasim aus Pakistan. Er wird von diesem als Imam Mahdi – eine endzeitliche islamische Figur – betrachtet, und seine Anhänger glauben, dass die Apokalypse bevorsteht. Daniel Siegel und Bilva Chandra haben dies für das Global Network on Extremism & Technology analysiert und gezeigt, wie dort Bilder, Video- und Audioinhalte mit Hilfe von KI manipuliert werden. Unter anderem werden Inhalte genutzt, um zu versuchen, andere Staaten zu destabilisieren, und Personen werden Dinge in den Mund gelegt, die diese angeblich gesagt hätten, wie zum Beispiel dem ehemaligen amerikanischen Präsidenten Barack Obama, der Muhammad Qasim angeblich als Mahdi anerkennt.
Hat die derzeitige Eskalation des Nahostkonflikts durch den Angriff der Hamas auf Israel zu einem Anstieg von Deepfakes geführt?
Ja, definitiv. Sowohl im Russland-Ukraine-Krieg als auch seit dem Terrorangriff der Hamas auf Israel gibt es einen Anstieg der Nutzung von Deepfakes durch verschiedene Akteure in diesen Konflikten. Ein Beispiel ist ein Bild von einem Baby unter Trümmern, das im pro-palästinensischen Bereich gepostet wurde. Bei dem Bild handelt es sich um ein Deepfake. Das Baby hat mehr Finger als üblich, und sein Gesicht wirkt extrem unnatürlich. Es gab aber auch ein bekanntes Deepfake-Video des palästinensischstämmigen Models Bella Hadid, die darin Israel unterstützte, obwohl sie sich sonst pro-palästinensisch äußert.
Sie haben die Anzahl der Finger und das unnatürliche Gesicht des Babys in dem Bild genannt. Welche weiteren Möglichkeiten gibt es, um Deepfakes zu identifizieren?
Es gibt Möglichkeiten, Deepfakes mit Hilfe von KI zu erkennen, aber auch diese identifiziert derzeit noch nicht alle Deepfakes korrekt. Die KI benötigt genug Informationen zu Methoden der jeweiligen Deepfake-Erstellung, um sie zu erkennen. Der menschliche Faktor spielt auch hier noch immer eine Rolle. Ein Medienforensiker kann beispielsweise anhand des Codes eines Videos feststellen, ob es bearbeitet wurde und wo und wie es aufgenommen wurde.
Der Normalverbraucher, der keine technischen Hilfsmittel zur Verfügung hat, kann zum Beispiel überlegen, ob ein Bild oder Video plausibel ist. Manchmal weisen KI-erstellte Bilder auch kleine Fehler auf, wie die oben genannten Finger oder Gesichtsausdrücke. Man kann recherchieren, wer Inhalte gepostet hat, um festzustellen, mit welcher Absicht dies geschehen sein kann. Zudem kann man bei Videos überlegen, ob sich Personen tatsächlich so äußern würden. Barack Obama als überzeugter Christ würde zum Beispiel mit an Sicherheit grenzender Wahrscheinlichkeit nicht Muhammad Qasim als Mahdi anerkennen.
Wie schätzen Sie vor dem Hintergrund des Einflusses islamistischer Influencer und der Möglichkeit, derart effektive Deepfakes zu nutzen, die Radikalisierungsgefahr unter Jugendlichen in Deutschland ein?
Die Wahrscheinlichkeit, dass junge Menschen im Internet islamistische oder andere extremistische Propaganda, Hate Speech oder Fake News sehen, ist sehr hoch. Das bedeutet aber nicht, dass jeder Jugendliche, dem online solche Inhalte begegnen, gleich Islamist wird. Ob sich ein Mensch radikalisiert, hängt von vielen Faktoren ab, zum Beispiel der Persönlichkeitsstruktur, der familiären Situation, eventuellen Krisen, vulnerablen Lebensphasen und so weiter. Wichtig ist es generell, die Medienkompetenz und Resilienz von jungen Menschen zu stärken, sie fit im Umgang mit Medien und auch möglichen Gefahren bei der Mediennutzung zu machen. Wenn Eltern, Lehrer oder Freunde sich jedoch Sorgen machen, dass ein junger Mensch dabei ist, sich zu radikalisieren, dann können sie sich zum Beispiel an Beratungsstellen wie die des Violence Prevention Networks wenden.