Terroranwerbung bei Facebook - Eine Freundschaftsanfrage vom Islamischen Staat

Ein paar unbedachte Facebook-Likes, etwas Pech beim Algorithmus – und schon können junge Menschen in die Fänge der Terrororganisation IS geraten. Die automatischen Empfehlungsmaschinen der sozialen Medien vernetzen Nutzer mit Anwerbern des Dschihadismus

Isis gefällt das: Die Terrororganisation wirbt bei Facebook gezielt um Kämpfer
picture alliance

Autoreninfo

Cathleen Berger beschäftigt sich bei der Berliner Denkfabrik stiftung neue verantwortung mit Europas Beitrag zu einem offenen und freien Internet.

So erreichen Sie Cathleen Berger:

Kurz vor Weihnachten war es soweit: Tunesien, das Land, in dem der Arabische Frühling 2010 begonnen hatte, wählte einen neuen Präsidenten. Was nach den Protesten im Iran 2009 als die nächste Twitterrevolution in den ausländischen Medien hochgejubelt wurde, fand mit der Wahl von Präsident Béji Caïd Essebsi ein gutes Ende. Damit hat Tunesien auch die letzte Stufe der Demokratisierung erfolgreich genommen, lobten Medien hierzulande.

Seitdem haben Proteste wie im Gezi Park in Istanbul oder die Regenschirm-Revolution von Hongkong das Bild der sozialen Medien gestärkt: Sie erscheinen als Treiber von Freiheit und selbstorganisierter Demokratie – auch gegen den Willen der jeweiligen Regierung. 

Doch die Rolle der sozialen Medien ist widersprüchlicher denn je. Weder können sie aus sich heraus mehr Demokratie schaffen, wie begeisterte Technikenthusiasten anführen. Noch sind sie ein Spiegelbild unserer realen Welt, wie Unternehmen wie Facebook und Twitter gerne behaupten. Ganz im Gegenteil: Sie sind darauf programmiert, unsere Aufmerksamkeit nach bestimmten Mustern zu steuern. Sie führen ein verdecktes Eigenleben.

Fast zwei Drittel der 14- bis 29-Jährigen informieren sich über Politik, Kultur und Wirtschaft in erster Linie in sozialen Medien. Doch was das genau bedeutet und welche Auswirkungen Algorithmen auf unsere Wahrnehmung der Wirklichkeit haben, wird politisch noch nicht diskutiert. So stellte die Bloggerin Zeynep Tufekci in ihrer Analyse über die Ausschreitungen im US-amerikanischen Ferguson irritiert fest: Die Proteste gegen rassistische Polizeigewalt tauchten nicht in ihrer Facebook-Timeline auf – während sie auf Twitter binnen kürzester Zeit ihre „Trending-Liste“ anführten. Dabei hatte Tufekci in beiden Netzwerken ähnliche soziale Kreise: die gleichen Menschen, die gleichen Interessen, unterschiedliche Algorithmen.

Terror als Pop-Dschihad


Die Diskussion um den automatischen Jahresrückblick von Facebook brachte weitere Probleme zutage: Wenn Nutzern als Ergebnis von Algorithmen (und von der Naivität mancher Programmierer im Silicon Valley) die Bilder von verstorbenen Freunden oder Familienmitgliedern als „Highlight des Jahres“ angepriesen werden, handelt es sich um mehr als „zufällige“ Grausamkeiten. Es wirft die Frage nach der ethischen Verantwortung der Unternehmen auf.

Blicken wir zurück in den arabischen Raum. Dort haben soziale Medien die revolutionären Umwälzungen in Ländern wie Tunesien unterstützt. Zugleich dienen sie heute Terrororganisationen wie dem Islamischen Staat in großem Umfang zur Rekrutierung ausländischer Kämpfer. Aus dem Terror wird ein Pop-Dschihad. So machen sich die Islamisten die Regeln unserer Medienkultur zu eigen.

Wie schnell und vor allem wie leicht die Algorithmen von sozialen Medien es solchen Terrororganisationen machen, zeigt Kavé Salamatian, Forscher an der französischen Universität Savoyen, in einem umstrittenen und durchaus verstörenden Experiment. Salamatian legte 25 Profile auf Facebook für Menschen zwischen 15 und 25 Jahren an. Einigen gab er Klarnamen, bei anderen arbeitete er mit offensichtlichen Pseudonymen.

Über zwei Tage hinweg likten diese Testprofile eine Reihe unterschiedlicher Dinge, beispielsweise pro-pälästinensische Gruppen oder Tierrechtsorganisationen. Nach diesen zwei Tagen wurden die Testpersonen nicht mehr selbst aktiv, sondern folgten lediglich dem „Vorschlagssystem“ von Facebook: Freundschaften, Fanseiten, Gruppen und ähnliches, alles wurde akzeptiert („geliked“) wie vom Algorithmus empfohlen. Bereits nach fünf bis acht Tagen wurden fünf der 25 Profile von Menschen angesprochen, die sie als IS-Kämpfer für Syrien und den Irak gewinnen wollten.

Facebook-„Emfehlungen“ führen direkt zum Islamischen Staat


Nun würden Unternehmen wie Facebook oder Google selbstverständlich betonen, dass ihre Algorithmen keinen Einfluss auf die Inhalte nehmen. Nutzerinformationen würden lediglich verwendet, um Werbung zu individualisieren und das Nutzererlebnis persönlicher zu gestalten. Es handle sich um gezieltes Marketing, keine politische Beeinflussung.

Was aber, wenn die „Empfehlungen“ letzten Endes in einen Tunnel führen, an dessen Ende Terrororganisationen wie der Islamische Staat warten? Wie gehen wir damit um, wenn unsere Wahlmöglichkeiten durch einen Algorithmus so gesteuert werden, dass letztlich auch unsere Entscheidungsmöglichkeiten sinken? 

Salamatians Studie illustriert: Das Vorschlagssystem (der Algorithmus) von Facebook reduziert die Auswahl von Informationen so stark, dass Personen ungewollt zum Ziel für Rekrutierungsversuche werden können.

Soziale Außenseiter werden leicht beeinflusst


Natürlich werden die wenigsten Nutzer unreflektiert und willkürlich jeder einzelnen Empfehlung folgen, aber – und diese Lektion müssen wir lernen – unsichere, fragile oder unentschlossene Menschen wie beispielsweise Teenager oder soziale Außenseiter werden mitunter unverhältnismäßig stark Opfer einer solchen Beeinflussung. Während Facebook und andere soziale Dienste nicht direkt Inhalte verändern, verstärken die eingesetzten Algorithmen die Dinge, die uns „gefallen“, die allgemein populär sind und die wir auf keinen Fall verpassen dürfen.                                                                                          

Dies kann positive Effekte haben: Die Demonstranten in der Türkei, in Hongkong oder in Tunesien wären sicher nicht so zahlreich auf die Straße gegangen, wenn sie sich nicht derart ihrer Gleichgesinnten hätten versichern können.

Aber es gibt auch Negativeffekte: wenn dadurch Nutzer in den Fokus von Rekrutierern von Terrororganisationen wie dem Islamischen Staat rücken.

Wesentlicher als die Unterscheidung in Gut und Böse sind aber andere Fragen: Inwieweit entscheiden Menschen noch selbstständig, und zu welchem Grad werden sie von einem Algorithmus beeinflusst? Wer entscheidet, welche Informationen wir zu sehen bekommen? Wer kontrolliert damit den Zugang zu Wissen? Wie wirklich ist die Wirklichkeit der sozialen Medien?

Was wir uns bei der Nutzung sozialer Medien immer wieder bewusst machen müssen, ist die Tatsache, dass ihnen Algorithmen zu Grunde liegen, die einen verzerrten Ausschnitt der Wirklichkeit wiedergeben. Soziale Medien sind kein Spiegel der Realität – vielmehr liegt es an uns, das von ihnen Repräsentierte immer wieder kritisch zu hinterfragen. Es ist sowohl die Aufgabe der Politik als auch der Bürger, Unternehmen wie Facebook und Google an ihre Verantwortung zu erinnern. Und wenn notwendig, müssen sie Gegenmaßnahmen gegen die Macht der Konzerne einleiten, um bürgerliche Freiheitsrechte zu verteidigen.

Cathleen Berger und Lea Gimpel beschäftigen sich bei der Berliner Denkfabrik „stiftung neue verantwortung“ mit Europas Beitrag zu einem offenen und freien Internet.

Ihr Kommentar zu diesem Artikel

Der Inhalt dieses Feldes wird nicht öffentlich zugänglich angezeigt.

Liebe Leserinnen und Leser,
wir freuen uns über jeden Kommentar und wünschen uns eine konstruktive Debatte. Beleidigende, unsachliche oder obszöne Beiträge werden deshalb gelöscht. Auch anonyme Kommentare werden bei uns nicht veröffentlicht. Wir bitten deshalb um Angabe des vollen Namens. Darüber hinaus behalten wir uns eine Auswahl der Kommentare auf unserer Seite vor. Um die Freischaltung kümmert sich die kleine Onlineredaktion von Montag bis Freitag von 9 bis 18 Uhr. Am Wochenende werden Forumsbeiträge nur eingeschränkt veröffentlicht. Nach zwei Tagen wird die Debatte geschlossen. Wir danken für Ihr Verständnis.