Soziale Medien und KI - „Attacke auf die Realität“

Professor Dr. Joachim Bauer ist Neurowissenschaftler, Arzt, Psychotherapeut und Sachbuchautor. Er arbeitete lange am Uniklinikum Freiburg, Forschungsaufenthalte führten ihn mehrfach in die USA. Seit einigen Jahren lebt, lehrt und forscht er in Berlin. Sein Buch „Realitätsverlust“ erschien im Mai 2023 im Heyne-Verlag.

Herr Bauer, sind Sie selbst in den sozialen Medien unterwegs?

Ich benutze Signal als Messengerdienst und habe alle digitalen Endgeräte, also Laptop, Tablet, Smartphone und benutze das Internet als Recherchetool. Ich bin oft auf Google Scholar oder recherchiere in medizinischen Datenbanken, beides über das Internet. Den Umgang mit Social Media beobachte seit Langem, einerseits in meinem nahen Umfeld, andererseits habe ich Patientinnen und Patienten, die ihr Leben praktisch in die digitale Welt verlagert haben und daran krank geworden sind. Aufgrund dessen kenne ich, was Social Media und das Gaming betrifft, die Details, ohne dass ich persönlich selbst in der Welt dieser Systeme zu Hause bin.

Sie sprachen von Personen, die ihr Leben in die digitale Welt verlagert haben. Nehmen Sie da eine Diskrepanz wahr zwischen Ihrer Welt und der Welt Ihrer Patienten?

Ja. Einen besonders scharfen Cut gibt es gegenüber der Generation Z, also gegenüber jenen jungen Menschen, die Mitte und Ende der 90er Jahre geboren sind, und danach. Ich habe in meinem Buch eine Patientin beschrieben, die schwere Symptome entwickelt hatte, weil sie in Chatgruppen von Klassenkameraden online gemobbt worden war, in ihrem Fall war das auf Instagram. Das hat sich dann sehr zugespitzt, sie entwickelte schwere Symptome und kam deswegen zu mir in Behandlung. Ihr Befinden besserte sich unter meiner Behandlung, sie blieb aber in den Chatgruppen drin, obwohl sie dort weiter gemobbt wurde. Auf meine Frage, ob es nicht die Möglichkeit gäbe, sich da einfach mal abzumelden, damit sie sich dem nicht weiter aussetzt, antwortete sie, sie sei dazu nicht in der Lage. Ich habe das anfangs nicht verstanden und auch mit Kollegen darüber gesprochen. Bis mir plötzlich klar geworden ist, dass für sie ihr Account und die Vernetzung mit anderen ihre sozusagen einzig relevante Realität ist. Mein Vorschlag wirkte auf sie praktisch so, wie wenn ich ihr vorgeschlagen hätte, sich aus der Realität abzumelden.

Kann es bei manchen Menschen, nach dem Titel Ihres Buches, zum „Realitätsverlust“ kommen?

Digitale Produkte, derzeit sind das vor allem Social Media und Videospiele, haben eine unheimliche Sogwirkung, das gilt im Prinzip für Menschen jedes Alters, vor allem aber für Jüngere. Dieses Rausgehen aus den analogen Begegnungsräumen ist das, was ich mit „Realitätsverlust“ meine. Da verschiebt sich quasi der Schwerpunkt des eigenen Lebens und Erlebens aus der analogen Welt rüber in die digitalen Kommunikationskanäle der Social Media oder in die virtuellen Welten, wie sie uns das Gaming – oder demnächst das Metaversum – bieten.

Andererseits haben Menschen die Fähigkeit, mit einer gewissen Anzahl von Realitäten klarzukommen. Per se ist das ja nichts Schlechtes, wenn wir über diese Fähigkeit verfügen.

Richtig, wir lesen ja schließlich auch Romane oder gehen ins Kino. Mein Buch ist keine Kampfschrift gegen digitale Produkte. Mir es geht darum: Wer beherrscht wen? Und da zeigt die Forschung, dass mittlerweile bei einigen Millionen Menschen im Alter zwischen zehn und 17 Jahren ein Kipppunkt erreicht ist, wo digitale Angebote inzwischen den User beherrschen statt umgekehrt. Das Problem betrifft aber uns alle. Ständig sieht man erwachsene Begleitpersonen, die mit einem Kind unterwegs sind, das Kind versucht, in Kontakt mit der Begleitperson zu kommen, die erwachsene Person aber kommt nicht vom Handy weg. Oder dass schon kleine Kinder mit Tablets ruhiggestellt werden. Wer darauf achtet, kann diesen ständigen Exodus aus der analogen Realität überall beobachten. Es ist ein hypnotischer, langsamer Prozess, in dem wir uns da befinden. Er vollzieht sich in kleinen Schritten, ohne große Fallhöhen. Mein Buch soll eine Wahrnehmung erzeugen, was da peu à peu mit uns geschieht. Seit 20 Jahren werden wir so langsam in eine virtuelle Parallel- oder Jenseitswelt hinübergezogen.

Leute wie Zuckerberg, Musk, Altmann stellen sich gerne als Technologie-Visionäre und Philanthropen dar. Ihre Visionen über die Zukunft klingen teilweise nach Science Fiction, zum Beispiel Cybererweiterungen des Menschen, Übertragung des Geistes bis hin zum ewigen Leben im Computer. Zum jetzigen Stand der Technik kann man das ja noch als Phantastereien oder als ferne Utopie sehen. Wie ernsthaft sollten wir uns damit in der öffentlichen Debatte beschäftigen?

Die Preisgabe der analogen Welt zugunsten virtueller Ersatzwelten folgt einem Programm, das als „Transhumanismus“ bezeichnet wird. Es wird von einflussreichen Personen wie Ray Kurzweil, Nick Bostrom und neuerdings von David Chalmers, einem weltweit einflussreichen Philosophen, vertreten: Wir sollen in virtuellen Ersatzwelten nicht nur spielen, sondern – mit einem über den Kopf gestülpten Headset – unser ganzes privates, soziales und berufliches Leben dort verbringen. Man verspricht den Leuten allen Ernstes, der menschliche Geist werde sich in naher Zukunft auf einen Computer hochladen lassen, eine als „Mind Uploading“ bezeichnete Prozedur, und wir könnten dadurch unsterblich werden. Leute wie Sie und ich, die wir noch einigermaßen gute Schulen durchlaufen haben, wir können das kritisch reflektieren und erkennen, dass vieles davon Humbug ist. Zum transhumanistischen Narrativ gehört auch, dass KI-Systeme Bewusstsein haben könnten, auch das ist Humbug. Ich bin Naturwissenschaftler und habe für mein Buch viele Gespräche mit Leuten geführt, die selber KI-Systeme bauen. Ich weiß also, wie diese Systeme zusammengesetzt sind. Trotzdem werden alle diese unsinnigen transhumanistischen Ansagen allen Ernstes vertreten, auch von David Chalmers in seinem jüngsten Buch, das für mich ein ganz wichtiger Grund war, mein Buch zu schreiben.

Viele Menschen aus den jüngeren Generationen glauben die transhumanistischen Narrative, weil sie die analoge Wirklichkeit unbewusst bereits gegen die digitale Realität eingetauscht haben. Transhumanistische Denkweisen bestimmen in Amerika weit über die Generation Z hinaus das Denken der Leute. Passend dazu gibt es ja seit Jahren eine ganze Kultur mit Büchern und Filmen, welche diese Themen behandeln. Nehmen wir Stephensons Roman „Snow Crash“ oder Filme wie „Matrix“, „Ready Player One“ oder auch „Avatar“. Die Botschaft lautet: Die Zukunft wird die Virtualität sein oder ein Leben in anderen Systemen oder Körpern. Das ist dort alles sozusagen suggestiv untergebracht. Soweit es die Preisgabe unserer realen Welt betrifft, haben die transhumanistischen Mythen die fatale Wirkung einer Selffulfilling Prophecy.

Sie beschreiben den Transhumanismus als Techno-Religion.

Ja. Den Kern des Transhumanismus bildet, wie man bei David Chalmers nachlesen kann, eine doppelte Attacke auf die Realität: Einerseits soll uns weisgemacht werden, dass die analoge Realität, die wir bisher als sozusagen traditionelle Wirklichkeit betrachtet haben, selbst nur eine Simulation sei. Andererseits sollen wir glauben, dass die virtuellen Welten, die uns von der Digitalindustrie angeboten werden, eine absolut gleichwertige Realität darstellen und unsere Zukunft sein werden.

Mag sein, dass Sie und ich diese Ansagen nicht glauben. Sie werden aber von immer mehr Menschen geglaubt. Was bedeutet das für diejenigen, die es glauben? Meine sozialpsychologische Diagnose ist: Wir sollen als Menschen eingeschüchtert werden, wir sollen nicht mehr an das glauben, was mit unseren Sinnen als Realität wahrnehmbar ist, wir sollen auch nicht mehr an uns selbst glauben. Wir sollen in unserer Wertigkeit als Menschen eingeschüchtert werden. Wir sollen das Gefühl haben, dass wir eine Spezies sind, die praktisch vor ihrer Ablösung steht. Es geht also um eine  Einschüchterung der Menschheit, die uns zurückführen soll hinter die Aufklärung.

Sind diese ganzen Visionen der Techmillionäre, die von Chalmers und anderen Big-Tech-Apologeten gestützt werden, vielleicht auch nur ein großes Tamtam um gewöhnliche kommerzielle Interessen oder um Machtinteressen zu kaschieren?

Genau. Hinter alledem stehen kommerzielle Interessen. Es geht darum, die Leute dazu zu bringen, diese ganze digitale Ideologie für sich zu übernehmen. Unser implizites Denken soll dahingehend beeinflusst werden, dass der Mensch ohne digitale Produkte nicht mehr vollwertig sei. Das Insuffizienzgefühl soll uns dazu bringen, möglichst viele digitale Angebote zu konsumieren, und das ständig. Lassen Sie mich betonen: Ich bin keineswegs dagegen, dass wir digitale Produkte benutzen, KI eingeschlossen. Ich bin dafür, dass wir neurologischen Patienten mit Brain-Computer-Interfaces helfen. Ich bin auch in anderen Bereichen sehr für die Modernisierung unseres Lebens durch digitale Produkte. Gleichzeitig  warne ich, dass wir einer digitalen Ideologie wie dem Transhumanismus auf den Leim gehen und uns als Menschen den Schneid abkaufen lassen. Unser Selbstbewusstsein des Menschseins verdanken wir der Aufklärung: Der Mensch ist der Maßstab aller Dinge, der Mensch hat aus sich heraus einen Wert. Das sollten wir uns nicht wieder abschminken lassen. Aber genau das findet gerade statt.

Manches aus der digitalen Welt klingt sehr nach einem neueren Heilsversprechen. Sie vergleichen das in Ihrem Buch mit der mittelalterlichen Kirche.

Das digitale Versprechen lautet: Es gibt ein virtuelles Jenseits, wo wir uns wohlfühlen und glücklich sein können. Wir können durch Mind Uploading dahin gelangen, oder wir können, wie David Chalmers dies ganz konkret ausführt, unseren Körper in ein Kühllagerhaus bringen lassen und mit einem über den Kopf gestülpten Headset unser Leben in einer virtuellen Welt verbringen. Dieses Denken ist eine gefährliche Philosophie, der leider sehr viele auf dem Leim gehen werden. Es ist eine Neuauflage der mittelalterlichen Mystik, als man den Menschen ebenfalls ein glückliches Jenseits versprach, vorausgesetzt, sie ließen sich via Ablasshandel das Geld abknüpfen. Heute muss für digitale Produkte gezahlt werden, für In-Game-Käufe beim Gaming, und auch das Metaversum wird richtig teuer werden. Über all diesen Versprechungen sollen wir vergessen, dass wir Menschen mit körperlichen Bedürfnissen sind und dass unser Körper die analoge Welt, vor allem die Natur braucht.

Wo sollten wir denn die Grenze ausmachen bezüglich der Sinnhaftigkeit von KI?

Computer, die mit KI arbeiten, sind gigantische Rechenmaschinen, die – vereinfacht gesprochen – das digital aufbereitete Text- oder Bildmaterial, mit dem sie gefüttert wurden, in Einzelteile zerlegen und je nach Aufgabenstellung wieder neu zusammensetzen können. KI- Rechenmaschinen wie Chat-GPT produzieren die Antworten, die sie dem Benutzer geben, auf der Basis des Textmaterials, mit dem sie gefüttert wurden. Mit wahllosen Texten gefütterte Text- und Sprach-KIs werden entsprechend häufiger inhaltlichen Unsinn produzieren. Saubere KI-Systeme, die clean gefüttert wurden, sind bereits jetzt an zahllosen Stellen unseres täglichen Lebens im Einsatz, ohne dass uns das bewusst ist. KI-Systeme können uns in der Medizin, in der Rechtswissenschaft, in der Verwaltung, im Verkehr und in vielen weiteren Bereichen assistieren. Wichtig ist, dass ihre Ergebnisse letztendlich immer von realen Menschen überprüft und verantwortet werden müssen.

KI-gesteuerte Algorithmen überschwemmen uns auf diversen Plattformen wie YouTube oder in den Sozialen Medien mit einer Lawine an Informationen und Inhalten. Auch hier bekommt jeder seine Version einer alternativen oder verschönerten Realität geliefert.

Mich besorgt weniger die Verschönerung der Realität als vielmehr die Möglichkeit der Manipulation. KIs, die Persönlichkeitsmuster erstellen und danach steuern, was dem einzelnen User an Feeds präsentiert wird, erzeugen in jedem User eine eigene Weltsicht. Sozialpsychologisch gesehen bedeutet das, dass wir innerhalb einer Gesellschaft eine Abnahme dessen haben, was man als gemeinsame Realität bezeichnen kann. Einen gewissen Grundstock an gemeinsamer Realität zu haben, ist für Menschen aber wichtig, um psychisch gesund zu bleiben. Ich kann psychisch nur gesund bleiben, wenn die Menschen, die mich umgeben, die wichtigsten Basics der Realität so sehen wie ich. Neben der individuellen psychischen Gesundheit gibt es auch eine Art soziologische Gesundheit. Wenn wir in einer Gesellschaft endlos viele Gruppen haben, die jeweils in ihren eigenen Wirklichkeiten leben, dann bedeutet das, dass die innergesellschaftliche Empathie zusammenbricht, weil niemand mehr die jeweils anderen Gruppen versteht. Wegen dieser soziologischen Atomisierung haben wir so viel Hass im Netz. Das heißt, wir sind nicht nur in unserer individuellen Gesundheit gefährdet, sondern werden auch soziologisch krank.

In den sozialen Medien gibt es Qualität und Schund, seriöse und unseriöse Inhalte. Auf diesem schmalen Grad bewegen sich oft die sogenannten Influencer, mit teilweise Millionen an Follower auf diversen Plattformen. Fehlt uns allen eine gewisse Skepsis vor Scharlatanerie und falschen Propheten?

Ja. Mein Buch soll diese Skepsis wachsen lassen. Influencer kann man kaufen, sie sind ja alleine schon dadurch gekauft, dass sie massenhaft geldwerte Vorteile bekommen, nämlich genau jene Produkte, für die sie werben und die das Leben angeblich erleichtern und verschönern.

Das könnte Sie auch interessieren:

•     Transhumanismus: Über Menschen (Ralf Hanselle)
•     „Wir sind schon alle Cyborgs“ (Interview Dennis Rudolph)
•     Digitale Oligopole schaden Demokratie und Wirtschaft (Rasmus Andresen)

Dahingehend braucht es dann unabhängige Medien.

Die Existenz unserer klassischen Medien ist durch die Newsfeeds, wie sie die Sozialen Netzwerke ihren Usern bieten, ernsthaft gefährdet. Sie dürfen auf keinen Fall untergehen. Deswegen fand ich Martin Andrees Buch so wichtig. Ich wundere mich, wie kritiklos auch in seriösen Medien KI-Optimismus verbreitet wird von Journalisten, die offenbar gar nicht merken, dass sie da an ihrem eigenen Ast sägen. Ich habe ein digitales Abo von der Süddeutschen und von der FAZ, den Cicero kaufe ich am Kiosk. Mir ist wahnsinnig wichtig, diese Redaktionen zu haben, die mir die Welt auf eine kritische und zugleich vielseitige Art vorsortieren. Ich möchte nicht von Feeds nur das vorgesetzt kriegen, was mir als gemäßigt linkem Zeitgenossen gefällt.

Würden Sie sagen, dass dadurch eine gewisse Entfremdung des Menschen zu sich selbst beschleunigt wird, da die autonome Bildung einer Identität verloren geht? Was also sozusagen nicht nur zur Realitätsverlust, sondern auch zum Identitätsverlust führt?

Ja. Wer in einer Informationsblase lebt, wird sich nicht weiterentwickeln. Die Blockierung der Entwicklung durch digitale Produkte betrifft vor allem die Kinder. Wenn wir digitale Endgeräte zu früh an Kinder heranbringen, bleibt neben der psychosozialen vor allem auch die Entwicklung des Körpers auf der Strecke. Viele machen sich nicht klar, wie sehr bei einem Kind der Körper eine Ressource der Intelligenz ist. Wenn ich hinfalle, ist das für mich als Kind die erste kognitive Gewissheit, dass es so was wie Schwerkraft gibt. Wenn ich renne, lässt das bei mir als Kind eine intuitive Gewissheit entstehen, was Geschwindigkeit ist, die Beispiele lassen sich beliebig fortsetzen. Erst die Auseinandersetzung des biologischen Körpers mit der Umwelt lässt kognitive Gewissheiten und, darauf aufbauend, Intelligenz entstehen. Wenn bereits Dreijährige in den Kitas mit Tablets ruhig gestellt werden, bleibt der Körper außen vor, ganz abgesehen von den nachgewiesenen negativen Effekte auf die emotionale Selbstregulation. Digitale Endgeräte fördern eine Entdinglichung und Entkörperlichung der Kindheit.

Welche Erziehung mit digitalen Medien und Endgeräten benötigen Kinder heutzutage? Müsste mehr der kritische Umgang mit dem Digitalen gelernt werden?

Das Missverständnis ist, dass viele meinen, Medienkompetenz entstehe dadurch, dass ich Kinder früh an digitale Endgeräte heranführe. So entsteht keine Medienkompetenz, sondern frühes Abhängigkeitsverhalten. Computerkompetenz entsteht dadurch, dass ich begreife, wie programmiert wird und wie diese großen Systeme und Plattformen funktionieren. Damit kann man in der Sekundarstufe beginnen. Wenn ich aber ein Kind zu früh in den Konsummodus hineinversetze, indem ich ihm schon mit drei, fünf oder acht Jahren digitale Endgeräte gebe, dann verhindere ich, dass dieses Kind später wirklich in einen kreativen Modus im Umgang mit IT- Produkten kommt.  

Müsste man bei der Wurzel des Übels ansetzen, also bei den Big-Tech-Unternehmen? Bräuchte es mehr Regulierung in dem Bereich oder sogar auch eine Zerschlagung dieser Tech-Monopole?

Was die KI angeht, brauchen wir Regeln. Das betrifft zunächst die Beachtung der Urheberrechte, also den Schutz der Autorenrechte und den Schutz des Journalismus. Zweitens sollten KIs ihre Quellen nennen, so dass wir wissen, welche Quellen hinter den Auskünften stehen. Ein dritter Punkt betrifft die Offenbarungspflicht: Wenn ich von einem KI-System angesprochen werde, muss für mich als User erkennbar sein, dass es sich um eine KI handelt. Ein weiterer wichtiger Punkt, der geregelt werden muss, betrifft die Sicherstellung, dass in lebenswichtigen Kontexten immer ein Mensch der letzte Entscheider sein muss. Es darf nicht geben, was in der amerikanischen Fachliteratur als responsibility gap, also als Lücke der Verantwortlichkeit bezeichnet wird. Das betrifft vor allem die Justiz, die Polizei, die Medizin, die öffentliche Verwaltung und natürlich das Militär.

Sehr zu wünschen wäre darüber hinaus die Sprengung der Monopole. Die Monopolisierung der Digitalwirtschaft ist ein Unding. Dass weltweit weniger als ein Dutzend Monopole bestimmen, was in diesem Geschäft läuft, kann nicht gut sein. Ich bin kein Wirtschaftsexperte, und ich weiß da auch keine einfache Lösung. Aber dass es wünschenswert wäre, dass Monopole zerschlagen werden und dass wir eine echte Konkurrenz in diesem Markt haben, ist wohl jedem klar.

Das Gespräch führte Alexandre Kintzinger.