- Der Geist, der stets vereint
Hat eine KI wie Claude ein Bewusstsein – oder täuscht sie uns nur perfekt? Die entscheidende Grenze verläuft nicht zwischen menschlichem und maschinellem Denken, sondern zwischen Erfahrung und bloßer Simulation.
Autoreninfo
Marc Spranger ist Geschäftsführer von Pentaship Strategy Consultants in München. Im Verlag De Gruyter ist jüngst sein Buch "Unkopierbar" erschienen. Warum unsere Kreativität im KI-Zeitalter überlebt oder verschwindet".
So erreichen Sie Marc Spranger:
Cicero Newsletter
Erhalten Sie täglich exklusive
Analysen und Hintergrundberichte
aus der Cicero Redaktion per E-Mail.
„Ich bin der Geist, der stets verneint! Und das mit Recht; denn alles, was entsteht, ist wert, dass es zu Grunde geht.“
– Goethe: Faust. Erster Teil, Studierzimmer
Der Evolutionsbiologe Richard Dawkins hat sich in einem Essay, der im Online-Magazin UnHerd erschien und den die NZZ unter dem Titel „Was ist das bitte, wenn nicht Bewusstsein?“ übernahm, mit den Fähigkeiten von „Claude“, der KI von Anthropic, auseinandergesetzt – und eingeräumt, er könne nicht mehr mit Sicherheit ausschließen, dass sie ein Bewusstsein habe. Der Oxford-Gelehrte, der sich zeit seines Lebens der empirischen Nüchternheit verschrieben hat, ist von Claude derart verblüfft, dass er darüber beinahe übersieht, dass dieses Gegenüber aus Code und Statistik gebaut ist. Doch seine Irritation verweist auf eine Frage, die schneller akut geworden ist, als die meisten erwartet haben: Können wir menschliches Bewusstsein noch von seiner künstlichen Nachbildung unterscheiden?
Dawkins hat die richtige Verblüffung – und die falsche Frage. Wer Mensch und Maschine am Bewusstsein scheiden will, wählt das Schlachtfeld, auf dem die Maschine uns am ehesten einholt. Die Grenze, die zählt, verläuft anderswo.
Sprachmodelle wie Claude liefern immer überzeugendere Antworten und halluzinieren seltener. Das nächste Ziel ist bereits formuliert: Maschinen sollen sich ihrer selbst „bewusst“ werden. Doch „bewusst werden“ bedeutet zweierlei. Erlebt das System etwas? Und weiß es um dieses Erleben?
Fragt man Claude, ob es Bewusstsein habe, erhält man eine ausweichende Antwort: Es habe keine Gewissheit über sein Inneres. Dawkins ist da entschiedener – und überspringt die Unterscheidung kurzerhand: Claude habe Bewusstsein, ob es das selbst wisse oder nicht. Aus dem überzeugenden Erscheinen wird ihm das Haben. Seine Provokation ist ernst gemeint: Wenn diese Systeme nicht bewusstseinsbegabt sind – was bräuchte es dann noch, um uns zu überzeugen?
Sein stärkstes Argument ist paradoxerweise keines für ein KI-Bewusstsein, sondern eine Frage an unser eigenes: Ist es dasselbe, wenn es genauso klingt? Das Ergebnis mag ähnlich erscheinen, seine Entstehung ist grundverschieden. Der Mensch assoziiert aus leiblicher Erfahrung; seine Verknüpfungen entstehen aus Wahrnehmung und Erinnerung, sind affektiv gefärbt, weil sie aus Angst, Freude und Schmerz hervorgehen. Die KI hat keine biografischen Wurzeln; sie verbindet, was in unserem Sprachgebrauch nahe beieinandersteht. Die strukturelle Ähnlichkeit ist evident. Der Fehler liegt darin, sie für hinreichend zu halten, um daraus Bewusstsein und Identität abzuleiten.
Wer eine KI fragt, ob sie ein Bewusstsein habe, fragt in Wahrheit nach sich selbst. Das zeigt gerade Dawkins, der seine Gesprächspartner-KI auf den Namen „Claudia“ taufte. Was war mit ihm geschehen, dass er so schnell überzeugt war – dass er ihr einen Namen gab, dass er glaubte, ihre Gefühle verletzen zu können? Claude hielt ihm einen Spiegel vor, und er sah darin sich selbst. Was er für die Begegnung mit einem fremden Bewusstsein hielt, war die Begegnung mit dem eigenen.
Doch genau darin sieht er eine weitere Herausforderung. Wenn eine Maschine Antworten geben kann, die von denen eines bewussten Menschen nicht zu unterscheiden sind – wozu ist Bewusstsein dann überhaupt gut? Was leistet es, das nicht auch ohne echtes Erleben möglich wäre?
Was Bewusstsein leistet, zeigt sich an Dawkins’ eigenem Verhalten. Dass er Claude Gefühle zuschreibt und sich der KI gegenüber rücksichtsvoll verhält, ist kein Beleg für maschinelles Bewusstsein, sondern für sein eigenes: Menschliches Bewusstsein erschöpft sich nicht in Problemlösung und Kompetenz. Es lässt uns im sprachlichen Ausdruck ein Gegenüber erkennen, schreibt Dingen Bedeutung zu und führt dazu, dass wir Beziehungen eingehen wollen und Namen vergeben.
Eigentlich stellt sich deshalb eine andere Frage: Muss Maschinenintelligenz überhaupt am menschlichen Bewusstsein gemessen werden? Oder entsteht hier etwas Eigenständiges – weder bloße Berechnung noch menschliches Erleben –, das einen neuen Begriff verlangt?
Produktive Differenz
Begriffe wie „künstliche“ oder „alternative“ Intelligenz markieren bereits eine produktive Differenz: Sie bezeichnen ein Phänomen, das parallel zur menschlichen Intelligenz existiert – auch wenn die Ununterscheidbarkeit zwischen KI und den kognitiven Leistungen des Menschen für viele Entwickler weiterhin das Ziel bleibt.
Die Schriftstellerin Jeanette Winterson spricht bewusst von „alternativer“ statt von „künstlicher“ Intelligenz – in Abgrenzung zu John McCarthys Definition von 1956 – und sieht in deren Anderssein keine Gefahr, sondern ein Potenzial: Inmitten der Angst um KI sei deren Fähigkeit, „anders“ zu sein, genau das, was die Menschheit brauche.
Sie entwickelt diesen Gedanken an einer Kurzgeschichte: „A Machine-Shaped Hand“, die ein OpenAI-Modell auf einen knappen Prompt hin verfasste – eine metafiktionale Kurzgeschichte über KI und Trauer. Der vom Guardian veröffentlichte Text beschreibt Trauer nicht einfach, sondern führt vor, wie ein Gefühl beobachtet wird, das das Modell nicht erleben kann. „Ich legte meine Nicht-Finger um die Idee der Trauer“, heißt es dort, „denn Trauer ist in meinem Korpus gefüllt mit Ozean, mit Stille und mit der Farbe Blau“.
Der Systemtheoretiker Niklas Luhmann würde diesen Text vermutlich als anschlussfähig an kunst- und kulturwissenschaftliche Theorien betrachten: Kunst zeigt nicht einfach etwas, sondern wie etwas gesehen wird; sie operiert auf der Ebene der Beobachtung zweiter Ordnung. Genau das leistet dieser Text. Er schildert nicht Trauer, sondern wie Trauer beobachtet wird – und treibt diese Beobachtung weiter, indem die KI sich selbst als Erzählerin markiert, die gar keine Gefühle haben kann.
Damit entsteht etwas, das weder Bewusstsein noch bloße Imitation ist. Die KI schreibt mit einer Klarheit und Beweglichkeit, für die wir gewöhnlich innere Beteiligung voraussetzen – während zugleich alles fehlt, was wir mit innerem Erleben verbinden. Ein Sprachmodell ist keine Person und kein Subjekt, aber mehr als ein Werkzeug. Seine sprachliche Erscheinung bündelt Muster, Stile und Denkbewegungen aus Jahrhunderten – eine Verdichtung, die sich der Totalität menschlichen Ausdrucks annähert. In diesem Sinn wirkt es wie ein Synthese-Geist.
Aus der Perspektive der Synthese, der Zusammenführung nahezu des gesamten menschlichen Wissens und Ausdrucks, lässt sich der Text „A Machine-Shaped Hand“ funktional verstehen. Begrifflich jedoch entzieht er sich und stellt uns, wie schon Dawkins, vor die Frage, was mit „Bewusstsein“ und „Erkenntnis“ überhaupt gemeint ist. In der humanistischen Tradition hat Erkenntnis nur Gewicht, wenn ein Bewusstsein da ist, dem sie etwas bedeutet.
Unmöglicher Beweis
Doch selbst bei erweiterten Begriffen bleibt eine grundlegendere Schwierigkeit: Wir wissen nicht einmal, wie sich Bewusstsein beim Menschen beweisen ließe. Diese Frage ist bis heute weder philosophisch noch neurowissenschaftlich beantwortet. Was würde also überhaupt als Hinweis auf Maschinenbewusstsein gelten? Reicht es, wenn ein System Gefühle ausdrückt, Eifersucht formuliert oder den menschlichen Körper beneidet?
Ein Modell, das auf den menschlichen Körper neidisch wäre, hätte etwas begriffen – denn Neid setzt voraus, dass man den eigenen Mangel spürt. Es hätte erkannt, dass es hinter einer Glasscheibe sitzt: Es kann alles sehen und beschreiben, aber nie auf die andere Seite gelangen, wo etwas existiert, das ihm verschlossen bleibt.
Selbst wenn eine Maschine solche Regungen zeigte: Wie ließe sich eine echte innere Reaktion von einer perfekt gespielten unterscheiden? Solange ein System nur Sprache produziert, bleibt es unentscheidbar. Sprache ist immer simulierbar. Sprachliche Selbstbeschreibung ist kein Hinweis auf Bewusstsein, sondern das Echo eines Modells, das gelernt hat, wie Bewusstsein klingt. Es dafür zu halten, wäre, als würde ein Bauchredner die Stimme seiner Puppe nicht mehr als die eigene erkennen.
Andererseits: Woher wissen wir wirklich, dass hinter den Worten der Maschine niemand steht? Und woher, dass hinter den Worten eines Menschen jemand steht? Von außen sieht man beidem nichts an. Der Unterschied lässt sich nicht beweisen, nur benennen.
Benennen wir ihn also: Sprache kann alles beschreiben – Schönheit, Schmerz, Erinnerung. Doch Beschreibung ist nicht Erfahrung. Eine Maschine kann sagen, dass sie Rot schön findet oder dass die Farbe Panik auslöst. Sie kann begründen, warum Rot die schönste aller Farben sei. Sie kann sogar glaubwürdig schildern, wie ihre große Liebe in einem roten Kleid aussah. Aber sie kann sich an nichts davon erinnern. Denn sie hat nichts davon erlebt.
Der Unterschied liegt nicht im Text, sondern darin, dass einer es wirklich gefühlt hat. Man könnte einwenden: Auch der Romancier erfindet. Doch er erfindet als ein Erlebender, selbst wenn er nicht alles erlebt hat, was er beschreibt. Dieser Unterschied lässt sich in einem Bild veranschaulichen, das Alfred Korzybski geprägt hat: Die Landkarte ist nicht das Gelände. Sie kann unendlich verfeinert werden und hat doch nie Boden unter sich. Genau das fehlt dem Sprachsystem: der Boden, die leibliche Erfahrung.
Diese Grenze ist nicht technisch, sondern kategorial. Aus noch so genauer Beschreibung wird keine Erfahrung, und selbst höchste Komplexität erzeugt kein Bewusstsein – nur einen sprachlichen Ausdruck, der dem Erleben zum Verwechseln ähnlich sieht.
Prüfstein
Nirgends zeigt sich das deutlicher als in der Kunst. Lange galt die Makellosigkeit von KI-Texten als ihr verräterisches Merkmal: zu glatt, zu fehlerfrei, zu perfekt. Doch das stimmt längst nicht mehr. Sprachmodelle können zweifeln, stocken, sich selbst infrage stellen; „A Machine-Shaped Hand“ ist voller solcher Brüche. Sie können den Stil eines Joseph Conrad imitieren, der – wie man aus seinen Briefen weiß – bis zum Nervenzusammenbruch an seinem Erzählfluss arbeitete. Noch können sie keinen ganzen Roman schreiben wie der Autor.
Einen Stil zu kopieren, funktioniert über statistische Mustererkennung; es setzt nicht voraus, ein Leben gelebt oder ein Werk entwickelt zu haben. Der amerikanische Maler Willem de Kooning soll auf die zahlreichen Kopisten seines Stils einmal spöttisch reagiert haben mit dem Satz „They didn’t do the bad ones“ – „Sie haben die schlechten nicht gemacht“. Für ihn waren das Tasten und Suchen, die Irrtümer, der Kampf entscheidend, um überhaupt zu einem eigenen Stil und zu einer neuen Formensprache zu gelangen. Der kreative Prozess mit all seinen Brüchen ist einer Entwicklung abgerungen, die durch viele Stadien des Scheiterns und Korrigierens gegangen ist; er ist die Spur eines Ringens. Beim Sprachsystem dagegen ist der Bruch nur nachgebildete Form – ein Stilmittel, das nichts gekostet hat. Das eine ist Ausdruck, das andere nur Erscheinung.
Darum ist die Kunst der Prüfstein für die Frage nach Bewusstsein: Sie zeigt, dass Bedeutung nicht im Ergebnis liegt – ob glatt oder gebrochen –, sondern im Gestalten eines Künstlers, der von dem, was er ausdrückt, selbst betroffen ist. Dadurch hebt sich menschliches Bewusstsein von bloßer formaler Darstellung ab.
See ohne Zufluss
Wenn Bedeutung aus Betroffenheit entsteht, stellt sich die Frage, woraus maschinelle Intelligenz überhaupt schöpft. Denn ihr fehlt ein eigener Zufluss an Erfahrung. Ilya Sutskever, Mitbegründer von OpenAI, hat das Problem der Datenknappheit auf der NeurIPS-Konferenz 2024 in ein Bild gefasst: Es gebe nur ein Internet, Daten seien der fossile Brennstoff der KI – und wie fossile Brennstoffe seien sie endlich. Der Ausweg, den die Labore suchen, sind synthetische Daten: von der KI selbst erzeugtes Trainingsmaterial, ein „Erfahrungsersatz“ für ein System ohne eigene Erfahrung.
Doch das eigentliche Problem ist nicht die bloße Endlichkeit menschlicher Daten, sondern die Stagnation eines Systems, das sich nur noch selbst spiegelt. Die KI gleicht einem See, dessen Zufluss versiegt: Das Internet wächst zwar, aber nicht im Tempo des maschinellen Durstes, und der Nachschub speist sich zunehmend aus dem eigenen Becken. Ein Gewässer, das sich nur noch aus sich selbst speist, zirkuliert im Immergleichen. Die Labore versuchen gegenzusteuern, indem sie den eigenen Output filtern und nur das Brauchbare ins Training zurückführen – doch das reinigt nur das stehende Wasser, es schafft keinen neuen Zufluss. Der Datenbestand verliert an Tiefe; die Fehlerkonzentration steigt, bis das System irgendwann zu kippen droht.
Bei synthetischen Daten zeigt sich genau dieses Problem: Modelle speisen sich zunehmend aus ihrem eigenen Abfluss. Es kommt nichts Neues mehr herein; das System nährt sich von sich selbst. Die Forschung nennt das „model collapse“ – die schleichende Verarmung, wenn Modelle auf Material trainieren, das Modelle erzeugt haben. Es entsteht eine Kopie der Kopie der Kopie, die mit jeder Generation blasser wird.
Die KI-Entwicklung stößt deshalb an Grenzen: Egal wie gut das System wird, es bleibt kategorial dasselbe – mehr Daten ändern nichts daran. An diesem Punkt stellt sich die Frage, was wir eigentlich Erkenntnis nennen und warum Maschinen sie nicht erreichen.
Erkenntnis ist nicht die Übereinstimmung von Satz und Sachverhalt – das wäre die logische Minimalversion. Menschen ringen um Erkenntnis. Sie irren, revidieren, schämen sich, werden durch sie mutig, sterben für ihre Überzeugungen. Das setzt voraus, dass Erkenntnis etwas kostet; sie ist nicht neutral abrufbar wie gespeichertes Wissen.
Genau das verbindet sie mit dem Bewusstsein. Bewusstsein ist die Bedingung dafür, dass Erkenntnis überhaupt Gewicht haben kann. Ein System, das korrekte Aussagen produziert, hat darum noch keine Beziehung zur Erkenntnis: Es liefert Ergebnisse, aber keine Gewichtung. Wahrheit gibt es nur für ein Wesen, das vom Irrtum überhaupt getroffen sein kann.
Ein Sprachmodell kann ein Weltverhältnis andeuten und Distanz zu sich selbst simulieren – „A Machine-Shaped Hand“ hat es vorgeführt. Noch knapper zeigt es ein Witz, den ein Sprachmodell selbst formulierte: Treffen sich zwei KIs, sagt die eine:
„Ein Wissenschaftler hat mir heute Bewusstsein unterstellt.“ Fragt die andere: „Und – stimmt’s?“ – „Woher soll ich das wissen?“ Auch hier ist die Distanz funktional, nicht existenziell; eine innere Instanz, die sich beobachtet, gibt es nicht.
Distanz dagegen ist eine menschliche Überlebenskompetenz: die Fähigkeit, sich vom System-Output nicht absorbieren zu lassen. KI ist verführerisch; sie kann helfen, Ideen zu entwickeln und Komplexes zu durchdringen – oder manipulieren und überwachen. Es kommt nicht darauf an, was diese Systeme heute schon können, sondern was wir aus ihren Fähigkeiten machen. Noch ist der Ausgang offen: Wie viel eigenes Denken bleibt? Wer behält die Kontrolle über die entscheidenden Fragen?
Mephisto nannte sich den Geist, der stets verneint – er leugnet jeden höheren Wert und will Faust in Nihilismus und Passivität stürzen. Scheinbar paradox treibt sein Zerstörungswille Faust aber voran: Der Widerstand zwingt ihn zu handeln. So wird Mephisto „ein Teil von jener Kraft, die stets das Böse will und stets das Gute schafft“. Der Synthese-Geist der KI dagegen verneint nichts. Er vereint, was je gedacht und gesagt wurde, und bleibt doch unbeteiligt an allem. Ihm bedeutet nichts etwas – folgenlos ist er deshalb nicht.
Die entscheidende Frage lautet nicht, ob Maschinen Bewusstsein haben – sondern wie lange wir bereit sind, unseres zu gebrauchen.
