Stellen wir uns ein Land vor, das zum ersten Mal Berührung mit elektrischem Strom hat. Eine überwältigende Begeisterung für das Leuchten der Glühbirnen erfasst die Menschen, und recht schnell fällt durch bedauerliche Unfälle auf, dass diese neue Kraft auch mächtige Wucht entfalten kann. Was wäre eine erwartbare Reaktion? Der Versuch, diese Technologie zu verstehen, zu bändigen, zu beherrschen und nach eigenen Regeln zum größtmöglichen Nutzen einzusetzen?
Oder das muntere Experimentieren mit den zugelieferten Birnen, Kabeln und Akkus Dritter – einfach mal ausprobieren, was passiert, wenn man den Finger in die Steckdose steckt, oder ein Geschäftsmodell darauf aufbauen, mit der gelieferten 100-Watt-Glühbirne einen Leuchtturm zu betreiben? Die Frage scheint sich von selbst zu beantworten – bis man auf unseren Umgang in Deutschland mit KI blickt. Dort ist das Land gerade klar auf Kurs für die zweite – die unsinnige – Antwort.
Mit KI Untersucht: KI und die Deutschen
Bejammert da schon wieder ein Branchenmensch, dass seine Branche nicht genug Aufmerksamkeit bekomme? Mitnichten – denn an Aufmerksamkeit mangelt es Künstlicher Intelligenz gerade nicht: Seit der Einführung von ChatGPT ist KI konstant unter den Top-Themen, ob in den Schlagzeilen, den Social-Media-Diskussionen, an Stammtischen oder bei der Informationssuche. Doch über etwas zu sprechen, bedeutet eben noch lange nicht, es auch zu verstehen – und nur, wer etwas versteht, kann es sinnvoll einsetzen oder gar selbst gestalten. Hier liegt der Hund begraben.
In der bisher größten Datenanalyse dazu, wie die Deutschen KI wahrnehmen und welche Aspekte sie dazu bewegen, haben wir bei Hase & Igel – einem von mir geführten Anbieter KI-gestützter Analysesoftware – über längere Zeiträume alle öffentlichen Beiträge in journalistischen und sozialen Medien sowie sämtliche Google-Suchen rund um KI ausgewertet. Ironischerweise kam dabei Künstliche Intelligenz zum Einsatz, um zu ermitteln, wie unsere Landsleute mit Künstlicher Intelligenz umgehen. So viel Science Fiction muss wohl im Jahr 2023 einfach sein. In über 700.000 Beiträgen, über 900.000 Reaktionen darauf sowie mehr als 35 Millionen Google-Suchanfragen haben die Algorithmen die Themen, Trends und Zusammenhänge transparent gemacht.
Gefunden haben wir auf diese Weise ein Land im Blindflug, das mit großer Begeisterung auf einen Zug aufspringt, für dessen Funktionsweise es sich nur wenig interessiert und für den es keine Anstalten macht, Bauteile herzustellen oder gar die Gleise zu führen. Ganz wie in dem obigen Beispiel mit elektrischem Strom.
Dem öffentlichen Diskurs fehlt es massiv an Substanz
So sind wir Deutschen Meister im allgemeinen Diskutieren über die Chancen und Risiken Künstlicher Intelligenz – mit einer zunehmenden Dynamik beim Bedenkentragen –, bleiben dabei aber abstrakt und wolkig. Von „KI wird uns helfen, den Klimawandel zu stoppen“ bis „KI wird das Ende der Menschheit einläuten“ gehen die Rufe – doch wie dies genau geschehen soll, welche Art von KI auf welche Weise zu einem solchen Ergebnis führen sollte, das sucht man in der öffentlichen Debatte vergebens.
Wie in vielen anderen Lebens- und Politikbereichen werden dagegen die direkt greifbaren, eigentlich offenkundigen Ansatzpunkte kaum diskutiert: Wie weit kann Prozessautomatisierung im Betrieb Fachkräftemangel kompensieren? In welchen Berufen droht Arbeitslosigkeit durch KI, und wird das zum Risiko fürs Steuersystem? Wer ist eigentlich verantwortlich dafür, wenn KI einen Fehler macht und das Ergebnis zu Schaden führt – der Anbieter oder der Nutzer? Behalten wir die Kontrolle über unsere Wertschöpfung, wenn wir für unsere Geschäftsmodelle fast nur noch auf Software und Plattformen aus den USA setzen?
Solche Aspekte kommen so gut wie nicht vor und bewegen kaum Menschen abseits eng abgesteckter Fachkreise. Dabei sind diese Fragen wesentlich relevanter als quasi-religiöse Heilsversprechen und Untergangsvisionen bezüglich der KI-Technologien.
KI ist mehr als ChatGPT
Doch schon der Plural – Technologien – legt den Finger in eine andere Wunde: Ein weiteres Ergebnis unserer Studie ist, dass in Deutschland seit dem Siegeszug von ChatGPT und Midjourney „Conversational AI“ quasi zum Synonym für KI als Ganzes geworden ist. War zuvor das Bild Künstlicher Intelligenz vom menschenähnlichen Roboter aus Ex Machina und Co. geprägt, denkt man nun bei KI an eine Web-Anwendung, der man Text eintippen kann und die daraufhin Antworten formuliert, Werbetexte schreibt oder Bilder generiert.
Mehr zum Thema:
Dabei sind KI-Anwendungen längst überall um uns herum: ob in der Echtzeit-Routenplanung fortschrittlicher Navigationssysteme oder in der Logistik, mit der unsere Pakete zu uns kommen, von der vorausschauenden Wartung für Züge (die uns Un- und noch mehr Ausfälle erspart) bis zum Börsenhandel oder der automatischen Buchung von Werbeplätzen. Seit dem Hype um Open AI und Co. ist dies aber hierzulande regelrecht in Vergessenheit geraten.
Deindustrialisierung findet auch bei Künstlicher Intelligenz statt
Das überdeckt einen Trend aus unserer Studie, der dringend die Alarmglocken läuten lassen muss: Während Alle über KI sprechen, hat die messbare Nachfrage nach KI-Lösungen für Unternehmen messbar an Dynamik verloren – bereits in der Pandemie und spätestens seit Energiekrise, Lieferkettenkrise und Rekordinflation. Mehr noch: Für einige der bisher am stärksten gefragten industriellen Anwendungen stagniert die Nachfrage inzwischen – wie z.B. in Prozessoptimierung oder Fertigungsautomatisierung – oder sie geht sogar zurück, wie beispielsweise bei der Prozessautomatisierung oder der Prognostik.
Dabei sind das die bewährten Anwendungsfälle, in denen Künstliche Intelligenz in deutschen Unternehmen bereits belastbar Mehrwert schafft – und zwar nicht irgendwo in der Peripherie, sondern direkt im Kerngeschäft. Wie sich hingegen Generative AI z.B. in einem mittelständischen Maschinenbauunternehmen einsetzen lassen wird, ist bisher nicht abzuschätzen – viele schöne neue Welten werden prognostiziert, doch die bisher greifbaren Anwendungen liegen in erster Linie im Marketing und in der IT, und auch dort eher in nachgeordneten Tätigkeiten. Selbst wenn es richtig gut laufen sollte, winkt ein Nutzen in Form geringerer Personalintensität, nicht durch mehr primäre Wertschöpfung.
Im Klartext bedeutet das, dass die deutsche Wirtschaftskrise dazu führt, dass viele Unternehmen im Land den Anschluss an eine (oder gar: die) zentrale Zukunftstechnologie verlieren und Wertschöpfung mit KI zunehmend anderswo stattfindet – was jedoch bisher niemandem auffällt, da von früh bis spät Künstliche Intelligenz in aller Munde ist.
Wir wollen immer weniger verstehen, was wir da nutzen
Dieser zunehmend klaffende Abgrund zwischen Schein und Sein bleibt auch deshalb unbemerkt, weil sich die Deutschen in Sachen KI von etwas verabschieden, das bisher weltweit ihr Markenzeichen war: der deutschen Gründlichkeit und Solidität. Explodiert einerseits die Neugier, wie sich mit ChatGPT und Co. Geld verdienen, bei den Haus- oder Studienaufgaben betrügen, der Dienstleister substituieren oder in sonstiger Weise schnell Profit erzielen lässt, sinkt zugleich andererseits das Interesse an den dahinter liegenden Technologien.
Sie haben richtig gelesen: Es sinkt – das ist ein klarer und stabiler Befund der Nachfrageanalysen aus unserer Studie. Normalerweise führt ein Hype dazu, dass sich ein jeder zum Fernsehsesselexperten entwickelt und fleißig googelt, Magazine liest, Sendungen schaut und Podcasts hört, um bei Fachvokabular und Trivialwissen auf dem neuesten Stand zu sein – man denke an die zig Millionen Virologen auf dem zweiten Bildungsweg, die wir plötzlich in der Pandemie hatten, oder die Kriegsdienstverweigerer, die ab 2022 mit beeindruckendem Begriffsfundus über Panzerhaubitzen fachsimpelten.
Bei KI hingegen läuft es genau andersherum: Je mehr hierzulande die Menschen mit beliebten US-Lösungen umgehen, desto weniger informieren und interessieren sie sich über die technischen Grundlagen und Fachbegriffe. Language Models, Neuronale Netze, Machine Learning – für sie alle ist das Interesse klar rückläufig. Wie und wieso die Wunderlösungen von anderswo funktionieren, bewegt immer weniger Landsleute.
Unwissen führt zu gefährlichen Fehlanwendungen
In der Zusammenschau erkennen wir somit eine Nation, die sich von Erfindern und Produzenten zu zunehmend unmündigen Konsumenten entwickelt. Reichtum, Ansehen und das Modicum an Macht unseres Landes sind begründet auf der treibenden Funktion Deutschlands und seiner Tüftler, Wissenschaftler und Unternehmer bei den letzten industriellen Revolutionen.
Doch bei Künstlicher Intelligenz als zentralem Treiber der nächsten industriellen Revolution kommen nicht nur kaum wegweisende Lösungen aus Deutschland. Nicht einmal als Anwender zeigen die Deutschen Interesse, Professionalität und Investitionsbereitschaft. Vielmehr experimentiert man mit minimalem Zeit- und Geldeinsatz munter mit amerikanischen Fertiglösungen, ohne sich dabei hinreichend mit ihrer technologischen Basis zu beschäftigen, um wenigstens eine maximal nutzenstiftende Anwendung sicherzustellen.
So werden zum Beispiel ChatGPT und Midjourney bereitwillig dafür eingesetzt, Inhalte zu produzieren, die man dann weiterverkauft – von Apps über Werbemotive bis zu eBooks. Doch ist in keiner Weise geklärt, wie hier eigentlich urheberrechtlich zu verfahren ist. Teure und exzessive Rechtsstreite sind vorprogrammiert. Auch wird ChatGPT gerade im beruflichen Kontext allen Ernstes zur Recherche eingesetzt – erschreckenderweise bis hin zu Journalisten, Unternehmensberatern und Wissenschaftlern.
Dabei ist mit etwas Fachwissen völlig klar, dass Generative KI für solche Zwecke nicht nur ungeeignet, sondern sogar gefährlich ist: Diese Art Künstlicher Intelligenz ist darauf trainiert, aus Eingaben des Nutzers (sogenannten Prompts) gute Geschichten zu erzählen – nicht nüchterne Fakten auszugraben und aufzubereiten. Damit sind ChatGPT und seine Wettbewerber in Fachkreisen von Anfang an berüchtigt dafür, gerne auch mal überzeugend klingende Fakten und Quellen frei zu erfinden, wenn sie dem Narrativ dienen, und das eigene Nichtwissen rundheraus zu leugnen. Solche Erzeugnisse an Kunden weiterzugeben oder gar zu publizieren, ist unzweifelhaft gefährlich für das Funktionieren unserer Systeme – ob Demokratie, Markt oder Wissenschaft.
Nur wer es nicht besser weiß, bekommt die Black Box
Solche Kontrollprobleme (man spricht hier von Prinzipal-Agent-Dilemmata) sind in doppelter Weise in der Unwissenheit der Anwender begründet: Zum einen nutzen sie eigentlich starke Technologien für Zwecke, für die diese nicht gedacht waren. Zum anderen sind diese Technologien „Black-Box-Lösungen“ – also Arten von KI, denen es strukturell unmöglich ist, ihre Logik transparent zu machen, indem sie z.B. die in diesem Fall konkret verwendeten Daten, genutzten Quellen und angewandten Lösungswege offenlegen. Das ist nichts, was sich mit dem Wechsel auf die nächste GPT-Version ändern würde – es ist ein Grundthema dieses Typus Künstlicher Intelligenz, so beeindruckend und mächtig er auch ist.
Mit etwas weniger Naivität und etwas mehr Einlassung würden Politik und Wirtschaft Druck machen auf die Entwicklung einer anderen Art von KI, die man „explainable“ nennt – und mit sinnvoller Regulierung diese auch am Markt bevorzugen, zumindest in kritischen Bereichen. Anders als es uns die Plattform-Riesen (OpenAI, die Kraft hinter ChatGPT, wird zu erheblichen Teilen von Microsoft kontrolliert) glauben lassen wollen, muss KI kein Deus ex machina sein.
Explainable AI verlangt ihren Algorithmen ab, ihre Handlungen – auch jene „unter der Motorhaube“ – klar zu dokumentieren in einer für den Menschen verständlichen Form. Auch wäre es eine durchaus denkbare Forderung, Trainingsdaten-Sets öffentlich zu machen oder zumindest für Gutachter überprüfbar, wenn man eine Marktzulassung möchte. Es ist sehr wohl möglich, die Kraft der Algorithmen zu nutzen, ohne sich einem unerklärten und unerklärlichen Mechanismus in den Händen Dritter auszuliefern.
Doch das erfordert kritische Nutzer, die mit der Sicht eines Ingenieurs an die Sache herangehen. Eigentlich eine klassische Paraderolle für Deutschland.