Debatte um Künstliche Intelligenz - „Ich vertraue auf die grenzenlose Kreativität der Menschen“

Katharina Zweig ist Professorin für Informatik an der TU Kaiserslautern, wo sie den Studiengang „Sozioinformatik“ koordiniert. Neben der akademischen Lehre berät sie Abgeordnete und Minister und ist beteiligt an den Vorbereitungen einer Transformation zur KI-basierten Wissensgesellschaft. 

Frau Zweig, Wie sehr können wir Künstlicher Intelligenz (KI) vertrauen?

Im Wesentlichen sollten wir gar nicht mehr von „der KI“ sprechen, denn das vernebelt den Blick. „Die KI“ ist ja kein Wesen, sondern eine etwas unübersichtliche Menge an Software, die nun Dinge tun kann, die vorher Menschen vorbehalten waren. Dazu gehört, dass die Maschine heute beispielsweise Audio in Text umwandeln kann oder auf Bildern relativ zuverlässig erkennen kann, was darauf zu sehen ist. Sie kann auch gut strukturierte Texte schreiben, interessante Bilder berechnen und gute Übersetzungen vorlegen. 

Jetzt haben Sie nach Vertrauen gefragt: Wenn wir einer KI „vertrauen“ müssen, dann soll sie einen Job übernehmen, den sie nicht zuverlässig durchführen kann. Denn mit den Methoden heute – so argumentiere ich in meinem neuen Buch („Die KI war`s! Von absurd bis tödlich: Die Tücken der künstlichen Intelligenz“; Anm. d. Red.) – sollten Maschinen nur dann eingesetzt werden, wenn wir ihre Entscheidungen auch überprüfen können. Eine Aufgabe, bei der wir ihr „vertrauen“ müssen, statt um ihre Verlässlichkeit zu wissen, sollten wir dieser Art von Software nicht zutrauen. 

Wird es in einigen Jahren keinen Beruf mehr geben, der nichts mit dieser neuen Technologie zu tun hat?

Ich kann mir kaum einen Beruf vorstellen, der nicht von dieser neuen Technologie profitieren wird. Und wenn sie nur dabei hilft, E-Mails schneller zu schreiben oder jemanden wieder zu erkennen, mit dem man vor Jahren einmal zu tun hatte. Ich denke, dass sie auch für jeden von uns zu einem zweiten Gedächtnis wird: Ich gehe fest davon aus, dass wir bald alle auf unseren Handys eine persönliche, auf uns trainierte KI-Instanz haben können, wenn wir das wollen. 

Also könnte es sein, dass KI-Roboter für uns eine ernstzunehmende Konkurrenz werden?

Da muss ich zurückfragen: Sind Kräne eine ernstzunehmende Konkurrenz für Bauarbeiter? Ich denke, dass die neuen Roboter, die definitiv mehr können werden als die Generation davor, uns Menschen vor allen Dingen die Arbeit abnehmen können, die schwierig und gefährlich ist. Wir werden mehr mit Robotern zusammenarbeiten und dann andere Aufgaben übernehmen können.

In Diskussionen über KI tauchen allerdings oft Ängste vor Jobverlusten auf.

Es wird sicherlich auch Jobs geben, die nicht mehr so viel Personalbedarf haben werden, zum Beispiel in der visuellen Qualitätskontrolle. Das können nämlich smarte Robotiksysteme auch heute schon sehr gut. Ich persönlich forsche zu KI-Systemen, die Entscheidungen berechnen oder solche Entscheidungen unterstützen sollen. Und da mache ich mir vor allen Dingen Sorgen um schlecht gemachte KI-Systeme, von denen behauptet wird, dass sie viel mehr können als sie eigentlich können.

 

Das könnte Sie auch interessieren:

•     Transhumanismus: Über Menschen (Ralf Hanselle)
•     „Wir sind schon alle Cyborgs“ (Interview Dennis Rudolph)
•     Digitale Oligopole schaden Demokratie und Wirtschaft (Rasmus Andresen)

 

Wie können und müssen wir diese Gefahren eindämmen?

Hier wird die europäische KI-Verordnung einiges an Transparenzregeln vorgeben, die es hoffentlich schwieriger machen, ein System mit zu vielen Versprechungen zu verkaufen. Wir haben zum Beispiel gerade ein „KI“-System untersucht, das angeblich aus einem Lebenslauf direkt das sogenannte Skill-Profil – also die Fähigkeiten einer Person – extrahieren kann. Es stellte sich heraus, dass das System im Wesentlichen die Schlagwörter des Lebenslaufes aufgezählt hat. Das kann trotzdem hilfreich sein, zum Beispiel als Ausfüllhilfe für ein Skill-Profil. Aber es ist eben keine einsichtsvolle Verarbeitung der Informationen, wie durch die Formulierung „automatische Extraktion des Skill-Profils“ suggeriert. 

Also kann auch KI nicht alles … Vor welchen möglichen Risiken müssen sich Unternehmen, die KI nutzen, schützen?

Sie sollten vor allen Dingen nicht auf schlecht gemachte Systeme hereinfallen – dazu müssen sich Unternehmen mit dieser Technologie auseinandersetzen. Das letzte Unternehmen, das wir beraten haben, hat im Nachhinein gesagt, dass sie sich eine solche Beratung früher im Prozess gewünscht hätten. Im Moment ist es für Laien tatsächlich schwer, die Spreu vom Weizen zu trennen. Wie im Beispiel eben schon gezeigt, neigen die Firmen dazu, ihre Systeme so irreführend zu beschreiben, dass man schnell den Eindruck bekommt, dass hier echte Intelligenz wirke. Das ist heute aber wirklich nicht der Fall, auch wenn einige Softwaresysteme erstaunliche Leistungen zeigen.

Gibt es eine Gefahr, dass KI die Einkommensungleichheit weiter verschärft?

Auf jeden Fall. Daher ist auch die Frage nach dem Jobverlust nicht die einzige, die man sich stellen sollte. Es ist nicht so sehr „die KI“, die uns ersetzen wird. Stattdessen wird die Person, die KI-Systeme nutzt, denjenigen ersetzen, der es nicht tut. Die Schere zwischen dem, was ein Mensch mit und ohne Softwareunterstützung tun kann, wird deutlich weiter aufgehen. Das heißt, dass die, die heute schon weniger Zugang zu Wissen und zu solchen Systemen haben, in Zukunft noch schlechter gestellt sein werden. 

Gibt es auch Bedenken hinsichtlich der Manipulation von Informationen und Deepfakes?

Ja, auf jeden Fall. Es ist so einfach geworden, Dokumente, Videos, Audio herzustellen, die auf den ersten Blick sehr echt aussehen. Es wird nicht einfach werden, aus den vielen im Internet veröffentlichten Dokumenten diejenigen herauszufiltern, die die Wirklichkeit zeigen. 

Das heißt, KI kann uns politisch beeinflussen?

Hier finde ich es wichtig, immer wieder zu betonen, dass nicht „die KI“ die politische Landschaft beeinflusst. Wenn, dann sind es Menschen, die KI-Systeme dazu nutzen, politische Botschaften zu senden. Und diese haben es durch die neuen Systeme deutlich leichter, das in großem Maßstab zu tun. 

Dann wäre es doch auch sinnvoll, autonome Waffensysteme, die auf KI basieren, zu verbieten.

Autonome Waffensysteme sind solche, die Menschen direkt erschießen, wenn irgendein Kriterium greift. Zum Beispiel könnten das Systeme sein, die geflohene Kriminelle, die schon zum Tode verurteilt wurden, autonom suchen sollen und bei Erkennen erschießen. Das sollte auf keinen Fall erlaubt werden, weil diese Systeme sich irren – und zwar gar nicht so selten. Man würde dann also einen Unschuldigen erschießen, weil das System einen Fehler macht. Das darf nicht passieren, das widerspricht unserem Rechtssystem.

Wie können wir dann sicherstellen, dass KI in militärischen Anwendungen nicht außer Kontrolle gerät?

Auch hier gilt: „die KI“ ist kein Wesen, es ist kein Ding, das etwas selbstständig tut. Der Mensch ist dafür verantwortlich, wie er es einsetzt. Die KI kann also nicht „außer Kontrolle“ geraten wie ein lebendiges Wesen, sie kann nicht selbstständig die Grenzen überschreiten, die wir ihr setzen. Trotzdem kann es gefährlich werden, wenn solche Systeme direkt und ohne Überprüfung auf die Welt einwirken können – wie bei den autonomen Waffensystemen.

Software jeder Form sollte daher beispielsweise auch nicht die Logistik der Bundeswehr automatisch regeln und einfach LKWs durch die Gegend schicken – der Mensch muss immer auf Sinnhaftigkeit überprüfen. Noch schlimmer ist es, wenn zwei Maschinen direkt miteinander interagieren – auch wenn jedes System für sich gut programmiert sein sollte, kann es durch die Interaktion zu ungewollten Effekten kommen: Das haben wir schon bei den Börsensystemen gesehen, die automatisch kaufen und verkaufen. Auch da kam es zu ungewollten Börsencrahes.

Welche Bereiche fallen Ihnen hier noch ein? 

Dieses Problem der Interaktion von KI-Systemen mit der Welt gilt natürlich auch für andere Bereiche des gesellschaftlichen Lebens, in denen es durch Verwendung von Computersystemen schnell dazu kommt, dass Hunderte oder Tausende Bürger und Bürgerinnen durch sie beeinflusst werden. In Michigan wurde zum Beispiel ein System eingesetzt, das automatisch Sozialhilfebetrüger finden sollte.

Es war aber ungünstig programmiert, wenn es die Lohnangaben eines ehemaligen Arbeitgebers und einer arbeitslosen Person verglich: Schon kleinste, manchmal nur vermeintliche Abweichungen führten direkt dazu, dass das Fünffache der ausgezahlten Sozialhilfe von der Person zurückgefordert wurde. Die Gerichtsprozesse stehen noch aus, aber das wird teuer werden für den Staat Michigan. Aber wir müssen gerade in Deutschland auch aufhören, immer nur über die Gefahren von neuer Technologie zu sprechen. Es gibt auch so viele Chancen, die jetzt genutzt werden könnten. 

Was denn zum Beispiel?

Ein Thema, das mir wichtig ist, ist die Inklusion in der Bildung: Kinder, die eine Lese-Rechtschreib-Schwäche haben oder die noch nicht ausreichend Deutsch sprechen, könnten im naturwissenschaftlichen Unterricht mit Hilfe von Text-to-Speech-Systemen unterstützt werden. Das heißt, die Matheaufgabe wird ihnen vorgelesen, statt dass sie sie lesen müssen. Davor könnte die Aufgabe auch noch übersetzt werden, so dass sich die Kinder im Matheunterricht auf Mathematik konzentrieren können.

Ansonsten sehe ich viele neue Geschäftsmöglichkeiten. Es ist zum Beispiel so viel einfacher geworden, interessante Designs oder Logos zu entwickeln. Ich meine jetzt nicht, dass man einfach die Maschine anschmeißt, und die macht das dann allein. Stattdessen kann man die Maschine als Ideengeber, als Assoziationsproduzenten nutzen und damit viele Ideen in kurzer Zeit ausprobieren. 

Wird KI die Kultur und die Art und Weise, wie wir Kunst, Unterhaltung und Kommunikation erleben, ebenfalls beeinflussen?

Das wüsste ich auch gerne! Ich denke, dass es sehr spannend werden wird. Wie immer bei einer neuen Technologie gibt es im Moment natürlich zuerst einmal die interessanten Diskussionen darüber, ob KI-Kunst überhaupt Kunst ist – ähnlich wie bei den ersten Fotografien. Dazu hat Cathrin Misselhorn gerade ein sehr schönes Buch geschrieben: „Künstliche Intelligenz – Das Ende der Kunst?“. Ich bin eher gespannt, wie Menschen diese neuen Werkzeuge nutzen werden, um immer wieder aktuelle und berührende Kunstwerke herzustellen. Ich vertraue dabei fest auf die grenzenlose Kreativität der Menschen. 

Das Gespräch führte Ilgin Seren Evisen.