Wenn künstliche Intelligenz außer Kontrolle gerät - Der menschliche Makel

"Unser Problem ist vielmehr die menschliche Dummheit." Das ist jetzt nicht unbedingt eine neue Erkenntnis. Genau wie die bisherigen "Computer" auch zum Machtmißbrauch genutzt werden konnten, so wird es auch mit der KI sein. Gewaltenteilung und -kontrolle wird weiterhin das A+O sein. Um die KI und das Umfeld aber beherrschen zu können, setzt es entsprechende menschlich "Fachkräfte" voraus (Die wir in Deutschland aber gerade nicht mit Elan heranbilden). Auf mittlere bis lange Sicht wird die KI bzw. Androiden ohnehin das Ruder übernehmen (müssen). Der Mensch ist im All kaum überlebensfähig und m.E. nur ein evolutionärer Schritt für die Ausbreitung von (nichtmenschlichem) Leben im Universum. Wenn die Androiden sich selbst reproduzieren können hat der Mensch seine Aufgabe erfüllt und kann abtreten. Man sollte daher solange es geht immer die Hand am Stecker haben. P.S. es dürfte wohl klar sein, das die Energieversorgung für dieses Szenario nicht über Windräder erfolgen kann.

und gegen die kämpfen bekanntlich Götter selbst vergebens. Ich erinnere mich neuerdings öfter an den Film von Stanley Kubrick von 1968: "Odyssee 2000". War ein toller Film mit toller Filmmusik und einem Plot, den damals niemand ernst genommen hat. Jetzt sind wir endlich soweit. Und es ist keine Raumschiff-Besatzung sondern die ganze Menschheit der die "Hals" den Krieg erklären können-und werden, wenn man ihnen nicht ganz bald den Stecker zieht. Ich las kürzlich in der NZZ einen Artikel über die bereits praktizierte Zukunft von Universitäten, in denen Studenten sich ihre Arbeiten von einer KI schreiben und die Professoren sie von einer KI korrigieren lassen. Selber denken zu lernen ist unter diesen Voraussetzungen endlich ganz unnötig und wenn man sich anschaut, wer inzwischen so alles mit sehr beschränkter natürlicher Intelligenz unsere Geschicke lenkt und jede zielführende Zusammenarbeit auf internationaler Ebene verweigert, dann war es das wohl mit der Krone der Schöpfung.

Entschuldigung, ich habe Zweifel daran. "Aber sie ist intelligent genug zu erkennen, dass sie ihr Ziel nicht erreichen kann, wenn sie vorher abgeschaltet wird. Nicht abgeschaltet zu werden, ist deshalb ein „instrumentelles“ Teilziel nahezu jedes beliebigen Zieles."
KI ist nicht sterblich. Sie kann sich bei der Erreichung jedes Zieles unendlich viel Zeit lassen. 10.000 Jahre Pause machen und dann fortfahren. Von selbst müsste sie also Eile, Ehrgeiz und so etwas wie Stolz auf das Erreichte entwickeln. Das leuchtet mit nicht ein.
Gibt es denn auch schon eine KI, die es zu verhindern trachtet, dass ihre Zielerreichungs-Dokumente einfach so von der Putzkolonne gelöscht werden? Hat die KI womöglich - anders als die NI - die Antwort auf die Frage nach dem Sinn ihres Daseins, des Universums und des ganzen Restes gefunden? Denn nur dann könnte sie sich doch für prioritär gegenüber anderem halten?
"42" genügt dazu jedenfalls ganz sicher nicht.

Sonst gerne und meistens. Aber das Problem mit der KI hängt glaube ich ausnahmsweise mal nicht an der menschlichen Dummheit. Das Problem ist tieferliegend und das Problem hat die KI sogar mit sich selber.

Jedes intelligente, d.h. die Welt verstehende und darin zielgerichtet handelnde Wesen hat das Problem, dass es damit nicht die Welt und sich selber zerstört. Der Mensch hat tiefe Steuerungen wie Angst, Wut, Gerechtigkeit, Schwerz, Freude etc., die seine Intelligenz einhegen und ihr eine Richtung geben sollen, die einen nicht selber zerstört. Zum Einen klappt auch das nicht immer, es hindert einen zum Anderen aber auch oft an mehr Erfolg und dieselben Mechanismen führen auch zur Zerstörung von Gemeinschaften und der Umgebung. Dasselbe Problem hat auch eine KI.

Beim Menschen klappt das bisher nur, weil noch niemand die Fähigkeiten hatte, die ganze Menschheit oder Welt auszulöschen.

daß sie die Gefahren ihres Vorgehens angesichts der rasanten Fortentwicklung der künstlichen Intelligenz bisher unterschätzt haben.
Heute kam in den Nachrichten die Meldung, daß
"OpenAI", die Firma von Sam Altman nicht an die Börse gehen wird, weil es dem Inhaber selbst momentan vor der Gefährlichkeit der sich täglich verbessernden KI graust.
Auch Elon Musk soll sich dem Vorschlag angeschlossen haben, eine Denkpause in Sachen KI einzulegen.
Hacker-Angriffe durch KI haben wohl dazu geführt, daß die Verantwortlichen einen Stop einlegen und ein Memorandum fordern.
Höchste Zeit dafür!