Künstliche Intelligenz – ein Möbiusband?

Systeme Künstlicher Intelligenz erscheinen heute allgegenwärtig, beherrschen die Nachrichten, politische Debatten und Entscheidungen sowie wissenschaftliche Diskussionen. Die großen Internetkonzerne überhäufen uns mit großen Werbeanzeigen, unglaublichen Versprechungen, mit der Aussicht einer schöneren, leichteren, ja, besseren Welt durch Einsatz von KI-Technologien. Auf Seiten kritischer Betrachtungen der KI hat der Roman Dave von Raphaela Edelbauer ein vielfältiges Echo in Fernsehen und Feuilleton gefunden. Er zeigt vielleicht eine Dystopie auf, viele Elemente ließen sich auf unsere digitalisierte, vernetzte Wirklichkeit beziehen.

Ist es möglich, eine KI zu kreieren, die ein eigenes Bewusstsein besitzt und so dem Menschen gleich ist? Dies soll Dave, dem Supercomputer, gelingen. Mit dem Protagonisten Syz befinden wir uns in einem riesigen Labor, eigentlich einer kleinen Stadt, bevölkert von 2000 Programmierer*innen und 20 000 Helfer*innen für Service, Infrastruktur und Technik. Die Außenwelt ist nicht vorhanden, alles spielt sich in den aufsteigenden Stockwerken ab, die gleichzeitig die Hierarchie der Organisation abbilden: unten die Maschinen zur Energieversorgung, das Servicepersonal und Handwerker*innen, in der Mitte die Programmierer*innen und oben die Führung, aber auch der Kern von Dave, dem Kern des Rechenzentrums. Syz ist Programmierer, der ebenso wie seine Kolleg*innen unter extremer Anspannung Programme, genannt Skripts, schreibt, mit dem Ziel, Dave menschliches Verhalten zu ermöglichen.

Syz trifft eine Frau, angeblich eine Ärztin. Er wundert sich und fragt: „Arbeitest du wirklich mit Menschen?“ (S. 13) Das Labor erscheint als kleine Stadt mit allen Annehmlichkeiten für Erholung und Komfort ausgestattet. Er ist auf erneuter Suche nach der Ärztin, irrt durch die Ebenen des Labors und wird dabei von einem plötzlichen Ereignis mitgerissen. Ein Algorithmus-Fehler erzeugt einen nicht zu bremsenden Energiebedarf, die Leitungen können den Strom nicht bewältigen und schmelzen, eine Begrenzung ist nicht gegeben. Der Kampf gegen die Auswirkungen des Schadens erzeugt eine Hölle für alle Beteiligten.

Alle Programmierer*innen können durch Leistung in höhere Positionen aufsteigen, in Wettbewerben kämpfen sie stundenlang ununterbrochen, nehmen Drogen bis zur totalen Erschöpfung. Syz, obwohl ein exzellenter Programmierer, wird nicht für einen Aufstieg berücksichtig, er beteiligt sich nicht an Wettbewerben. Vielleicht ist dies geplant. Ein Algorithmus hat ihn ausgewählt, sein Bewusstsein soll mit einer speziellen Operation in Dave hochgeladen werden. Die Operation findet im obersten Teil des Labors statt, dort lernt er die Führungsgruppe kennen inklusive des absoluten Führers. Eine Historikerin beschreibt Syz die Außenwelt des Labors: Eine Katastrophe ungebremsten Bevölkerungswachstums, verbunden mit Knappheit an Lebensmitteln und Wasser, führe zu einem elenden Leben dort. Edelbauer beschreibt dies mit grotesken Beispielen und Bildern.

Der Kern der Operation, Dave Bewusstsein einzuimpfen, besteht darin, Syz seine ganze Geschichte erzählen zu lassen, sein komplettes Gedächtnis hochzuladen, vielleicht aber auch das Gedächtnis der Menschheit. Hier wird Syz auch das Buch The Art of Memory von Francis Yates zum Lesen gegeben. Yates war Mitarbeiterin des Warburg Instituts London, welches dem kulturellen Gedächtnis gewidmet ist (vgl. Assmann 2018). Der Weg der Erinnerungen von Syz führt zu mysteriösen Begegnungen und Erscheinungen, Personen tauchen auf und wundersame Orte werden erlebt. Die Autorin gibt Hinweise auf apokalyptische Filme wie Her, Solaris etc. Und am Ende erwartet uns noch eine überraschende Wende und Auflösung dieser surrealen Erlebnisse.

Was wäre, könnte der Algorithmus eigene Erkenntnisse gewinnen? Nach Penrose können Computer keine eigenen Erkenntnisse erzeugen. Interessanterweise führt die Autorin hier kurz die heilige Sophia ein, Göttin der der Gnostiker für Weisheit und auch Schöpferin des Demiurgs. „Alles, was in ihrem irdischen Domizil um Sophia herum geschieht, ist in Wahrheit sie selbst, Aspekte ihrer eigenen Natur, ihres Charakters, denn sie kam ja aus der All-Einheit“ (S. 425). Wäre die Weisheit von Dave, dem Computer, dann am Ende der Göttin der Weisheit nicht gleich? Vielleicht zufällig ist der Supercomputer der EU Mare Nostrum in Barcelona in einer alten Kirche aufgestellt.

Die Autorin hat wohl in langjähriger Arbeit viele Elemente der gegebenen Computer-, KI- und Internet-Welt in absurder Weise adressiert. Oligopolistische Konzerne wie Alphabet, Microsoft oder Amazon entwickeln unaufhaltsam das Internet fort, verbunden mit Verheißungen einer besseren Welt. Das Gesellschaftssystem hat keine Instrumente, um Technologie und Technik- Entwicklungen zu kontrollieren, insbesondere, wenn Vermögensmehrung und Machtkonzentration damit einhergehen (Jünger 1949). Der nicht zu beschränkende Energieverbrauch der Server-Farmen wird gezeigt, wie heute aus Daten des Stromverbrauchs hervorgeht (Hostaker 2022: 128). Marc Zuckerberg und Elon Musk demonstrieren die immer vorhandene Pyramide der Autorität in dieser Welt.

Der Roman wird mit einem Zitat von T. S. Elliott (S. 430) beendet: Wir sollten nicht aufhören nach Erkenntnissen zu streben, am Ende kommen wir doch dort an, wo wir schon vorher waren!

Dem Rezensenten sind beim Lesen des Buches vielfältige Referenzen zu Lektüren und Betrachtungen der Lebenswelt, der Technik und Wissenschaft und auch der heutigen Zeit eingefallen. Der Roman erfindet eine Innenwelt der KI, abgetrennt von der Außenwelt, hinterfragt die Erkenntnisfähigkeit dieser und weist auf zu hinterfragende Entwicklungen hin. Insbesondere die Beschreibung der Programmierung lässt Vergleiche mit der existierenden Computer- und Internetwelt zu. Edelbauer gelingt es, den Leser tief in die Gefühlswelt des besessenen Programmierens und die Paranoia des allgegenwärtigen Überwachungssystem mitzunehmen. Bemerkenswert ist die intensive Einarbeitung der Autorin in die breite Diskussion der KI inklusive Transhumanismus. Auch wenn der Text nicht immer leicht ist, so ist er doch spannend und lädt zum Nachdenken ein.

Zusätzlich verwendete Literatur

Assman, Jan 2018: Religion und Kulturelles Gedächtnis, München.

Hostaker, Roar 2022: Zur Ökologie des Computers, in: Lettre, Nr. 138. S.128.

Jünger, F. G. 1949: Die Perfektion der Technik, Frankfurt am Main.

Penrose, Roger 1994: Shadows of the Mind, Oxford.