Systeme K\u00fcnstlicher Intelligenz erscheinen heute allgegenw\u00e4rtig, beherrschen die Nachrichten, politische Debatten und Entscheidungen sowie wissenschaftliche Diskussionen. Die gro\u00dfen Internetkonzerne \u00fcberh\u00e4ufen uns mit gro\u00dfen Werbeanzeigen, unglaublichen Versprechungen, mit der Aussicht einer sch\u00f6neren, leichteren, ja, besseren Welt durch Einsatz von KI-Technologien. Auf Seiten kritischer Betrachtungen der KI hat der Roman Dave von Raphaela Edelbauer ein vielf\u00e4ltiges Echo in Fernsehen und Feuilleton gefunden. Er zeigt vielleicht eine Dystopie auf, viele Elemente lie\u00dfen sich auf unsere digitalisierte, vernetzte Wirklichkeit beziehen.<\/p>\n
Ist es m\u00f6glich, eine KI zu kreieren, die ein eigenes Bewusstsein besitzt und so dem Menschen gleich ist? Dies soll Dave, dem Supercomputer, gelingen. Mit dem Protagonisten Syz befinden wir uns in einem riesigen Labor, eigentlich einer kleinen Stadt, bev\u00f6lkert von 2000 Programmierer*innen und 20 000 Helfer*innen f\u00fcr Service, Infrastruktur und Technik. Die Au\u00dfenwelt ist nicht vorhanden, alles spielt sich in den aufsteigenden Stockwerken ab, die gleichzeitig die Hierarchie der Organisation abbilden: unten die Maschinen zur Energieversorgung, das Servicepersonal und Handwerker*innen, in der Mitte die Programmierer*innen und oben die F\u00fchrung, aber auch der Kern von Dave, dem Kern des Rechenzentrums. Syz ist Programmierer, der ebenso wie seine Kolleg*innen unter extremer Anspannung Programme, genannt Skripts, schreibt, mit dem Ziel, Dave menschliches Verhalten zu erm\u00f6glichen.<\/p>\n
Syz trifft eine Frau, angeblich eine \u00c4rztin. Er wundert sich und fragt: \u201eArbeitest du wirklich mit Menschen?\u201c (S. 13) Das Labor erscheint als kleine Stadt mit allen Annehmlichkeiten f\u00fcr Erholung und Komfort ausgestattet. Er ist auf erneuter Suche nach der \u00c4rztin, irrt durch die Ebenen des Labors und wird dabei von einem pl\u00f6tzlichen Ereignis mitgerissen. Ein Algorithmus-Fehler erzeugt einen nicht zu bremsenden Energiebedarf, die Leitungen k\u00f6nnen den Strom nicht bew\u00e4ltigen und schmelzen, eine Begrenzung ist nicht gegeben. Der Kampf gegen die Auswirkungen des Schadens erzeugt eine H\u00f6lle f\u00fcr alle Beteiligten.<\/p>\n
Alle Programmierer*innen k\u00f6nnen durch Leistung in h\u00f6here Positionen aufsteigen, in Wettbewerben k\u00e4mpfen sie stundenlang ununterbrochen, nehmen Drogen bis zur totalen Ersch\u00f6pfung. Syz, obwohl ein exzellenter Programmierer, wird nicht f\u00fcr einen Aufstieg ber\u00fccksichtig, er beteiligt sich nicht an Wettbewerben. Vielleicht ist dies geplant. Ein Algorithmus hat ihn ausgew\u00e4hlt, sein Bewusstsein soll mit einer speziellen Operation in Dave hochgeladen werden. Die Operation findet im obersten Teil des Labors statt, dort lernt er die F\u00fchrungsgruppe kennen inklusive des absoluten F\u00fchrers. Eine Historikerin beschreibt Syz die Au\u00dfenwelt des Labors: Eine Katastrophe ungebremsten Bev\u00f6lkerungswachstums, verbunden mit Knappheit an Lebensmitteln und Wasser, f\u00fchre zu einem elenden Leben dort. Edelbauer beschreibt dies mit grotesken Beispielen und Bildern.<\/p>\n
Der Kern der Operation, Dave Bewusstsein einzuimpfen, besteht darin, Syz seine ganze Geschichte erz\u00e4hlen zu lassen, sein komplettes Ged\u00e4chtnis hochzuladen, vielleicht aber auch das Ged\u00e4chtnis der Menschheit. Hier wird Syz auch das Buch The Art of Memory von Francis Yates zum Lesen gegeben. Yates war Mitarbeiterin des Warburg Instituts London, welches dem kulturellen Ged\u00e4chtnis gewidmet ist (vgl. Assmann 2018). Der Weg der Erinnerungen von Syz f\u00fchrt zu mysteri\u00f6sen Begegnungen und Erscheinungen, Personen tauchen auf und wundersame Orte werden erlebt. Die Autorin gibt Hinweise auf apokalyptische Filme wie Her, Solaris etc. Und am Ende erwartet uns noch eine \u00fcberraschende Wende und Aufl\u00f6sung dieser surrealen Erlebnisse.<\/p>\n
Was w\u00e4re, k\u00f6nnte der Algorithmus eigene Erkenntnisse gewinnen? Nach Penrose k\u00f6nnen Computer keine eigenen Erkenntnisse erzeugen. Interessanterweise f\u00fchrt die Autorin hier kurz die heilige Sophia ein, G\u00f6ttin der der Gnostiker f\u00fcr Weisheit und auch Sch\u00f6pferin des Demiurgs. \u201eAlles, was in ihrem irdischen Domizil um Sophia herum geschieht, ist in Wahrheit sie selbst, Aspekte ihrer eigenen Natur, ihres Charakters, denn sie kam ja aus der All-Einheit\u201c (S. 425). W\u00e4re die Weisheit von Dave, dem Computer, dann am Ende der G\u00f6ttin der Weisheit nicht gleich? Vielleicht zuf\u00e4llig ist der Supercomputer der EU Mare Nostrum in Barcelona in einer alten Kirche aufgestellt.<\/p>\n
Die Autorin hat wohl in langj\u00e4hriger Arbeit viele Elemente der gegebenen Computer-, KI- und Internet-Welt in absurder Weise adressiert. Oligopolistische Konzerne wie Alphabet, Microsoft oder Amazon entwickeln unaufhaltsam das Internet fort, verbunden mit Verhei\u00dfungen einer besseren Welt. Das Gesellschaftssystem hat keine Instrumente, um Technologie und Technik- Entwicklungen zu kontrollieren, insbesondere, wenn Verm\u00f6gensmehrung und Machtkonzentration damit einhergehen (J\u00fcnger 1949). Der nicht zu beschr\u00e4nkende Energieverbrauch der Server-Farmen wird gezeigt, wie heute aus Daten des Stromverbrauchs hervorgeht (Hostaker 2022: 128). Marc Zuckerberg und Elon Musk demonstrieren die immer vorhandene Pyramide der Autorit\u00e4t in dieser Welt.<\/p>\n
Der Roman wird mit einem Zitat von T. S. Elliott (S. 430) beendet: Wir sollten nicht aufh\u00f6ren nach Erkenntnissen zu streben, am Ende kommen wir doch dort an, wo wir schon vorher waren!<\/p>\n
Dem Rezensenten sind beim Lesen des Buches vielf\u00e4ltige Referenzen zu Lekt\u00fcren und Betrachtungen der Lebenswelt, der Technik und Wissenschaft und auch der heutigen Zeit eingefallen. Der Roman erfindet eine Innenwelt der KI, abgetrennt von der Au\u00dfenwelt, hinterfragt die Erkenntnisf\u00e4higkeit dieser und weist auf zu hinterfragende Entwicklungen hin. Insbesondere die Beschreibung der Programmierung l\u00e4sst Vergleiche mit der existierenden Computer- und Internetwelt zu. Edelbauer gelingt es, den Leser tief in die Gef\u00fchlswelt des besessenen Programmierens und die Paranoia des allgegenw\u00e4rtigen \u00dcberwachungssystem mitzunehmen. Bemerkenswert ist die intensive Einarbeitung der Autorin in die breite Diskussion der KI inklusive Transhumanismus. Auch wenn der Text nicht immer leicht ist, so ist er doch spannend und l\u00e4dt zum Nachdenken ein.<\/p>\n
Assman, Jan 2018: Religion und Kulturelles Ged\u00e4chtnis, M\u00fcnchen.<\/p>\n
Hostaker, Roar 2022: Zur \u00d6kologie des Computers, in: Lettre<\/em>, Nr. 138. S.128.<\/p>\n J\u00fcnger, F. G. 1949: Die Perfektion der Technik, Frankfurt am Main.<\/p>\n Penrose, Roger 1994: Shadows of the Mind, Oxford.<\/p>\n","protected":false},"featured_media":0,"template":"","categories":[2952],"tags":[3204,791,667],"autoren":[3335],"publikationen":[3345],"class_list":["post-19112","publikation","type-publikation","status-publish","hentry","category-kuenstliche-intelligenz","tag-kuenstliche-intelligenz","tag-rezension","tag-vorgaenge-artikel","autoren-werner-bergmann","publikationen-vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte"],"acf":[],"yoast_head":"\n