{"id":19086,"date":"2024-01-22T11:15:10","date_gmt":"2024-01-22T10:15:10","guid":{"rendered":"https:\/\/www.humanistische-union.de\/?post_type=publikation&p=19086"},"modified":"2024-01-23T11:44:31","modified_gmt":"2024-01-23T10:44:31","slug":"19086","status":"publish","type":"publikation","link":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/19086\/","title":{"rendered":"\u201eMein Leben wird ganz wunderbar\u201c \u2013 Chancen und Risiken der K\u00fcnstlichen Intelligenz"},"content":{"rendered":"

In seiner Einf\u00fchrung in den Themenkomplex K\u00fcnstliche Intelligenz geht Stefan H\u00fcgel auf die Risiken ein, die mit K\u00fcnstlicher Intelligenz verbunden sind. Zahlreiche Wissenschaftler*innen sehen die Gefahr, dass eine sich selbst immer schneller weiterentwickelnde KI langfristig den Menschen verdr\u00e4ngen k\u00f6nnte. In \u00f6ffentlichen Appellen weisen sie auf die Risiken hin und schlagen ein Moratorium f\u00fcr die Weiterentwicklung vor. Sie warnen davor, dass Kipppunkte in der Entwicklung zun\u00e4chst unbemerkt \u00fcberschritten werden k\u00f6nnten. Dazu rekapituliert H\u00fcgel konkrete Risiken. Regulierungsbestrebungen gibt es insbesondere auf Ebene der Europ\u00e4ischen Union in Form des AI Act, der sich vor allem auf Hochrisikosysteme konzentriert. Was f\u00fcr Regelungsbedarf generell besteht oder noch bestehen k\u00f6nnte, listet H\u00fcgel auf.<\/em><\/p>\n

Als kleiner Junge war mir schon klar \/ mein Leben wird ganz wunderbar.
\nIch richte mich einfach radikal \/ nach Algorithmen meiner Wahl.
\nDeutsch Amerikanische Freundschaft, Algorithmus \u2013 zahlenliedi<\/sup><\/a><\/i><\/p>\n

K\u00fcnstliche Intelligenz (KI) pr\u00e4gt zunehmend den Fortschritt in der Informatik und wird in Gesellschaft, Politik und Wirtschaft immer st\u00e4rker pr\u00e4sent (Russel 2023). Damit geht es \u00fcber ein technisches Spezialthema weit hinaus und k\u00f6nnte \u201e[\u2026] bald fast jedes Gebiet menschlichen Strebens betreffen<\/i>\u201c (Kissinger\/Schmidt\/Huttenlocher 2021: 3). Besonders der ChatBot ChatGPT<\/i> (Generative Pre-trained Transformer<\/i>)ii<\/sup><\/a>, der seit 2022 \u00f6ffentlich zur Verf\u00fcgung steht und in der Lage ist, umfassende Fragen zu beantworten, Texte zu verfassen oder Programmcode zu erzeugen, hat der Debatte um k\u00fcnstliche Intelligenz in j\u00fcngster Zeit einen enormen Schub gegeben. Durch Weiterentwicklung der dabei zugrundeliegenden Large Language Models<\/i> (LLM) wird seine Leistungsf\u00e4higkeit weiter gesteigert.<\/p>\n

Im Grunde ist KI aber schon lange kein neues Thema mehr. Der Begriff wurde bereits in den 1950er Jahren gepr\u00e4gt und das Thema \u2013 mit wechselnder Intensit\u00e4t \u2013 seither weiterverfolgt. Doch es ist anzunehmen, dass es sich bei der Entwicklung der K\u00fcnstlichen Intelligenz um einen exponentiellen Prozessiv handelt (Azhar 2021), und so ist mit einer sich immer st\u00e4rker beschleunigenden Entwicklung zu rechnen. Neben den vielf\u00e4ltigen Chancen, die sich daraus ergeben, m\u00fcssen auch die Risiken betrachtet werden. Die Debatte dar\u00fcber geht von praktischen Problemen der Anwendung des maschinellen Lernens als fortgeschrittene Methode der Informatik hin zu dystopischen Szenarien, in denen eine \u00fcberm\u00e4chtige KI zur Konkurrenz des Menschen wird und ihn perspektivisch in seiner Rolle abl\u00f6st. Aus b\u00fcrgerrechtlicher Perspektive m\u00fcssen diese Konsequenzen der k\u00fcnstlichen Intelligenz im Blick behalten werden. (H\u00fcgel 2019: 25ff.)<\/p>\n

Kritik an K\u00fcnstlicher Intelligenz gab und gibt es seit Beginn ihrer Entwicklung. Zun\u00e4chst wurde vor allem daran gezweifelt, ob die daran gekn\u00fcpften Versprechungen und Ziele \u00fcberhaupt technisch erreicht werden k\u00f6nnen. Joseph Weizenbaum (1987: 268) argumentierte, dass die Erwartungen an K\u00fcnstliche Intelligenz letztlich auf einem zu stark vereinfachten Begriff von Intelligenz beruhen. Seither wurden die Grenzen des M\u00f6glichen immer weiter verschoben \u2013 neben Fortschritten in der Methodik tr\u00e4gt dazu zweifellos die Entwicklung der Hardware-Technologie einen erheblichen Teil dazu bei. K\u00fcnstliche Intelligenz als methodische Weiterentwicklung der Informatik \u2013 im Sinne schwacher KI<\/i> \u2013 entwickelt sich derzeit st\u00fcrmisch weiter. \u00dcber die Entwicklung starker <\/i>KI \u2013 sprich, einer Form der K\u00fcnstlichen Intelligenz, die der Intelligenz des Menschen \u00e4hnlich ist \u2013 ist damit noch nichts gesagt. Kann beispielsweise eine Maschine ein Bewusstsein entwickeln oder zumindest simulieren?<\/p>\n

Was ist Künstliche Intel­li­genz?<\/span><\/h3>\n

K\u00fcnstliche Intelligenz ist schon deswegen schwer zu definieren, da bereits der Begriff der menschlichen Intelligenz schwer abzugrenzen ist. Bei Wikipediaiii<\/sup><\/a> findet man:<\/p>\n

\n

\u201eIntelligenz [wird] verstanden als die Eigenschaft, die ein Wesen bef\u00e4higt, angemessen und vorausschauend in seiner Umgebung zu agieren; dazu geh\u00f6rt die F\u00e4higkeit, Sinneseindr\u00fccke wahrzunehmen und darauf zu reagieren, Informationen aufzunehmen, zu verarbeiten und als Wissen zu speichern, Sprache zu verstehen und zu erzeugen, Probleme zu l\u00f6sen und Ziele zu erreichen.\u201c<\/p>\n<\/blockquote>\n

Ralf Otte (2023: 9-16) beschreibt Intelligenz auf acht Stufen in drei Dimensionen \u2013 rationale Intelligenz, wahrnehmende Intelligenz und f\u00fchlende Intelligenz \u2013 und stellt fest, dass sich heutige k\u00fcnstliche Intelligenz ausschlie\u00dflich in der Dimension rationaler Intelligenz bewegt. Howard Gardner (1983) f\u00fchrt acht Dimensionen menschlicher Intelligenz auf: Bewegungsintelligenz, bildlich-r\u00e4umliche Intelligenz, Sprachintelligenz, logisch-mathematische Intelligenz, musikalische Intelligenz, naturalistische Intelligenz, zwischenmenschliche Intelligenz und selbstreflexive Intelligenz. Vor allem Letztere wird als wesentliche Eigenschaft den Menschen betrachtet, da sie das (Selbst-) Bewusstsein einschlie\u00dft. Max Tegmark (2017: 63) schreibt kurz und b\u00fcndig: \u201eIntelligenz [ist die] F\u00e4higkeit, komplexe Ziele zu erreichen.\u201c<\/p>\n

In der K\u00fcnstlichen Intelligenz unterscheidet man zwischen der starken<\/i> K\u00fcnstlichen Intelligenz \u2013 eine umfassende Intelligenz, die der des Menschen analog ist und die M\u00f6glichkeit eines eigenen Bewusstseins einschlie\u00dft \u2013 und der schwachen<\/i> K\u00fcnstlichen Intelligenz \u2013 eine technische Intelligenz, die einzelne, spezifische kognitive F\u00e4higkeiten innerhalb eines abgegrenzten Aufgabenbereichs besitzt, ohne umfassenden Zusammenhang zwischen den einzelnen F\u00e4higkeiten. W\u00e4hrend die M\u00f6glichkeit einer starken KI auch philosophisch umstritten ist und zumindest bis heute technisch nicht realisiert werden kann, l\u00e4sst sich die schwache KI als fortgeschrittene Methode der Informatik einstufen, mit der Aufgaben aufgrund unstrukturierter Datenmengen insbesondere mit statistischen und stochastischen Methoden gel\u00f6st werden k\u00f6nnen. Letztlich beruhen auch Verfahren der K\u00fcnstlichen Intelligenz auf Methoden der algorithmischen Verarbeitung von Daten und unterliegen damit auch ihren mathematischen Beschr\u00e4nkungen, beispielsweise den Regeln der Berechenbarkeit.<\/p>\n

Ein fr\u00fches Gedankenexperiment, wann einem Computer Intelligenz zugeschrieben werden kann, ist der Turing-Test<\/i>: Ein menschlicher Schiedsrichter kommuniziert mit zwei Personen \u2013 einem Mensch und einem Computer. Kann er aufgrund der Antworten nicht unterscheiden, welcher der Gespr\u00e4chspartner*innen Mensch und welcher Maschine ist, so gilt die Maschine als intelligent. (Hofstadter\/Denett 1986)<\/p>\n

Wie funktio­niert maschi­nelles Lernen?<\/span><\/h3>\n

KI in der heute sichtbaren Form ist in der Regel maschinelles Lernen<\/i>iv<\/sup><\/a>. Dabei werden insbesondere statistische und stochastische Verfahren genutzt, um Artefakte zu erkennen oder \u2013 bei generativer K\u00fcnstlicher Intelligenz \u2013 Texte, Bilder oder Programmcode zu erzeugen. Deep Learning<\/i> mit mehrstufigen neuronalen Netzen macht es so m\u00f6glich, auch komplexe Aufgaben zu l\u00f6sen, wie Bilder zu erkennen und zu klassifizieren, die Bedeutung von geschriebenem Text und gesprochene Sprache zu verstehen, optimale Strategien zu lernen und auch kreativ t\u00e4tig zu werden, indem Bilder, Texte, Musik erzeugt und dabei auch Emotionen ge\u00e4u\u00dfert werden k\u00f6nnen (Paa\u00df\/Hecker 2020). Dieses \u201eVerst\u00e4ndnis\u201c beruht auf gro\u00dfen Datenmengen, mit denen das neuronale Netz trainiert wird. Dabei \u201eversteht\u201c die KI den Kontext, in dem sie diese Artefakte produziert, nur scheinbar \u2013 wenn beispielsweise Texte generiert werden, wird an jeder Stelle des Textes ermittelt, welches Wort (oder welcher Buchstabe) am wahrscheinlichsten auf den bisher produzierten Text folgt. Von einem Textverst\u00e4ndnis im \u00fcblichen Sinn kann hier keine Rede sein, geschweige denn von einer Bewertung der Ergebnisse nach inhaltlichen oder ethischen Ma\u00dfst\u00e4ben. Abh\u00e4ngig vom \u201eerlernten\u201c Modell kann es so teilweise zu inhaltlich v\u00f6llig unsinnigen Ergebnissen (Halluzinationen<\/i>) kommen \u2013 die Modelle sind aber kognitiv zu erstaunlichen Leistungen f\u00e4hig.<\/p>\n

Letztlich basiert maschinelles Lernen in der heutigen Form auf Korrelationen in den zugrundeliegenden Daten. Die grunds\u00e4tzliche M\u00f6glichkeit, dass Large Language Models<\/i> (LLM) zu einer Generellen K\u00fcnstlichen Intelligenz (AGI \u2013 Artificial General Intelligence) f\u00fchren k\u00f6nnen, die jede Aufgabe \u00fcbernehmen k\u00f6nnte, zu der auch ein Mensch f\u00e4hig ist, ist fraglich (Levine 2023: 46).<\/p>\n

Risiken<\/span><\/h3>\n

Systeme der K\u00fcnstlichen Intelligenz leiten ihr Verhalten also aus Daten ab, ohne in der Lage zu sein, dies (ethisch) zu bewerten. Einige Beispiele von Berichten aus der j\u00fcngeren Vergangenheit illustrieren die Risiken einer so au\u00dfer Kontrolle geratenen KI, deren \u201egelerntes\u201c Verhalten unerw\u00fcnscht oder zumindest unerwartet ist:<\/p>\n