K\u00fcnstliche Intelligenz (KI) gibt dem gesellschaftlichen Prozess der Digitalisierung einen neuen Schub. Im Grunde ist das kein neues Thema, haben doch Fortschritte in der Methodik und vor allem in der Hardware-Technologie Verfahren nutzbar gemacht, die in den 1950er-Jahren, als der Begriff gepr\u00e4gt wurde, noch nicht m\u00f6glich waren. Damit ergeben sich aus dem \u201etechnischen\u201c Thema K\u00fcnstliche Intelligenz<\/i> gesellschaftspolitische und juristische Fragestellungen, mit denen sich die Humanistische Union und die vor<\/b>g\u00e4nge<\/i> auseinandersetzen m\u00fcssen.<\/p>\n
Ziel der K\u00fcnstlichen Intelligenz ist die technische Nachbildung menschlicher Denkf\u00e4higkeiten. Dabei unterscheiden wir zwischen starker<\/i> K\u00fcnstlicher Intelligenz, der umfassenden Nachbildung des menschlichen Gehirns bis hin zu maschinellem (Selbst-)Bewusstsein und maschineller Ethik, die den Menschen langfristig abl\u00f6sen und im Sinne einer \u00fcberlegenen Superintelligenz ersetzen kann \u2013 dies ist nach heutigem Erkenntnisstand immer noch Science Fiction \u2013, und schwacher<\/i> K\u00fcnstlicher Intelligenz, die als fortgeschrittene Methode der Informatik, in der Regel in Form des maschinellen Lernens, kognitive und generative Leistungen erbringt, die \u00fcber die zuvor bekannten rein algorithmischen Systeme weit hinausgehen. Dabei werden besonders Verfahren der Logik sowie der Statistik und Wahrscheinlichkeitstheorie genutzt.<\/p>\n
Dass wir uns mit KI-gest\u00fctzten Systemen wie Alexa oder Siri \u201eunterhalten\u201c oder mit Chatbots wie ChatGPT interagieren, wird fast schon zur Selbstverst\u00e4ndlichkeit, war aber noch vor wenigen Jahren unvorstellbar. War es um die Jahrtausendwende noch eine Sensation, als der IBM-Computer Deep Blue<\/i> den damals amtierenden Schachweltmeister Garri Kasparow besiegte, so ist es heute mit Methoden des maschinellen Lernens m\u00f6glich, in dem viel komplexeren Spiel Go auf Weltklasseniveau zu spielen. Dabei entwickelte der Rechner Spielz\u00fcge und Strategien, die menschliche Spieler*innen bis dahin nicht erkannt hatten. KI-Systeme sind auch im Alltag inzwischen zu kognitiven und generativen Leistungen f\u00e4hig, die bisher dem Menschen vorbehalten waren, wie Bilderkennung und -generierung, Spracherkennung sowie Sprachgenerierung sowie strategische Planung. Roboter sind in der Lage, in nat\u00fcrlichen Umgebungen autonom zu navigieren, und Kraftfahrzeuge werden entwickelt, die sich autonom im Stra\u00dfenverkehr bewegen k\u00f6nnen. Dies sind nur einzelne Beispiele aus einer F\u00fclle von M\u00f6glichkeiten.<\/p>\n
Diese hohe Leistungsf\u00e4higkeit f\u00fchrt in der Anwendung zu einer Reihe von Fragestellungen ethischer, juristischer und politischer Art, auf die die Gesellschaft eine Antwort finden muss \u2013 besonders, da sich die Entwicklung noch zu beschleunigen scheint. Der Schwerpunkt dieser Ausgabe der vor<\/b>g\u00e4nge<\/i> will einen Beitrag zur Debatte leisten.<\/p>\n
Den Anfang macht Stefan H\u00fcgel<\/i>. In einer kurzen Einf\u00fchrung in das Thema geht er auf die Risiken ein, die mit K\u00fcnstlicher Intelligenz verbunden sind. Namhafte Wissenschaftler*innen sehen die Gefahr, dass eine sich selbst immer schneller weiterentwickelnde K\u00fcnstliche Intelligenz langfristig den Menschen verdr\u00e4ngen k\u00f6nnte. In \u00f6ffentlichen Appellen weisen sie auf die Risiken hin und schlagen ein Moratorium f\u00fcr die Weiterentwicklung vor. Sie warnen davor, dass Kipppunkte in der Entwicklung zun\u00e4chst unbemerkt \u00fcberschritten werden k\u00f6nnten. Danach werden in dem Beitrag konkrete Risiken skizziert. Diese reichen von fortgeschrittenen M\u00f6glichkeiten der \u00dcberwachung, politischer Beeinflussung durch Falschinformationen und Deep Fakes<\/i>, Nutzung der KI f\u00fcr Microtargeting und Nudging, mangelnde Transparenz und Erkl\u00e4rbarkeit der technischen Verarbeitung, Bias und Vorurteile in den zugrundeliegenden Daten, Fragestellungen des \u201egeistigen Eigentums\u201c, Auswirkungen auf die Arbeitswelt und milit\u00e4rische Nutzung. Regulierungsbestrebungen gibt es insbesondere auf Ebene der Europ\u00e4ischen Union in Form des AI Act, der sich vor allem auf Hochrisikosysteme konzentriert.<\/p>\n
Nach dieser Einf\u00fchrung besch\u00e4ftigen sich die n\u00e4chsten vier Beitr\u00e4ge mit dem allgemeinen Zusammenhang von Recht und Ethik in Bezug auf KI, bevor weitere Artikel sich einzelnen Anwendungsfunktionen von KI widmen. Dabei ist es im Rahmen eines Heftes nicht m\u00f6glich, jedes gesellschaftliche Feld, in dem KI als gesamtgesellschaftliches Ph\u00e4nomen eine Rolle spielt, zu behandeln.<\/p>\n
Auf Bias in den Daten, auf denen Systeme wie ChatGPT fu\u00dfen und die \u00fcberwiegend von gebildeten wei\u00dfen M\u00e4nnern stammen, weist Roberto Simanowski<\/i> hin und sieht die Gefahr eines algorithmischen Kolonialismus. Antworten einer K\u00fcnstlichen Intelligenz h\u00e4ngen stets von ihren Trainingsdaten ab. Wenn ein Eingriff einer mit Daten trainierten KI, die eine einseitige, \u201ewei\u00dfe\u201c, \u201em\u00e4nnliche\u201c Sicht wiedergeben, in gesellschaftliche Prozesse schon nicht verhindert werden k\u00f6nne, so der Autor, m\u00fcssen die Menschen zu einem kritischen Umgang mit der KI bef\u00e4higt werden. Er w\u00fcnscht sich eine Diskussion \u00fcber Werte und Perspektiven beim Denken, Sprechen und Schreiben.<\/p>\n
Mit der Frage der Fairness, Transparenz und Erkl\u00e4rbarkeit als Voraussetzung f\u00fcr Vertrauen in KI-Anwendungen setzen sich Steven Kleemann<\/i>, Simon Hirsbrunner<\/i> und Hartmut Aden <\/i>in ihrem Beitrag auseinander. Ankn\u00fcpfend an die aktuellen Regulierungsbestrebungen auf europ\u00e4ischer Ebene fragen sie nach den Zusammenh\u00e4ngen zwischen Fairness, Transparenz und Erkl\u00e4rbarkeit als ethisch-normative Bewertungskriterien. Anschlie\u00dfend entwickeln sie diese Kriterien anhand der Anforderungen an vertrauensw\u00fcrdige KI im sicherheitsbeh\u00f6rdlichen Kontext. Neben der Transparenz als notwendige Voraussetzung f\u00fcr eine erkl\u00e4rbare KI fordern sie die angemessene Ausgestaltung der verwendeten Systeme, damit sie rechtm\u00e4\u00dfiges Handeln nicht nur unterst\u00fctzen, sondern technisch erzwingen \u2013 um Diskriminierung zu verhindern, Entscheidungen akzeptierbar und nachvollziehbar zu machen und dabei auch Besonderheiten des jeweiligen Einzelfalls zu ber\u00fccksichtigen.<\/p>\n
Die folgenden beiden Artikel analysieren die j\u00fcngsten Bem\u00fchungen der Europ\u00e4ischen Union, mit dem AI Act <\/i>verbindliche Regelungen f\u00fcr KI-Systeme zu schaffen, um Pers\u00f6nlichkeitsrechte und das Diskriminierungsverbot zu sichern. Rolf Schwartmann<\/i> und Moritz K\u00f6hler<\/i> gehen einigen der strittigen Details auf den Grund. Dabei betonen Sie, dass der Mensch (und nicht die Maschine) im Mittelpunkt der Betrachtung stehen m\u00fcssen. Daher ist es auch n\u00f6tig, dass Nutzer*innen die Wirkungsweise einer KI nachvollziehen k\u00f6nnen. Der Beitrag von Hartmut Aden<\/i> bewertet zentrale Elemente der Verordnung aus menschen- und b\u00fcrger*innenrechtlicher Perspektive.<\/p>\n
Neue technische Entwicklungen werden (allzu) h\u00e4ufig sehr schnell f\u00fcr milit\u00e4rische Anwendungen genutzt oder gehen origin\u00e4r aus milit\u00e4rischer Forschung hervor. Hans-J\u00f6rg Kreowski<\/i> und Aaron Lye <\/i>zeichnen die Geschichte der KI-Forschung nach, die mit ziviler Ausrichtung begann, aber schnell das Interesse der Milit\u00e4rbeh\u00f6rden weckte. So wurde in den 1980er-Jahren die Strategic Computing Initiative<\/i> (SCI) in den USA gestartet, die als milit\u00e4risches Forschungsprojekt die Schwerpunkte Bildverstehen, Spracherkennen und -verstehen und Expertensysteme setzte. Ausgehend von diesen historischen Betrachtungen gehen sie auf die aktuellen Entwicklungen ein. Milit\u00e4rische Drohnen dienten zun\u00e4chst der Aufkl\u00e4rung, wurden aber schnell mit Raketen ausgestattet und werden zunehmend eingesetzt, wie der Ukraine-Krieg beispielhaft zeigt. Werden Drohnen bisher meist durch Menschen ferngesteuert, sind autonome Drohnen der n\u00e4chste Entwicklungsschritt, der auch die automatisierte Entscheidung \u00fcber den Waffeneinsatz und damit verbunden die T\u00f6tung von Menschen einschlie\u00dft. Damit geht allgemein die Automatisierung des Luftkampfs einher, f\u00fcr den entsprechende Assistenzsysteme st\u00e4ndig weiterentwickelt werden. Zur \u00fcbergreifenden Steuerung von milit\u00e4rischen Auseinandersetzungen werden Schlachtenmanagementsysteme entwickelt, die die Lage analysieren, milit\u00e4rische Handlungsoptionen simulieren und nach vorgegebenen Strategien Operationspl\u00e4ne entwickeln. Dies schlie\u00dft Vernetzung und Koordination der Soldat*innen und Waffensysteme ein, die auf Sensordaten basieren und in Informationsverb\u00fcnden zusammengef\u00fchrt werden. Viele L\u00e4nder planen, k\u00fcnftig fortgeschrittene KI-F\u00e4higkeiten zu erarbeiten und haben daf\u00fcr mittlerweile KI-Strategien ver\u00f6ffentlicht, wie sie K\u00fcnstliche Intelligenz milit\u00e4risch nutzen wollen. Die Auswirkung aktueller Entwicklungen wie generativer Sprachmodelle sind dabei noch nicht abzusehen.<\/p>\n
Kapitalismuskritische Ideen zur Freiheit von Arbeit zeichnet Philip Dingeldey<\/i> in seinem Beitrag nach, um zu zeigen, inwiefern diese losgel\u00f6st von oder verbunden mit einer KI oder anderen technologischen Entwicklungen sind. W\u00e4hrend in der Antike die Arbeit als unfreiheitlich angesehen wird, gilt sp\u00e4ter das Recht auf Arbeit als Errungenschaft der Emanzipation. Auch Karl Marx kritisiert die Natur der Arbeit als Tauschwert in der Produktion. Tats\u00e4chlich n\u00e4hrt K\u00fcnstliche Intelligenz die Erwartung, dass Menschen von sinnloser und l\u00e4stiger Arbeit befreit werden k\u00f6nnen. Generative KI aber st\u00e4rke den arbeits- und profitbasierten Kapitalismus. Menschen im Kapitalismus ohne Arbeit sind nicht pl\u00f6tzlich frei f\u00fcr Kunst, Philosophie, Politik oder Faulheit, sondern im Gegenteil ist ihre \u00f6konomische Absicherung bedroht. Zudem stellt sich bei generativer KI die Frage nach dem Urheberrecht bei der Nutzung von Daten zum Training. M\u00e4chtige Digitalfirmen nutzen urheberrechtlich gesch\u00fctztes Material um auf dieser Basis neue Ergebnisse zu erzeugen. Dazu komme die die Gefahr Wegnahme der Arbeitspl\u00e4tze und in der Folge Arbeitslosigkeit mit ihren sozialen Folgen. Es existierten inzwischen verschiedene Modelle verschiedener Reichweite oder Radikalit\u00e4t, wie mit einer Automatisierung, die zahlreiche Jobs \u00fcberfl\u00fcssig macht, umzugehen sei: vom bedingungslosen Grundeinkommen \u00fcber einen Postkapitalismus bis zum Sozialismus.<\/p>\n
Visionen einer Kollaboration zwischen Mensch und Roboter nimmt Annabell Lamberth<\/i> in ihrem Beitrag in den Blick. Waren es zun\u00e4chst Gro\u00dfindustrieroboter, die in der Automatisierung der Arbeit die Szene dominierten, sind es heute verst\u00e4rkt kleine Roboter, die kollaborativ eingesetzt werden k\u00f6nnen und von denen erwartet wird, dass sie Fachkr\u00e4ftemangel reduzieren, den Menschen von unangenehmen Arbeiten entlasten und insgesamt seinen Arbeitsumfang reduzieren k\u00f6nnten. Sie analysiert den soziotechnischen Diskurs, der sich zwischen der Ersetzung menschlicher Arbeit im Produktionsprozess durch intelligente Roboter und der Kollaboration zwischen beiden bewegt und nimmt damit eine differenzierte Perspektive auf vorwiegend technik-optimistische Erwartungen in den Einsatz dieser Roboter und ihre Effekte auf die Arbeitswelt ein. Sie setzt das in den Kontext der Debatte um \u201eIndustrie 4.0\u201c und beleuchtet die Rolle der Arbeitnehmer*innenvertretungen in diesem Diskurs.<\/p>\n
Doch welche Antworten gibt die K\u00fcnstliche Intelligenz selbst auf gesellschaftspolitische und menschenrechtliche Fragen? Werner Koep-Kerstin<\/i> und Philip Dingeldey<\/i> unterziehen sich im letzten Beitrag des Schwerpunkts einem Experiment, indem sie ein \u201eInterview\u201c mit ChatGPT f\u00fchren, in dem diese Fragen thematisiert werden. ChatGPT antwortete dabei auf Fragen zum Urheberrecht an den generierten Antworten und an den diesen zugrundeliegenden Trainingsdaten, die Verantwortung f\u00fcr durch ChatGPT generierte Fehlinformationen und zum Regelungsbedarf f\u00fcr K\u00fcnstliche Intelligenz. Deutlich wird dabei, dass ChatGPT h\u00e4ufig sehr allgemein und ausweichend antwortet \u2013 was letztlich nur best\u00e4tigt, dass Chatbots und die ihnen zugrundeliegenden Large Language Models<\/i> (LLM) \u2013 zumindest heute \u2013 lediglich in der Lage sind, allgemeine Informationen aufzubereiten und wiederzugeben, und keine eigenen substanziellen Aussagen zu generieren. Damit treffen sie auch keine Unterscheidung zwischen akzeptablem und menschenverachtendem Material \u2013 dies muss ihnen vorab beim initialen Training \u201ebeigebracht\u201c werden.<\/p>\n
Daneben bietet die vorliegende vor<\/b>g\u00e4nge<\/i>-Ausgabe auch wieder Hintergrundbeitr\u00e4ge zu aktuellen und b\u00fcrgerrechtlich relevanten Themen. Beispielsweise fragt Bernd Kasparek,<\/i> wie viel Europa \u00fcberhaupt noch im neuen Gemeinsamen Europ\u00e4ischen Asylsystem (GEAS) steckt. Ihm zufolge bef\u00f6rdert dieses System einen nationalistischen Umbau der Europ\u00e4ischen Union. Dar\u00fcber hinaus besch\u00e4ftigt sich Veit Friemert<\/i> in einer kritischen W\u00fcrdigung mit Herfried M\u00fcnklers Vortr\u00e4gen zum Ukraine-Krieg. Zuletzt dokumentieren wir im vorliegenden Heft auch die Verleihung des Fritz-Bauer-Preises 2023. Dieser wurde am 14. Oktober im Residenzschloss Rastatt an die Beschwerdef\u00fchrer*innen der Verfassungsklagen gegen das Klimaschutzgesetz verliehen. Hier ver\u00f6ffentlichen wir die Begr\u00fc\u00dfungsrede von Stefan H\u00fcgel<\/i>, die Laudatio von Gerd Winter<\/i> und einige kurze Dankesreden der Preistr\u00e4ger*innen. Wir w\u00fcnschen Ihnen eine anregende Lekt\u00fcre.<\/p>\n
Stefan H\u00fcgel<\/i> und Philip Dingeldey<\/i><\/p>\n","protected":false},"featured_media":0,"template":"","categories":[2952],"tags":[3204,3083,667],"autoren":[],"publikationen":[3345],"class_list":["post-19085","publikation","type-publikation","status-publish","hentry","category-kuenstliche-intelligenz","tag-kuenstliche-intelligenz","tag-menschenrechte","tag-vorgaenge-artikel","publikationen-vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte"],"acf":[],"yoast_head":"\n