Ein Thema f\u00fcr die Humanistische Union!<\/p>\n
In: Mitteilungen 240 (3\/2019), S. 3-6<\/p>\n
Am zweiten Tag der HU-Konferenz, dem Samstagnachmittag, befassten wir uns in drei Vortr\u00e4gen mit K\u00fcnstlicher Intelligenz. Aus Sicht der Humanistischen Union ein neues Thema, das bisher keinen Schwerpunkt unserer Arbeit bildete, aber aus Sicht der B\u00fcrgerrechte immer mehr an Bedeutung gewinnen wird: beispielsweise durch sein Potenzial zur Manipulation von Wahlen oder zur \u00dcberwachung und Klassifizierung von Menschen – Stichwort Programmierter Rassismus.
Den Anfang machte Stefan H\u00fcgel: Im Vortrag K\u00fcnstliche Intelligenz und Politik gab er einen einf\u00fchrenden \u00dcberblick \u00fcber die Anwendung von k\u00fcnstlicher Intelligenz und ihre Auswirkungen. W\u00e4hrend in der Wissenschaft die Erwartungen an eine k\u00fcnstliche Intelligenz (KI) zuletzt deutlich reduziert wurden, wird die Technologie in der politischen \u00d6ffentlichkeit in den letzten Jahren deutlich aufmerksamer – und zum Teil kritischer – verfolgt. Stefan H\u00fcgel sortierte diese Debatte, indem er zun\u00e4chst einmal die verschiedenen Begriffe von starker und schwacher KI, computergest\u00fctzten Algorithmen, Lern- und Entscheidungssystemen voneinander abgrenzte. Basis der aktuellen Debatte um k\u00fcnstliche Intelligenz ist der Begriff des Algorithmus, der heute h\u00e4ufig irref\u00fchrend verwendet wird. Ergebnisse des maschinellen Lernens werden haupts\u00e4chlich durch die Daten bestimmt, aus denen ein solches System „lernt“. Die Daten werden durch einen universellen Lernalgorithmus verarbeitet, der Parameter und Schwellwerte justiert, die jeweils statistische Wahrscheinlichkeiten ausdr\u00fccken. Unter Laborbedingungen ist diese Form der k\u00fcnstlichen Intelligenz zu erstaunlichen Leistungen f\u00e4hig, wie sich zuletzt bei dem f\u00fcr das Go-Spiel entwickelten AlphaGo und seinen Weiterentwicklungen zeigte.
Im zweiten Teil seines Vortrags ging er ausf\u00fchrlich auf die verschiedenen Gef\u00e4hrdungspotenziale der KI f\u00fcr Demokratie und \u00d6ffentlichkeit ein. Maschinelles Lernen reproduziert die vorgefundene Welt und dies kann zu Diskriminierungen, z.B. sogenanntem programmiertem Rassismus f\u00fchren, wenn solche Vorurteile in vorgefundene Daten eingeschrieben werden. Als Beispiel: Ergibt sich aus der Statistik, dass bevorzugt M\u00e4nner in F\u00fchrungspersonen gelangen, so werden beim maschinellen Lernen auch in der Zukunft vorzugsweise M\u00e4nner f\u00fcr solche Positionen vorgeschlagen werden. Das hat zu einer politischen Debatte gef\u00fchrt; aufgrund der Komplexit\u00e4t und mangelnden Nachvollziehbarkeit gibt es aber keine einfache L\u00f6sung. Der grunds\u00e4tzliche Ansatz wurde im Vortrag von Prof. Bast behandelt (s.u.).
Zus\u00e4tzlich k\u00f6nnen die Ergebnisse f\u00fcr „Nudging“ genutzt werden, zur subtilen Beeinflussung von Menschen. Der Fall des Data-Science-Unternehmens Cambridge Analytica, wo Daten f\u00fcr gezielte Wahlwerbung genutzt wurden, deutet auf die Gef\u00e4hrdungen unserer Demokratie hin. Es ist nicht klar, ob die Verantwortlichen in der Politik die Problematik vollst\u00e4ndig verstanden haben. Erforderlich ist letztendlich eine Einhegung solcher Konzepte, bei der ein wohlverstandener Datenschutz\u00a0 eine zentrale Rolle spielt.
An den Vortrag von Stefan H\u00fcgel kn\u00fcpfte Prof. Dr. Britta Schinzel, Professorin Emerita f\u00fcr Informatik und Gesellschaft an der Universit\u00e4t Freiburg vertiefend an. Sie stellte zun\u00e4chst dar, was „k\u00fcnstliche Intelligenz“ eigentlich bedeutet, was m\u00f6glich ist, und wie. Dazu ging sie auf die Geschichte der k\u00fcnstlichen Intelligenz ein: Erste \u00dcberlegungen hierzu gab es bereits in den 1930er Jahren; viele der heute genutzten Methoden sind nicht eigentlich neu – sie basieren vor allem auf k\u00fcnstlichen neuronalen Netzen (KNN) und Stochastik –, sondern k\u00f6nnen jetzt erst auf leistungsf\u00e4higen Maschinen, mit h\u00f6herer Speicherdichte und einem umfangreichen Datenbestand („Big Data“) erfolgreich eingesetzt werden.
K\u00fcnstliche Intelligenz ist keine Simulation des menschlichen Gehirns, sondern nutzt Standardverfahren der Mathematik und Informatik. Das gilt auch f\u00fcr das maschinelle Verstehen gesprochener Sprache durch Systeme wie Siri oder Alexa, die akustische Wellenformen mit W\u00f6rtern und Satzkonstruktionen in Beziehung setzen, m\u00f6gliche Antworten durch statistische Inferenz ableiten und einen Antwortsatz auf Basis der h\u00f6chsten Wahrscheinlichkeit generieren. Die dabei gewonnenen Daten werden zur Optimierung, Individualisierung, Profilbildung und f\u00fcr weitere Nutzungen verwendet. Das gleiche Prinzip gilt bei der Bilderkennung. Es werden keine kausalen Zusammenh\u00e4nge und genauen Ergebnisse ermittelt, sondern N\u00e4herungen und Korrelationen.
Den zweiten Abschnitt ihres Vortrags bildeten die vielf\u00e4ltigen Anwendungen des maschinellen Lernens, die heute eingesetzt werden f\u00fcr Sprach- und Informations-Medien, soziale Netzwerke, Bilderkennung, Geo-Systeme einschlie\u00dflich automatischem Fahren, Geo-Aufkl\u00e4rung und f\u00fcr autonome Waffen.
Die Probleme und gesellschaftlichen Wirkungen stellte Prof. Schinzel im dritten Teil ihres Vortrags detailliert dar: Ressourcenverbrauch – Metalle und seltene Erden, die h\u00e4ufig unter menschenunw\u00fcrdigen Bedingungen abgebaut werden, Arbeit 4.0 mit Crowd- und Clickworking, \u00dcberwachungskapitalismus, Bias und Ungleichgewichte und Diskrimierung durch Training an vorurteilsbehafteten Trainingsdaten oder durch methodologische Fehler. Diese Problematik ist in der Praxis h\u00e4ufig nicht durch durch Antidiskriminierungsrecht zu fassen.
Den Abschluss des Vortrags bildeten die Gegenma\u00dfnahmen: Hier wurde in erster Linie die Anwendung von Datenschutzgesetzen – z.B. Zweckbindung und Datensparsamkeit – und Verweigerung der Deep-Packet-Inspektion genannt; dies k\u00f6nnte nach Ansicht einer Datensch\u00fctzerin bereits rund 80% aller Probleme, Vorurteile, Diskriminierung, Missbrauch, Trollbots etc. vermeiden. Es bleibt die Frage nach ethischer Nutzung und den gesellschaftlichen Zielen der KI. Forderungen wie Transparenz, Datenschutz und Ethik by Design gehen an Deep Neural Networks in der Praxis einfach vorbei. Es gibt aber Initiativen: Die japanische Regierung hat eine Initiative f\u00fcr „AI 5.0“ aufgesetzt, es gibt ethische Standards des World Economic Forum und der EU-Kommission, und die deutsche Datenschutzkonferenz hat in ihrer Hambacher Erkl\u00e4rung Prinzipien aufgestellt.
Den Schlusspunkt der Vortr\u00e4ge zur K\u00fcnstlichen Intelligenz setzte Prof. Dr. Hannah Bast, ebenfalls Professorin an der Universit\u00e4t Freiburg, wo sie in der Informatik den Bereich Algorithmen vertritt und in die Enquete-Kommission „K\u00fcnstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und \u00f6kologische Potenziale“ des Deutschen Bundestags berufen wurde. Bereits in den Sitzungen der Enquete-Kommission am 15. Oktober 2018 und am 14. Januar 2019 hat sie einige der behandelten Aspekte dargestellt.
Bei der Behandlung von Verfahren der K\u00fcnstlichen Intelligenz ist es wichtig, so Professor Bast, zwischen klassischen Algorithmen und maschinellem Lernen zu unterscheiden. Klassische Algorithmen k\u00f6nnen bei „einfachen“ Problemen eingesetzt werden, bei denen die Anzahl der Parameter bei der Berechnung noch beherrschbar ist. Einfaches Beispiel ist die Auswahl einer Wohnung, beispielsweise mit den Parametern Wohnfl\u00e4che und Preis. Die Bewertung kann in einem Algorithmus programmiert werden und wird immer gleich angewendet. Doch auch beim Schachspiel kann man noch in dieser Weise arbeiten: Spielstellungen k\u00f6nnen bewertet werden, und damit kann \u00fcber den n\u00e4chsten Spielzug entschieden werden. Offensichtlich ben\u00f6tigt man daf\u00fcr erheblich mehr Rechenleistung als bei dem einfachen Wohnungsbeispiel; moderne Computer k\u00f6nnen dies aber leisten. 1997 wurde zum ersten Mal der amtierende Weltmeister – Garri Kasparow – von einem Computer – IBM Deep Blue – geschlagen.
Anders funktioniert das maschinelle Lernen: Um eine Klassifikation oder Bewertung von Daten zu erhalten, werden in einer Trainingsphase Spielst\u00e4nde von einem neuronalen Netz bewertet. Entspricht die Bewertung nicht dem gew\u00fcnschten Ergebnis, werden Parameter des neuronalen Netzes so lange ver\u00e4ndert, bis das gew\u00fcnschte Ergebnis erreicht wird. Dabei m\u00fcssen die anderen Eingabewerte ebenfalls ber\u00fccksichtigt werden: Bereits richtig klassifizierte Eingaben k\u00f6nnen durch sp\u00e4tere \u00c4nderungen der Parameter wieder verf\u00e4lscht werden, so dass weitere Ver\u00e4nderungen notwendig sind. Ziel ist es, Parameter so einzustellen, dass f\u00fcr alle Eingabewerte aus den Trainingsdaten das „richtige“ Ergebnis errechnet wird. An die Stelle der Bewertungsfunktion des klassischen Algorithmus tritt die „gelernte“ Bewertungsfunktion des neuronalen Netzes. W\u00e4hrend dem ersten die Bewertungsfunktion noch explizit von „au\u00dfen“ mitgegeben wurde, hat das neuronale Netz sie quasi „selbst“ ermittelt. Dies l\u00e4sst sich anhand von Simulationsbeispielen anschaulich nachvollziehen. Die Komplexit\u00e4t von Go ist so hoch, dass nur noch Verfahren des maschinellen Lernens mit Erfolg angewendet werden k\u00f6nnen. Im Gegensatz zum Schach ist die Anzahl der m\u00f6glichen Spielstellungen so gro\u00df, dass keine klassisch algorithmischen Bewertungsfunktionen mehr programmiert werden k\u00f6nnen. Das ist auch der Grund, warum hier der Computer den menschlichen Weltmeister erst ca. 20 Jahre sp\u00e4ter – 2016 – schlagen konnte.
Probleme des maschinellen Lernens, die Prof. Bast au\u00dferdem behandelte, waren Transparenz und „Bias“ – die Ursache f\u00fcr Diskriminierung, den bereits genannten programmierten Rassismus durch maschinelles Lernen. Die Parameter eines neuronalen Netzes haben (f\u00fcr den Menschen) keine nachvollziehbare Interpretation, und es besteht kein systematischer Zusammenhang zur den klassifizierten Objekten. Es ist nicht garantiert, dass f\u00fcr den Menschen gleiche Objekte vom neuronalen Netz gleich klassifiziert werden. Manchmal gen\u00fcgt die \u00c4nderung eines Pixels – f\u00fcr uns Menschen nicht erkennbar – f\u00fcr eine v\u00f6llig andere Erkennung.
Das Problem Bias stellte Prof Bast anhand der Spracherkennung dar: Dabei k\u00f6nnen fast gleiche W\u00f6rter sehr unterschiedliche Bedeutung haben, wie „Hering“ und „Ehering“, die sich nur in einem Buchstaben unterscheiden. „Bundestag“ und „Parlament“ sind dagegen sehr unterschiedlich, bezeichnen aber das gleiche Konzept. Deswegen werden W\u00f6rter h\u00e4ufig als Punkte in einem Raum dargestellt, wobei W\u00f6rter mit \u00e4hnlicher Bedeutung nahe beieinander liegen. Damit ergeben sich Relationen wie z.\u00a0B. „Deutschland verh\u00e4lt sich zu Berlin wie Schweden zu Stockholm“.
Dabei k\u00f6nnen ungewollte Effekte auftreten, wenn z.B. aus den Texten, die als Eingabedaten dienen, die – offensichtlich falsche – Relation „Mann verh\u00e4lt sich zu Chefarzt wie Frau zu Krankenschwester“ abgeleitet wird. Das wird dadurch gel\u00f6st, dass man zwischen definitorischen (Mann, Frau) und stereotypen (Chefarzt, Krankenschwester) W\u00f6rtern unterscheidet und letztere aus der Klassifikation „herausrechnet“. Welche W\u00f6rter man dabei als definitorisch und welche als stereotyp betrachtet, ist nicht zuletzt auch eine politische Frage.<\/p>\n","protected":false},"featured_media":0,"template":"","categories":[12],"tags":[718,662],"autoren":[252],"publikationen":[896],"class_list":["post-8697","publikation","type-publikation","status-publish","hentry","category-datenschutz","tag-artikel","tag-datenschutz","autoren-stefan-huegel","publikationen-896"],"acf":[],"yoast_head":"\n