{"id":19089,"date":"2024-01-22T11:31:20","date_gmt":"2024-01-22T10:31:20","guid":{"rendered":"https:\/\/www.humanistische-union.de\/?post_type=publikation&p=19089"},"modified":"2026-03-20T14:48:48","modified_gmt":"2026-03-20T13:48:48","slug":"fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen","status":"publish","type":"publikation","link":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\/","title":{"rendered":"Fairness, Erkl\u00e4rbarkeit und Transparenz bei KI-Anwendungen im Sicherheitsbereich \u2013 ein unm\u00f6gliches Unterfangen?"},"content":{"rendered":"

In der ethischen, rechtswissenschaftlichen und politischen Diskussion \u00fcber Anforderungen an KI-Anwendungen spielen Fairness, Erkl\u00e4rbarkeit und Transparenz als Konzepte und Postulate eine zentrale Rolle. Die Erf\u00fcllung dieser Postulate wird zumeist als Voraussetzung f\u00fcr Vertrauen in KI-Anwendungen angesehen. Dieser Beitrag diskutiert die Zusammenh\u00e4nge, Unterschiede und Abh\u00e4ngigkeiten zwischen diesen Konzepten aus einer interdisziplin\u00e4ren rechts- und politikwissenschaftlichen sowie ethischen Perspektive. Im Beitrag wird argumentiert, dass KI-Fairness nicht ausschlie\u00dflich als statistisches Unterfangen verhandelt werden sollte, anhand dessen Verzerrungen (z.B. gender bias, racial bias) in Modellen evaluiert, verringert oder aufgel\u00f6st werden k\u00f6nnen. Vielmehr steht und f\u00e4llt die Fairness von KI mit der G\u00fcte der Transparenz- und Kommunikationsstrategien, welche die gew\u00e4hlten Fairness-Verfahren verst\u00e4ndlich und rechenschaftsf\u00e4hig machen.i<\/sup><\/a><\/em><\/p>\n

 <\/p>\n

1. Einleitung: ethische und rechtliche Anfor­de­rungen an Anwendungen Künstlicher Intelligenz<\/span><\/h3>\n

Ankn\u00fcpfungspunkte dieses Beitrags \u00fcber Fairness, Erkl\u00e4rbarkeit und Transparenz als Anforderungen an Anwendungen K\u00fcnstlicher Intelligenz (KI) bilden die derzeitigen Bestrebungen zur Schaffung eines Rechtsrahmens f\u00fcr die KI-Entwicklung und -Nutzung, insbesondere durch den 2021 ver\u00f6ffentlichten Vorschlag f\u00fcr eine KI-Verordnung der Europ\u00e4ischen Union (Europ\u00e4ische Kommission 2021; im Folgenden: KI-VO-E), deren Aushandlung im Dezember 2023 abgeschlossen werden konnte. Die hier untersuchten normativen Anforderungskategorien an KI-Anwendungen werden damit von einem ethischen (Soft-law<\/i>-)Rahmen in einen rechtsverbindlichen Hard-law<\/i>-Rahmen \u00fcberf\u00fchrt. Empirisch basiert der Beitrag auf Forschungen zu KI-Anwendungen f\u00fcr die Nutzung durch Sicherheitsbeh\u00f6rden, insbesondere durch die Polizei. Vor diesem Hintergrund geht dieser Beitrag zwei zentralen Fragen nach:<\/p>\n

(1) Welche Zusammenh\u00e4nge und Abh\u00e4ngigkeiten bestehen zwischen Fairness, Transparenz und Erkl\u00e4rbarkeit als normative Kategorien zur Bewertung von KI-Anwendungen?<\/p>\n

(2) Wie stellen sich diese Abh\u00e4ngigkeiten im Hinblick auf KI-basierte Technologien im Sicherheitsbereich dar?<\/p>\n

2. Fairness, Transparenz und Erklär­bar­keit von KI-An­wen­dungen als verknüpfte normative Kategorien im Übergang zwischen Ethik und Recht<\/span><\/h3>\n

Fairness<\/i> und Transparenz<\/i> sind keine neuen Kategorien \u2013 in verschiedenen wissenschaftlichen Disziplinen sind sie seit langem ebenso verankert wie im allt\u00e4glichen Sprachgebrauch. Dagegen ist Erkl\u00e4rbarkeit<\/i> ein seltener gebrauchter Begriff, der speziell im Zusammenhang mit der Entwicklung von KI-Anwendungen an Bedeutung gewonnen hat. Diese drei normativen Konzepte sollen hier auf ihre \u00dcberschneidungen, Zusammenh\u00e4nge, Abh\u00e4ngigkeiten und auch Unterschiede hin \u00fcberpr\u00fcft werden.<\/p>\n

2.1 Fairness<\/span><\/span><\/span><\/h4>\n

Fairness<\/i> ist im Vergleich zu Transparenz<\/i> und Erkl\u00e4rbarkeit<\/i> die allgemeinste hier betrachtete Kategorie. Auch im deutschen Alltagssprachgebrauch ist der Begriff als Anglizismus fest verankert. Im wissenschaftlichen Gebrauch unterscheiden sich das Verst\u00e4ndnis von und der Umgang mit Fairness<\/i> jedoch recht stark, je nach auslegender Fachdisziplin.<\/p>\n

In rechtlicher Hinsicht sind insbesondere das EU-Recht und das Antidiskriminierungsrecht im Zusammenhang mit Fairness<\/i> relevant. Das EU-Antidiskriminierungsrecht ist sowohl prim\u00e4rrechtlich als auch sekund\u00e4rrechtlich ausgepr\u00e4gt, wobei der weitestgehende Anwendungsbereich prim\u00e4rrechtlich in Art. 21 EU-Grundrechtecharta (GRCh) zu finden ist. Diese Vorschrift besagt, dass jedwede Diskriminierung aufgrund \u201edes Geschlechts, der Rasse, der Hautfarbe, der ethnischen oder sozialen Herkunft, der genetischen Merkmale, der Sprache, der Religion oder der Weltanschauung, der politischen oder sonstigen Anschauung, der Zugeh\u00f6rigkeit zu einer nationalen Minderheit, des Verm\u00f6gens, der Geburt, einer Behinderung, des Alters oder der sexuellen Ausrichtung [\u2026] verboten\u201c ist. Diese Liste ist sektorneutral und nicht abschlie\u00dfend, gilt allerdings nur f\u00fcr \u00f6ffentliche Einrichtungen der EU und deren Mitgliedsstaaten, jedoch nicht ohne Weiteres f\u00fcr den Privatsektor (Wachter\/Mittelstadt\/Russell 2021: 13). Sekund\u00e4rrechtlich existieren verschiedene Richtlinien, die ebenfalls Nichtdiskriminierung zum Inhalt haben.ii<\/sup><\/a> Dar\u00fcber hinaus findet sich der Begriff Fairness<\/i> als tragendes Prinzip in der englischsprachigen Fassung der EU-Datenschutzgrundverordnung \u2013 die deutsche \u00dcbersetzung mit \u201eTreu und Glauben\u201c verengt das Gemeinte (Art. 5 Abs. 1 Nr. 1 DSGVO\/GDPR). In anderen Bereichen versucht das EU-Recht, Fairnessstandards durch Richtlinien zu etablieren. Hierbei handelt es sich in der Regel um Mindeststandards, welche in den Mitgliedsstaaten in nationales Recht umgesetzt werden m\u00fcssen. Viele Mitgliedsstaaten bieten, auch im Bereich der Nichtdiskriminierung, einen h\u00f6heren Schutz als in den Richtlinien festgelegt. Dies f\u00fchrt auch innerhalb der EU zu einem fragmentierten Schutzstandard (Wachter\/Mittelstadt\/Russell 2021: 15). Neben dieser Herleitung von Fairness<\/i> anhand des Antidiskriminierungsrechts spielen jedoch noch weitere Kriterien wie Nachvollziehbarkeit, Akzeptierbarkeit, hinreichende Ber\u00fccksichtigung konkreter Einzelf\u00e4lle und dergleichen eine gewichtige Rolle. Diese Aspekte leiten sich in rechtlicher Hinsicht eher aus Verfahrensrechten ab und umfassen wesentlich mehr als eine Gleichsetzung von Fairness<\/i> und Nichtdiskriminierung. Hier zeigt sich sodann bereits die enge Verkn\u00fcpfung von Fairness<\/i> mit weiteren Prinzipien wie Transparenz<\/i>. Der Versuch, Fairness<\/i> und Nichtdiskriminierung in KI-Systemen zu automatisieren, erscheint bereits angesichts dessen als ein schwieriges Unterfangen.<\/p>\n

War das Konzept von Fairness<\/i> im urspr\u00fcnglichen KI-VO-E (Europ\u00e4ische Kommission 2021) \u00fcberraschenderweise gar nicht enthalten, findet es sich im aktuellen Kompromissvorschlag des Europ\u00e4ischen Parlaments in Art. 4a Abs. 1 lit. e wie folgt wieder:<\/p>\n

\n

\u201e\u2018diversity, non-discrimination and fairness<\/i>\u2019 means that AI systems shall be developed and used in a way that includes diverse actors and promotes equal access, gender equality and cultural diversity, while avoiding discriminatory impacts and unfair biases that are prohibited by Union or national law\u201d (European Parliament 2023).<\/p>\n<\/blockquote>\n

Diese Neuerung ist begr\u00fc\u00dfenswert, weil damit nicht nur definitorische Erg\u00e4nzungen hinzukommen, sondern Art. 4a generelle Prinzipien, die f\u00fcr alle KI-Systeme gelten sollen, festlegt. Unklar bleibt jedoch, was das konkret bedeutet und wie diese Anforderungen umgesetzt werden sollen.<\/p>\n

Fairness<\/i> kann sodann aus den Blickwinkeln anderer Disziplinen betrachtet werden. In den Fachgebieten der Informatik und Data Science bezieht sich Fairness<\/i> gemeinhin auf statistische Methoden und Metriken, deren Ziel die Verringerung oder Beseitigung diskriminierender Verzerrungen in KI-Systemen ist. Der Begriff der Fairness<\/i> wird hier als Beschreibung des Ziels (ein faires KI-Modell), sowie auch als statistische Bezifferung des Ma\u00dfes an erreichter Fairness<\/i> (die Fairness<\/i> des Modells betr\u00e4gt XY) genutzt. Zur Errechnung des Ma\u00dfes an Fairness<\/i> kommen verschiedene Verfahren zum Zuge, die normativ auf unterschiedlichen Pr\u00e4missen aufbauen. Bei der statistischen Interpretation von Fairness<\/i> beispielsweise als demographic parity<\/i>, wird die erreichte Abbildung der Verteilung sozialer Gruppen in einer Gesamtbev\u00f6lkerung im Modell beschrieben. Wenn Fairness<\/i> durch die Metrik der equalized odds<\/i> errechnet wird, steht dagegen die Chancengleichheit im Vordergrund, was durch die Ver\u00e4nderung der Treffer- und Abweisungsquoten eines Systems erreicht wird. Eine weitere Unterscheidung betrifft Verfahren individueller und gruppenbezogener Fairness<\/i> (Mehrabi et al. 2021: 11ff.). Individuelle Fairness<\/i> versucht zu gew\u00e4hrleisten, dass die Ergebnisse f\u00fcr vergleichbare Individuen auch gleich sind und Gruppenfairness, dass Ergebnisse eines KI-Systems so angeglichen werden, dass diese f\u00fcr unterschiedliche vordefinierte Gruppen gleich oder zumindest \u00e4hnlich sind (Brandner\/Hirsbrunner 2023: 27). Ferner stellen sich jedoch auch Fragen, die \u00fcber solche technischen Definitionen hinausgehen und andere gesellschaftliche Vorstellungen von Fairness<\/i> und Gerechtigkeit beinhalten. Auch die Wahrnehmung der Betroffenen bez\u00fcglich \u201efairer\u201c Ergebnisse einer KI-Anwendung ist hier relevant (vgl. Aden\/Kleemann 2023: 57).<\/p>\n

In der kritischen Literatur verschiedener Fachdisziplinen wurde darauf hingewiesen, dass die Engf\u00fchrung von Fairness<\/i> auf eine statistische Kategorie problematisch sein kann (Binns et al. 2018). Oftmals wird Fairness<\/i> beispielsweise verk\u00fcrzt als Schlie\u00dfung von Leistungsl\u00fccken in den unterschiedlichen Ergebnissen zwischen demografischen Gruppen verhandelt, wobei die Genauigkeit des Systems bestm\u00f6glich erhalten bleiben soll (Mittelstadt\/Wachter\/Russell 2023: 2). Diese Vereinfachung f\u00fchrt dazu, dass viele Fairnessma\u00dfnahmen eine Leistungsverschlechterung zur Folge haben. Dies wird auch als levelling down<\/i> beschrieben (Mittelstadt\/Wachter\/Russell 2023). Fairness<\/i> soll demzufolge dadurch erreicht werden, dass leistungsst\u00e4rkere Gruppen auf das Niveau der am schlechtesten gestellten Gruppen herabgesetzt werden. Levelling down<\/i> ist ein Symptom daf\u00fcr, dass Fairness<\/i> ausschlie\u00dflich auf Gleichheit oder Ungleichheit zwischen Gruppen in Bezug auf Performanz und Ergebnisse reduziert wird; ebenfalls relevante Merkmale von Fragen distributiver Gerechtigkeit (Verteilungsgerechtigkeit) \u2013 wie Wohlfahrt oder andere schwierig zu quantifizierende Kriterien \u2013 werden dagegen ignoriert (Mittelstadt\/Wachter\/Russell 2023: 2). Das gr\u00f6\u00dfte Problem des Versuchs, Fairness<\/i> durch algorithmische oder mathematische Gleichungen zu gew\u00e4hrleisten, besteht demnach bereits darin, dass dieses Ziel unm\u00f6glich zu erreichen erscheint. Anders ausgedr\u00fcckt besteht eine deutliche Diskrepanz zwischen statistischen Ma\u00dfst\u00e4ben f\u00fcr Fairness<\/i> und den kontextabh\u00e4ngigen, oft intuitiven und mehrdeutigen rechtlichen Diskriminierungsma\u00dfst\u00e4ben und Beweisanforderungen, etwa im Rahmen eines Gerichtsprozesses (Wachter\/Mittelstadt\/Russell 2021). Das Ziel, Fairness<\/i> zu quantifizieren und ausschlie\u00dflich statistisch zu optimieren, erscheint somit nicht zielf\u00fchrend, um Fairness<\/i> im rechtlichen oder auch ethischen Verst\u00e4ndnis herzustellen. Vereinheitlichte Fairness<\/i>-Metriken und -Benchmarks stellen zwar wichtige Bewertungsverfahren und Mindeststandards f\u00fcr automatisierte Systeme dar, k\u00f6nnen jedoch nicht garantieren, dass KI-Anwendungen in konkreten F\u00e4llen von Betroffenen und lokalen Entscheidungstr\u00e4ger*innen (zum Beispiel Richter*innen) auch als fair wahrgenommen und bewertet werden.<\/p>\n

2.2 Transparenz<\/span><\/span><\/span><\/h4>\n

Transparenz<\/i> (englisch: transparency<\/i>) ist ein Begriff, der in der Terminologie vieler wissenschaftlicher Disziplinen, in der Politik ebenso wie im allt\u00e4glichen Sprachgebrauch, fest verankert ist. Im Kontext digitaler Technologieentwicklung bezieht sich Transparenz<\/i> oft auf den Zugang zu Informationen, die absichtlich offengelegt wurden. Aus ethischer Perspektive handelt es sich bei Transparenz<\/i> nicht um einen Wert an sich, sondern um eine zentrale Vorbedingung, welche die Realisierung oder Beeintr\u00e4chtigung verschiedener anderer ethischer Werte begr\u00fcndet (Turilli\/Floridi 2009). Auch aus rechtlicher Perspektive hat Transparenz<\/i>, beispielsweise ausgehend vom Prim\u00e4rrecht der Europ\u00e4ischen Union, eine hohe Gewichtigkeit (F\u00e4hrmann\/Aden\/Arzt 2022: 311). Die EU-GRCh verleiht zentralen Elementen der Transparenz<\/i> im Kontext des Datenschutzes (Art. 8 Abs. 2 S. 2) den Status eines Grundrechts: Jede Person hat \u201edas Recht, Auskunft \u00fcber die sie betreffenden erhobenen Daten zu erhalten und die Berichtigung der Daten zu erwirken\u201c. Auch die EU-Datenschutzgrundverordnung (DSGVO) erw\u00e4hnt in Art. 5 Abs. 1 lit. a Transparenz<\/i> als Datenschutzgrundsatz.<\/p>\n

Bez\u00fcglich aktueller Regulierungsbestrebungen f\u00fcr KI findet sich im vorgeschlagenen Art. 4a Abs. 1 lit. d des Kompromissvorschlags des Europ\u00e4ischen Parlaments Transparenz<\/i> definiert als:<\/p>\n

\n

\u201e\u2018transparency\u2019 means that AI systems shall be developed and used in a way that allows appropriate traceability and explainability, while making humans aware that they communicate or interact with an AI system as well as duly informing users of the capabilities and limitations of that AI system and affected persons about their rights.\u201d (European Parliament 2023: 143)<\/p>\n<\/blockquote>\n

Rechtlich normiert werden Transparenzpflichten f\u00fcr KI-Systeme unter anderem in Art. 13 KI-VO-E, wonach Nachvollziehbarkeit und Transparenz<\/i> als Anforderungen definiert werden. Hochrisiko-KI-Systeme m\u00fcssen demnach so konzipiert und entwickelt werden, dass der Betrieb hinreichend transparent ist und eine angemessene Interpretierbarkeit gegeben ist, die eine sinnvolle Verwendung der Ergebnisse durch die Nutzenden erm\u00f6glicht. Transparenz<\/i> muss also auf geeignete Art und in angemessenem Ma\u00df gew\u00e4hrleistet werden (Aden\/Kleemann 2023: 58). Artikel 7 der KI-Konvention des Europarats geht in eine \u00e4hnliche Richtung und besagt:<\/p>\n

\n

\u201eEach Party shall take appropriate measures to ensure that adequate oversight mechanisms as well as transparency requirements tailored to the specific contexts and risks are in place in respect of design, development, use and decommissioning of artificial intelligence systems.\u201d (Europarat 2023: 6)<\/p>\n<\/blockquote>\n

Auff\u00e4llig ist, dass alle Regelungen unbestimmte Rechtsbegriffe wie \u201eangemessen\u201c oder \u201egeeignete Art\u201c verwenden. Diese bed\u00fcrfen jedoch der weiteren Konkretisierung, die die Regulierungsentw\u00fcrfe nicht bereithalten. Weiterhin fokussiert sich beispielsweise Art. 13 KI-VO-E insbesondere auf die Interpretierbarkeit des Outputs von KI-Systemen durch deren Nutzer*innen (Ebers et al. 2021: 533 f.). Die Begriffe Interpretierbarkeit und Erkl\u00e4rbarkeit<\/i> sowie deren Zusammenspiel bed\u00fcrfen ebenfalls weiterer Pr\u00e4zisierung. Der KI-VO-E \u00fcberantwortet die Konkretisierungsanforderungen spezifischer Transparenzpflichten in hohem Ma\u00df an die Anbieter*innen solcher Systeme, wobei diese lediglich an deren Selbsteinsch\u00e4tzung festgemacht werden (Ebers et al. 2021: 533 f.). Die technischen Ma\u00dfnahmen zur Interpretation der Systemleistung und der Transparenz<\/i> den Anbieter*innen von KI-Systemen zu \u00fcberlassen erscheint mit Blick auf die zu sch\u00fctzenden Rechtsg\u00fcter von Personen, die von KI-basierten Entscheidungen betroffen sind, problematisch. Ist die Funktionsweise eines Modells nicht transparent, kann die Fehlerdiagnose einerseits und die Durchsetzung von Rechenschaftspflichten andererseits nicht gew\u00e4hrleistet werden (Busuioc\/Curtin\/Almada 2022: 21).<\/p>\n

Die Transparenzregelungen im KI-VO-E zielen insbesondere auf die Nutzenden (Art. 13 KI-VO-E) und weniger auf die von KI-basierten Entscheidungen Betroffenen ab. Durch das Zusammenspiel beziehungsweise das Adressieren von KI-Entwickler*innen und -Nutzenden erinnert der KI-VO-E eher an ein haftungsrechtliches Regelungsregime. Dies ist mit Blick auf eines der ma\u00dfgeblichen Ziele des Entwurfs, welches \u2013 neben der Gew\u00e4hrleistung der Produktsicherheit und der Einhaltung des EU-Rechts im Allgemeinen \u2013 insbesondere im Schutz der Grundrechte liegt, verwunderlich. Problematisch ist, dass eine solche Ausgestaltung grunds\u00e4tzlich zu Misstrauen gegen\u00fcber der Anwendung von KI-Technologien f\u00fchren k\u00f6nnte. Zun\u00e4chst erscheint es, als w\u00e4re dies im Kompromissvorschlag des Europ\u00e4ischen Parlaments erkannt und darauf reagiert worden. Dieser bezieht sich in den Erw\u00e4gungsgr\u00fcnden und auch in den konkreten Normen nun an etlichen Stellen mehr als zuvor auf fundamental rights<\/i> (Grundrechte) und sieht sogar in Art. 29a KI-VO-Kompromissvorschlag ein Fundamental rights impact assessment for high-risk AI systems<\/i> (European Parliament 2023: 42 ff.) vor. Allerdings wirkt die Art des copy-paste<\/i>-Einf\u00fcgens der Worte fundamental rights<\/i> im gesamten Verordnungsentwurf wenig durchdacht. An keiner Stelle wird klargemacht, was dies in concreto<\/i> bedeutet, worin der Unterschied zur Version der Kommission besteht und wie diese Anforderungen realisiert werden sollen.<\/p>\n

2.3 Erklär­bar­keit<\/span><\/span><\/span><\/h4>\n

Erkl\u00e4rbarkeit<\/i> ist im allgemeinen Sprachgebrauch deutlich weniger etabliert als Fairness<\/i> und Transparenz<\/i>, hat sich aber im Kontext der KI-Debatte als zentrales Prinzip zur Herstellung von Vertrauensw\u00fcrdigkeit etabliert. Aus ethischer Perspektive beschreibt Erkl\u00e4rbarkeit<\/i> die F\u00e4higkeit, anderen zu erkl\u00e4ren, warum man etwas getan oder eine Entscheidung getroffen hat. Entsprechend verwoben ist diese Qualit\u00e4t auch mit der Eigenschaft, Verantwortung und Verantwortlichkeit f\u00fcr etwas anzuzeigen (Coeckelbergh 2020).<\/p>\n

Im KI-VO-E fehlte der Begriff zun\u00e4chst und wurde erst mit den \u00c4nderungsvorschl\u00e4gen des Europ\u00e4ischen Parlaments am Ende der 1. Lesung explizit eingef\u00fchrt (European Parliament 2023: 143). Bez\u00fcglich der Erkl\u00e4rbarkeit<\/i> von KI-basierten Entscheidungen wurde bisher vor allem zwischen Transparenz<\/i> und sogenannter post-hoc-Interpretierbarkeit unterschieden (im Detail: Ebers 2021: 110f.). Ankn\u00fcpfungspunkte hierzu finden sich etwa in Art. 13 Abs. 1 KI-VO-E, wonach Hochrisiko-KI-Systeme so konzipiert sein m\u00fcssen, dass es den Nutzer*innen m\u00f6glich ist, die Ergebnisse angemessen zu interpretieren und zu verwenden. Im Kompromissvorschlag des Europ\u00e4ischen Parlaments wurde im Zusammenhang mit dem neu vorgeschlagenen Art. 4a Abs. 1 lit. d Transparenz<\/i> definiert und in diesem Zusammenhang ein starker inhaltlicher Bezug zu Erkl\u00e4rbarkeit<\/i> hergestellt (siehe oben, Abschnitt 2.2).<\/p>\n

Um dies weiter zu konkretisieren, erscheint es ratsam, insbesondere auf die Disziplin der Explainable AI<\/i> (XAI) zur\u00fcckzugreifen. XAI<\/i> beschreibt solche KI-Modelle, die auch von au\u00dfen verst\u00e4ndlich und erkl\u00e4rbar sind und trotz dieser Erkl\u00e4rbarkeit<\/i> eine hohe Lernleistung aufweisen (Linardatos 2022: 65). Diese Techniken, die urspr\u00fcnglich von Ingenieur*innen entwickelt wurden, um das Verhalten von Modellen zu untersuchen und Fehler zu beheben, werden jetzt als L\u00f6sung f\u00fcr Black-Box<\/i>-Problematiken und diesmal in institutionellen und Governance-Kontexten weiterentwickelt. Hierbei wird, vereinfacht gesagt, ein Black-Box<\/i>-Modell mit einem zweiten Post-hoc<\/i>-Erkl\u00e4rungsmodell verkn\u00fcpft und im Wesentlichen ein einfacherer Algorithmus zur Erkl\u00e4rung der Black-Box<\/i> verwendet, um das Black-Box<\/i>-Modell in etwas Verst\u00e4ndlicheres umzuwandeln (Busuioc\/Curtin\/Almada 2022: 11). Das Post-hoc<\/i>-Erkl\u00e4rungsmodell ist dabei oftmals ein v\u00f6llig anderes Modell als die zugrundeliegende Black-Box<\/i>. Die dadurch erzeugte Erkl\u00e4rung ist damit nicht ohne Weiteres f\u00fcr die Nutzenden oder Betroffenen selbst nachvollziehbar. Sie ist vielmehr eine von den Anbieter*innen der Systeme entwickelte Erkl\u00e4rung, wodurch die Anbieter*innen eine Art Vermittlerrolle zwischen den Nutzenden von KI-Systemen und den von KI-basierten Entscheidungen Betroffenen einnehmen. F\u00fcr die Anbieter*innen besteht der Vorteil offenkundig darin, dass sie es vermeiden die Black Box<\/i> \u00f6ffnen zu m\u00fcssen. Au\u00dferdem k\u00f6nnen dadurch die zugrundeliegenden Modelle unter Wahrung des Schutzes des geistigen Eigentums geheim bleiben und dennoch durch das Erkl\u00e4rungsmodell ein bestenfalls verst\u00e4ndliches Ergebnis liefern (Busuioc\/Curtin\/Almada 2022: 11). Die starke Rolle der Anbieter*innen in diesem Prozess ist jedoch durchaus auch kritisch zu betrachten. Entscheiden diese allein, wie die Erkl\u00e4rung und die Offenlegung entscheidungsrelevanter Parameter aussehen, besteht hier sogar die Gefahr von Intransparenz und wom\u00f6glich unfairen Entscheidungen. Die Qualit\u00e4t, die Genauigkeit und der Wahrheitsgehalt der bereitgestellten Informationen sollten nicht von der Vertrauensw\u00fcrdigkeit eines Vermittlers abh\u00e4ngen, der ein eigenes gro\u00dfes Interesse am Inhalt der pr\u00e4sentierten Informationen hat.<\/p>\n

2.4 Transparenz als Voraus­set­zung für Fairness und Erklär­bar­keit <\/span><\/span><\/span><\/h4>\n

Transparenz<\/i> dahingehend zu interpretieren, dass lediglich alles offengelegt wird, f\u00fchrt im Zusammenhang mit KI keineswegs automatisch zu mehr Verst\u00e4ndnis oder Erkl\u00e4rbarkeit<\/i>. Modelle des Machine Learning<\/i> (ML) oder neuronale Netze sind extrem komplex, haben Hunderte von Schichten (Layers<\/i>), Tausende Merkmale und Milliarden verschiedene Gewichtungen, die zu einem Vorhersageergebnis f\u00fchren k\u00f6nnen (Busuioc\/Curtin\/Almada 2022: 9). \u201eSeeing inside a system does not necessarily mean understanding its behavior and origins\u201d (Ananny\/Crawford 2018: 980). Transparenz<\/i> muss also neu verstanden, interpretiert und an die Rahmenbedingungen von KI angepasst werden.<\/p>\n

Der Diskurs \u00fcber Transparenz<\/i> hat sich von der urspr\u00fcnglichen Vorstellung von einer reinen Zurverf\u00fcgungstellung aller \u2013 auch f\u00fcr viele Stakeholder irrelevanter \u2013 Informationen hin zu einer Debatte \u00fcber Erkl\u00e4rbarkeit<\/i> durch Transparenz<\/i> verschoben (Busuioc\/Curtin\/Almada 2022: 8). Transparenz<\/i> soll also nicht mehr nur dadurch verwirklicht werden, dass Informationen bereitgestellt werden, was schnell zu einem information overflow<\/i> f\u00fchren kann. Vielmehr soll sie das Verstehen von KI-Systemen erleichtern. Dieses Postulat findet sich in vielen der neueren politischen und regulatorischen Dokumente zu KI wieder.iii<\/sup><\/a><\/p>\n

Diese Entwicklung hin zu Transparenz<\/i> durch Erkl\u00e4rung wird in technischer Hinsicht oftmals versucht in Form von XAI<\/i> zu realisieren. XAI<\/i> dient jedoch lediglich als Oberbegriff f\u00fcr diverse Techniken mit denen versucht wird, der Black-Box<\/i>-Problematik von KI-Modellen Herr zu werden. Die Idee von Transparenz<\/i> durch Erkl\u00e4rung ist zu einem gewissen Grad sinnvoll. Werden die Regulierungs- und Governance-Ans\u00e4tze jedoch einzig auf diesen Ansatz konzentriert, tun sich neue Probleme auf. Dann k\u00f6nnte sogar Transparenz<\/i> verloren gehen, weil eine Fokussierung auf Explainability-<\/i>Methoden Beeinflussungsm\u00f6glichkeiten hinsichtlich der Umsetzung von Transparenzpflichten \u00f6ffnet (Busuioc\/Curtin\/Almada 2022: 11). Auch hier gilt es zu kl\u00e4ren, wer diese Pflichten erf\u00fcllen muss (h\u00e4ufig die Anbieter*innen von KI-Systemen) und welche Interessen dabei verfolgt werden. Wie beschrieben, wird den Anbieter*innen diese Pflicht \u00fcbertragen, aber auch die genaue Ausgestaltung zu gro\u00dfen Teilen \u00fcberlassen. Das f\u00fchrt dazu, dass die Anbieter*innen mit ihren technischen Mitteln kontrollieren, was offengelegt wird. Die Stakeholder, die diesen Prozess auf diese Weise technisch in der Hand haben, sind zugleich diejenigen mit den st\u00e4rksten Geheimhaltungsinteressen (Busuioc\/Curtin\/Almada 2022: 11).<\/p>\n

Nichtsdestotrotz kann Transparenz<\/i> der Grundstein f\u00fcr Erkl\u00e4rbarkeit<\/i> und letztlich auch f\u00fcr Fairness<\/i> sein. Notwendig ist daf\u00fcr eine smarte Regulierung, die beispielsweise eine adressatenspezifische Differenzierung vorsieht (n\u00e4her hierzu unten in Abschnitt 4.).<\/p>\n

3. Elemente erklärbarer Fairness von Künstlicher Intelligenz in Sicher­heits­an­wen­dungen<\/span><\/h3>\n

Um reale Fairness<\/i> im KI-Kontext zu erreichen, sind eine Reihe von Transparenzmethoden denkbar. Hier werden diese typologisiert und in den Anwendungsbereich der polizeilichen Ermittlungst\u00e4tigkeit eingeordnet.<\/p>\n

3.1 Verpflich­tung zur Entwicklung und zum Einsatz fairness­sen­si­bler KI<\/span><\/span><\/span><\/h4>\n

Wegen des hohen Stellenwerts, welchen die Risiken algorithmischer Diskriminierung \u00fcber die letzten Jahre in der \u00f6ffentlichen und medialen Debatte erhalten haben, sind Anbieter*innen von KI-Systemen dazu \u00fcbergegangen, die Ethik und Fairness<\/i> in ihren Produktbeschreibungen und -bewerbungen zu adressieren. Beispielsweise deklariert Palantir, ein marktf\u00fchrender Anbieter digitaler Sicherheitssoftware, dass bei der Auswahl von Anwendungsf\u00e4llen und der Entwicklung von KI-Systemen verschiedene ethische Risiken ber\u00fccksichtigt werden. So bekennt sich die Firma in ihrer KI-Ethik-Deklaration zu einem bewussten und vorsichtigen Umgang mit sensitiven Attributen wie race<\/i> und gender<\/i>:<\/p>\n

\n

\u201eWhere such sensitive categories are implicated in programs that use AI either by necessity or choice, their inclusion should be identified and, where appropriate, contextually justified, in addition to complying with any formal requirements under applicable law.\u201c (Palantir o. D.)<\/p>\n<\/blockquote>\n

Viele Anbieter*innen adressieren Fairness<\/i> jedoch nur auf sehr viel allgemeinerem Niveau und deklarieren oft unspezifisch, dass ihr KI-System fair<\/i> oder un-biased<\/i> sei. Ein detaillierter ausgearbeitetes und \u00f6ffentlich zug\u00e4ngliches Statement zum Ansatz des Umgangs mit algorithmischer Diskriminierung sollte aber zu den Mindestanforderungen f\u00fcr KI-Entwickler*innen geh\u00f6ren.<\/p>\n

3.2 Begründung der gewählten Fairness-­Me­triken, De-Bia­sing-­Ver­fahren und erweiterte Technik­fol­ge­n­ab­schät­zung<\/span><\/span><\/span><\/h4>\n

Auch wenn sich KI-Anbieter*innen zu fairer und ethischer KI bekennen, beschreiben sie selten konkret, welche technischen und organisatorischen Ma\u00dfnahmen getroffen wurden, um den Schutz vor algorithmischer Diskriminierung in ihrer Produktentwicklung und -vermarktung zu ber\u00fccksichtigen. In einer konsequenten Darstellung der Ma\u00dfnahmen f\u00fcr algorithmische Fairness<\/i> m\u00fcssten die genutzte Fairness<\/i>-Metrik, das konkrete Vorgehen f\u00fcr das De-Biasing<\/i>, die erreichten Schwellenwerte und die Qualit\u00e4t dieser Schwellenwerte gegen\u00fcber anderen Anbieter*innen und Systemen vermittelt werden. Ebenso m\u00fcsste kommuniziert werden, in welche organisatorischen Ma\u00dfnahmen die technischen Verfahren eingebettet werden. Im Zusammenhang mit aktueller KI-Regulierung finden sich hier auch Ankn\u00fcpfungspunkte an rechtliche Governance- und Data-Management Vorgaben. Diese finden sich sowohl im KI-VO-E und allen auf EU-Ebene in der Trilog-Aushandlung genutzten Dokumenten (vgl. bspw. Art 10, Europ\u00e4ische Kommission 2021 und European Parliament 2023) als auch im Vorschlag f\u00fcr eine KI-Konvention des Europarats (vgl. bspw. Art. 10, 15, Pr\u00e4ambel Nr. 17 Option C: Europarat 2023: 4, 7f.). K\u00fcnftig werden insbesondere im Zusammenhang mit dem Training von KI-Modellen und den daf\u00fcr notwendigen Daten Verfahren etabliert werden m\u00fcssen, die beispielsweise die Datenerfassung, Datenaufbereitungsvorg\u00e4nge, aber auch Untersuchungen bez\u00fcglich m\u00f6glicher Verzerrungen betreffen. F\u00fcr diese und weitere Verfahren m\u00fcssen geeignete Daten-Governance und Datenverwaltungsverfahren geschaffen werden.<\/p>\n

Damit die dargestellten Ma\u00dfnahmen von Au\u00dfenstehenden bewertet werden k\u00f6nnen, m\u00fcssten die Transparenzma\u00dfnahmen gegen\u00fcber den bestehenden Risiken begr\u00fcndet werden. Entsprechend w\u00e4re stets eine allgemeine Technikfolgenabsch\u00e4tzung des Systems notwendig, bevor \u00fcberhaupt statistische L\u00f6sungen ausgew\u00e4hlt und operationalisiert werden. F\u00fcr diese Art auf den Anwendungsfall bezogener Dokumentation gibt es bereits Formate wie das von der Firma Microsoft entwickelte Responsible AI Impact Assessment Template<\/i> (Microsoft 2022).<\/p>\n

3.3 Technische Dokumen­ta­tion des Systems<\/span><\/span><\/span><\/h4>\n

Um die Passung zwischen Risiken und Adressierungsma\u00dfnahmen im Anwendungsfeld zu evaluieren, m\u00fcssten Externen technische Informationen zu Input-Daten, eingesetzten Modellen und Informationen zum Lernprozess (Aufbau des Verfahrens, Einstellung der Hyperparameter, etc.) zur Verf\u00fcgung stehen. Auch hierzu gibt es bereits ausgearbeitete Dokumentationsformate wie Data Sheets<\/i> (im Detail: Gebru et al. 2021) und Model Cards<\/i> (im Detail: Mitchell et al. 2018). In diesem Zusammenhang k\u00f6nnten Anforderungen an KI-Trainingsdatens\u00e4tze definiert werden, die rechtliche und ethische Standards erf\u00fcllen. Die Trainingsdatens\u00e4tze k\u00f6nnen entweder im Nachhinein damit abgeglichen werden, oder besser, die Anforderungen bereits beim Anlegen neuer Datens\u00e4tze umgesetzt werden. Allgemeine Inhalte k\u00f6nnen dabei unter anderem die gesetzlichen Vorgaben bez\u00fcglich des Datenschutzes sein. Zur Konkretisierung k\u00f6nnen beispielsweise Informationen zu Zeitpunkt und Methode von Anonymisierung oder Pseudonymisierung, zur Herkunft der Daten und zu einer informierten Einwilligung geliefert werden (vgl. Aden\/Kleemann 2023: 61f.). Die Etablierung einer solchen Praxis k\u00f6nnte dazu f\u00fchren, k\u00fcnftige Trainingsdatens\u00e4tze rechtlich und ethisch sicherer zu gestalten, eine Vergleichbarkeit herzustellen und dies auch nachweisen zu k\u00f6nnen. Hier k\u00f6nnten ebenfalls abgestufte Versionen (vgl. auch Abschnitt 4) bereitgestellt werden, bei denen ein Data-Sheet<\/i>, welches m\u00f6glicherweise in ein Gerichtsverfahren eingebracht wird, speziellere Informationen enth\u00e4lt als eines, welches der breiteren \u00d6ffentlichkeit zug\u00e4nglich gemacht werden soll (Aden\/Kleemann 2023: 62).<\/p>\n

3.4 Zugang zum Source Code und zu Echtdaten<\/span><\/span><\/span><\/h4>\n

Der Zugang zum Source Code<\/i> des Systems w\u00fcrde es erm\u00f6glichen, dieses nachzustellen und die kommunizierten Fairness<\/i>-Angaben technisch zu \u00fcberpr\u00fcfen oder zu reproduzieren. Auch wenn der Zugang zum Source Code<\/i> als Mittel der Transparenzherstellung gro\u00dfes Potential aufweist, ist die Umsetzung gerade f\u00fcr Applikationen im Sicherheitsbereich schwierig. So kann erstens die Zug\u00e4nglichmachung des Programmiercodes zu einer Vulnerabilit\u00e4t gegen\u00fcber externen Angriffen f\u00fchren (adversarial attacks<\/i>) (Qiu et al. 2019: 909). Zweitens ist im Fall einer Entwicklung von Software durch die Privatwirtschaft aus urheber- und nutzungsrechtlichen Gr\u00fcnden fraglich, ob diese eine Open-Source<\/i>-Entwicklung unterst\u00fctzen und vorantreiben w\u00fcrden. Drittens bestehen KI-Systeme h\u00e4ufig aus vielen verschachtelten Systemen, so dass die Interpretier- und Erkl\u00e4rbarkeit<\/i> offener Codes fraglich scheint.<\/p>\n

Mit der starken Verbreitung vortrainierter Transformer-Modelle in den vergangenen Jahren verschieben sich jedoch hier die Bedingungen f\u00fcr Transparenz<\/i>. Oft werden nun vortrainierte Open-Source<\/i>-Modelle genutzt und mittels Transfer-Learning<\/i> auf neue Aufgaben umtrainiert. Die Transparenz<\/i> erschlie\u00dft sich entsprechend \u00fcber die Offenheit des zugrundeliegenden Modells, nicht unbedingt \u00fcber das angepasste Modell. Allerdings gibt es hier durch die Verschiebung des Trends hin zu propriet\u00e4ren Large Language Models<\/i> (LLMs) auch wieder eine Gegenbewegung, deren Konsequenzen f\u00fcr den Sicherheitsbereich noch nicht abzusch\u00e4tzen sind.<\/p>\n

W\u00e4hrend die Zug\u00e4nglichmachung von Daten im Sinne von Open Data<\/i> (Fischer\/Hirsbrunner\/Teckentrup 2022) f\u00fcr viele KI-Anwendungsbereiche von enormem Wert sein wird, ist sie f\u00fcr viele Applikationen im Sicherheitsbereich nicht praktikabel. Daten von Sicherheitsbeh\u00f6rden, wie etwa Falldaten der Polizei, unterliegen starken Datenschutzbestimmungen und polizeitaktischen Vertraulichkeitsanforderungen. Es ist illusorisch, dass Echtdaten hier im gro\u00dfen Umfang zur \u00dcberpr\u00fcfung von Systemen verf\u00fcgbar gemacht werden. Allerdings ist der Datenschutz eine Problematik, die nicht erst im Rahmen der \u00dcberpr\u00fcfung von Systemen auftritt, sondern bereits in der Entwicklungsphase. Da Echtdaten aus dem Polizeikontext meist auch den kommerziellen oder nicht-kommerziellen KI-Entwickler*innen nicht zur Verf\u00fcgung stehen, behelfen sich diese mit offenen Datens\u00e4tzen mit \u00e4hnlichen Eigenschaften. Echtdaten kommen erst in der Testphase der KI-Systeme und auch dort nur punktuell zum Einsatz. Oft werden die sich im Test befindlichen Systeme hierzu auf Server der Sicherheitsbeh\u00f6rden gespielt und aus Datenschutzgr\u00fcnden erst dort mit Echtdaten versorgt. Hinzu kommt, dass die Nutzung polizeilicher Echtdaten im Rahmen von KI-Entwicklung durchaus problematisch sein kann. Je nachdem, in welchem Stadium sich die KI-Entwicklung befindet und mit welchen Ans\u00e4tzen trainiert wird, muss bedacht werden, dass polizeiliche Echtdaten die Sichtweise der Ermittler*innen aus vorherigen Fallkonstellationen widerspiegeln und notwendigerweise nur einen unvollst\u00e4ndigen Teil der Wirklichkeit darstellen. Daraus folgt, dass solche Daten in hohem Ma\u00dfe Verzerrungen enthalten k\u00f6nnen, die sich bereits aus dem Ermittlungsansatz, den subjektiven Wahrnehmungen der Ermittelnden selbst und generell dem sozialen Kontext ableiten (Barocas\/Hardt\/Narayanan 2019: 11ff.; Gonz\u00e1lez Fuster 2020: 41f.). Dennoch gibt es Bereiche, in denen Echtdaten n\u00fctzlich erscheinen. Im Zusammenhang mit automatisierter Texterkennung k\u00f6nnte es beispielsweise zielf\u00fchrend sein, die Modelle nicht mit wohlformulierten oder offiziellen Texten zu trainieren, sondern gerade Slang, gemischte Sprachen, Messenger-Chats<\/i>, Umgangssprache und fehlerhafte S\u00e4tze zu nutzen. Hier k\u00f6nnte jedoch, anstatt auf reale Texte mit personenbezogenen Daten zur\u00fcckzugreifen, auch mit synthetisch generierten und den beschriebenen Anforderungen entsprechender Textdaten, trainiert werden. \u00c4hnliche Konstellationen k\u00f6nnten sich im Bereich der Objekterkennung ergeben. Je nach Ausgestaltung und Einsatzzweck des KI-Systems k\u00f6nnte auch mit Objektdaten trainiert werden, die aus einem Ermittlungsverfahren stammen, wenn es bei der Objekterkennung gerade nicht um Personen, sondern um einzelne Objekte wie Schmuck oder Wareng\u00fcter geht, die keinen Personenbezug aufweisen, aber in bestimmten Konstellationen \u00e4hnlich auftauchen (bspw. Schmuckauslage f\u00fcr den Weiterverkauf gestohlener Waren).<\/p>\n

4. Adres­sa­ten­spe­zi­fi­sche Ausdif­fe­ren­zie­rung von Fairness, Transparenz und Erklär­bar­keit im sicher­heits­be­hörd­li­chen Kontext<\/span><\/h3>\n

Hinsichtlich der Anforderungen (Fairness<\/i>, Transparenz<\/i>, Erkl\u00e4rbarkeit<\/i>) an vertrauensw\u00fcrdige KI sollte ber\u00fccksichtigt werden, dass verschiedene Akteur*innen unterschiedliche Bedarfe und Interessen beim Umgang mit einer KI-Anwendung haben k\u00f6nnen. Hier ist eine Ausdifferenzierung erforderlich, die M\u00f6glichkeiten zur Einnahme individueller Perspektiven zul\u00e4sst.<\/p>\n

Im Kontext polizeilicher KI-Nutzung bestehen bez\u00fcglich der effektiven Gew\u00e4hrleistung von Erkl\u00e4rbarkeit<\/i>, Transparenz<\/i> und Fairness<\/i> besondere Herausforderungen. Verschiedene Akteur*innen, etwa KI-Fachleute, Ermittler*innen, Gerichtssachverst\u00e4ndige, Anw\u00e4lt*innen, Richter*innen, Beschuldigte, sonst Betroffene und die \u00d6ffentlichkeit haben unterschiedliche Bed\u00fcrfnisse und Interessen, die nicht nur ber\u00fccksichtigt werden m\u00fcssen, sondern teilweise in einem Spannungsverh\u00e4ltnis stehen, welches wom\u00f6glich nicht ausreichend aufgel\u00f6st werden kann. Um diesen Problemen dennoch bestm\u00f6glich zu begegnen, kann eine Risikomatrix oder bildlich beschrieben, ein \u201eZwiebelmodell\u201c entworfen werden, welches eine gruppenspezifische Gew\u00e4hrleistung und Offenlegung verschiedener Informationen erm\u00f6glicht (Aden et al. 2023: 302).<\/p>\n

Ein \u201eZwiebelmodell\u201c w\u00fcrde bedeuten, dass beispielsweise KI-Fachleute, denen der Betrieb der KI-Anwendung obliegt, oder Gerichtssachverst\u00e4ndige umfangreichere technische und inhaltliche Informationen erhalten, um die Entscheidungen des KI-Systems fundiert und kritisch bewerten zu k\u00f6nnen. Ermittler*innen erhalten nach diesem Prinzip die Informationen, die f\u00fcr ihre Arbeit notwendig sind, aber auch eine rechtm\u00e4\u00dfige Nutzung gew\u00e4hrleisten, ohne dass dar\u00fcber hinausgehende Expertise zwingend erforderlich ist. Die allgemeine \u00d6ffentlichkeit bef\u00e4nde sich in der \u00e4u\u00dferen Schicht und w\u00fcrde bei Bedarf oder Interesse im erforderlichen Umfang allgemeinere Informationen erhalten (Aden et al. 2023: 302). Von KI-basierten Entscheidungen Betroffene m\u00fcssen indes gesondert betrachtet werden. Eine vorherige Filterung oder Begrenzung von Informationen k\u00f6nnte menschenrechtlichen Prinzipien und damit einem effektiven Menschenrechtsschutz entgegenstehen. Zur Gew\u00e4hrleistung eines solchen Konzepts bedarf es differenzierter Anforderungen, die bereits bei der Entwicklung des KI-Systems mitbedacht und von Beginn an, auch im Rahmen der Hard- und Softwareentwicklung, in ein holistisches Konzept integriert werden. Partizipationsoffenheit und eine interdisziplin\u00e4re, integrierte Technikentwicklung sind daf\u00fcr ma\u00dfgeblich zu erf\u00fcllende Voraussetzungen (Gressel\/Orlowski 2019: 71f.).<\/p>\n

Eine solche konkrete Ausdifferenzierung k\u00f6nnte anhand dreier Akteursgruppen beispielhaft dargestellt werden. Wenn im polizeilichen Kontext KI-Anwendungen genutzt werden, sind unterschiedliche Stakeholder und Zielgruppen involviert. Zur Verdeutlichung der Abh\u00e4ngigkeiten der Konzepte und der zielgruppenspezifischen Transparenzanforderungen k\u00f6nnen beispielsweise (1) Ermittler*innen, (2) die digitale Ermittlungsunterst\u00fctzung, also Expert*innen in den Sicherheitsbeh\u00f6rden, und (3) Aufsichtsbeh\u00f6rden als Gruppen von KI-Nutzer*innen definiert werden. Klassischerweise wird diesen Gruppen eine Vielzahl an zielgruppenunspezifischen Informationen zur Verf\u00fcgung gestellt, was zur Folge hat, dass die f\u00fcr die einzelnen Beteiligten wirklich relevanten Informationen und Erkl\u00e4rungen nicht mehr selektiert werden k\u00f6nnen. Ausgehend von den \u00dcberlegungen zu Human-Centered Design<\/i> (Baumer 2017) und Human-Centered Machine-Learning<\/i> (Gillies et al. 2016) k\u00f6nnen aus Sicht der Gruppen von Beteiligten verschiedene Fragen aufkommen, die unterschiedlicher L\u00f6sungsans\u00e4tze bed\u00fcrfen.<\/p>\n

4.1 Ermitt­ler*innen<\/span><\/span><\/span><\/h4>\n

Ermittler*innen sind Polizeibeamt*innen, die in ihrer Funktion als Ermittlungspersonen KI-Anwendungen nutzen bzw. von spezialisierten Dienststellen oder externen Dienstleistern mit KI-basierten Ermittlungsans\u00e4tzen \u201eversorgt\u201c werden. Als Akteur*innen, die oft schnell, aber dennoch fundiert entscheiden m\u00fcssen, ben\u00f6tigen Ermittler*innen einerseits klare und eindeutige Informationen. Andererseits m\u00fcssen die Verantwortlichkeiten vorab klar definiert sein. Bei ersterem ist immer darauf zu achten, dass die KI-basierte Entscheidung zwar leicht zug\u00e4nglich, aber deutlich erkennbar als Unterst\u00fctzungshilfe ausgegeben werden muss. Dabei m\u00fcssen die Leistungsgrenzen des Systems klar aufgezeigt werden. F\u00fcr die Ermittlungsarbeit ebenfalls ausschlaggebend sind klare Informationen bez\u00fcglich der Verantwortung. Um dies zu gew\u00e4hrleisten, bietet sich die Entwicklung einer Verantwortungskaskade an. Oftmals bestehen die praktischen Probleme der Ermittlungsarbeit in unklaren Verantwortlichkeiten. Dies kann auch im Rahmen von KI dazu f\u00fchren, dass nicht klar ist, wer welche Systeme wie einsetzen darf und wer letztlich verantwortlich ist. Dazu z\u00e4hlen Fragen im Vorfeld, etwa wer entscheidet, welches Tool \u00fcberhaupt angeschafft wird, welches geeignet ist und wie das Training an diesen Systemen vonstatten geht. F\u00fcr die Ermittler*innen wird bei der Frage, ob sie ein Tool einsetzen, letztlich entscheidend sein, dass sie sicher gehen k\u00f6nnen, dieses rechtskonform und bestimmungsgem\u00e4\u00df zu verwenden. Dies kann durch eine klare Verantwortungskaskade speziell f\u00fcr die Nutzung KI-basierter Systeme innerhalb der Beh\u00f6rde realisiert werden. Bez\u00fcglich der technischen Umsetzung sollten Anforderungen wie eine intuitive Interface-<\/i>G<\/i>estaltung und gute Handhabbarkeit implementiert werden, ebenso bedarf es Klarheit dar\u00fcber, dass es sich lediglich um ein Unterst\u00fctzungs- und kein Entscheidungstool handelt. Hierbei sind auch Ma\u00dfnahmen gegen die \u201eTechnikgl\u00e4ubigkeit\u201c von Anwender*innen avancierter Technologien erforderlich, etwa durch die Entwicklung von Irritationen und die Darlegung m\u00f6glicher Gegenargumente im Hinblick auf die Interpretation KI-basierter Ermittlungsans\u00e4tze. Die Gefahren eines information overflow<\/i> m\u00fcssen insbesondere bei dieser Gruppe von Akteur*innen mitbedacht werden.<\/p>\n

4.2 Digitale Ermitt­lungs­un­ter­stüt­zung<\/span><\/span><\/span><\/h4>\n

Die digitale Ermittlungsunterst\u00fctzung ist die zweite, hier exemplarisch betrachtete Gruppe von Akteur*innen. Dabei handelt es sich um Teams aus IT-Fachleuten innerhalb der Sicherheitsbeh\u00f6rden, deren Aufgabe darin besteht, Ermittler*innen bei der Auswertung gro\u00dfer Datenmengen und digitaler Asservate zu unterst\u00fctzen. Mit Blick auf die wachsenden digitalen Kommunikationsstr\u00f6me handelt es sich hierbei um ein aufstrebendes T\u00e4tigkeitsfeld innerhalb der Polizeibeh\u00f6rden, welches bisweilen auch an Fachbereiche der digitalen Forensik oder der Bek\u00e4mpfung von Cyberkriminalit\u00e4t angegliedert ist. Die hier t\u00e4tigen Expert*innen verf\u00fcgen typischerweise \u00fcber eine fundierte Ausbildung in Bereichen wie der Informatik, der Datenwissenschaft, der Computerlinguistik oder der digitalen Forensik. Entsprechend sind sie nicht nur in der Lage, KI-basierte Anwendungen zur Datenanalyse zu nutzen, sondern sie ebenso technisch zu bewerten und zu \u00fcberpr\u00fcfen.<\/p>\n

Der Aufgabenbereich dieser Gruppe von Akteur*innen kann eine Vielzahl von IT-bezogenen Leistungen miteinschlie\u00dfen, die mit bestimmten Transparenzanforderungen an Technik einhergehen. Zum einen kann eine Aufgabe der IT-Fachleute darin bestehen, auf Basis frei verf\u00fcgbarer Software (etwa Python-Scripts und -bibliotheken) kleinere Computerprogramme selbst zu entwickeln, die f\u00fcr die Auswertung von Daten eingesetzt werden. Zum anderen beinhaltet der Aufgabenbereich technische Bewertungen und Risikoeinsch\u00e4tzungen. Solche Einsch\u00e4tzungen k\u00f6nnen unter anderem im Beschaffungsprozess f\u00fcr neue Software eine Rolle spielen, aber auch im Falle des Auftretens von Problemen mit bereits verwendeter Software.<\/p>\n

Um diese Aufgaben bew\u00e4ltigen zu k\u00f6nnen, sind die Fachleute auf verschiedene Transparenzeigenschaften und -ma\u00dfnahmen angewiesen. Viele dieser Eigenschaften lassen sich unter dem Feld der XAI<\/i> subsummieren. Dies kann etwa Post-hoc<\/i>-Erkl\u00e4rungsmodelle beinhalten, die zur Erkl\u00e4rung der Funktionsweise des komplexeren, aber opaken Prim\u00e4rmodells verwendet werden. Ebenso relevant k\u00f6nnen jedoch technische Komponenten sein, die Input-Daten, die Performanz des Systems oder andere Eigenschaften vermitteln (Liao\/Gruen\/Miller 2020). Im Kontext der Fairness<\/i>-Diskussion sind hier beispielsweise Techniken im Einsatz, die \u00fcber einfache Erkl\u00e4rungen hinausgehen und komplexere \u201eWas w\u00e4re wenn\u201c-Experimente erm\u00f6glichen.<\/p>\n

4.3 Aufsichts­be­hörden und parla­men­ta­ri­sche Gremien<\/span><\/span><\/span><\/h4>\n

Aufsichtsbeh\u00f6rden sind \u00f6ffentliche Beh\u00f6rden und Stellen wie Datenschutz- oder Polizeibeauftragte, die Kontrollaufgaben wahrnehmen. Sie haben Informationsbedarfe, die sich st\u00e4rker auf das Funktionieren und die Verl\u00e4sslichkeit einer KI-Anwendung im Allgemeinen beziehen. Auch parlamentarische Gremien mit Kontrollaufgaben, etwa Fach- und Untersuchungsaussch\u00fcsse, haben vergleichbare Informationsbedarfe. Im KI-VO-E ist au\u00dferdem in den Art. 56ff. die Einrichtung eines Europ\u00e4ischen Ausschusses f\u00fcr KI (Artificial Intelligence Board<\/i>) vorgesehen. Die genaue Ausgestaltung \u00fcberl\u00e4sst der Verordnungsentwurf allerdings den Mitgliedstaaten, wo zu entscheiden sein wird, ob die Kontrolle von KI-Anwendungen beispielsweise in die bestehende Datenschutzaufsicht integriert oder neu zu etablierenden Aufsichtsbeh\u00f6rden \u00fcbertragen wird (Aden\/Kleemann 2023: 57). Der urspr\u00fcngliche KI-VO-E sah ferner \u00fcberhaupt keine M\u00f6glichkeit f\u00fcr individuelle Beschwerden von Betroffenen vor. Der Kompromissvorschlag des Europ\u00e4ischen Parlaments erkennt jedoch die Notwendigkeit eines solchen Mechanismus an, woraufhin ein eigens daf\u00fcr erg\u00e4nztes Kapitel 3a (Chapter 3a Remedies<\/i>) mit den Art. 68a-68e vorgeschlagen wird (European Parliament 2023: 106ff.). Dabei ist bereits jetzt absehbar, dass diese Beschwerdemechanismen als Bindeglied zwischen den KI-Entwickler*innen, den Nutzenden (hier: Sicherheitsbeh\u00f6rden) und den von KI-basierten Entscheidungen Betroffenen dienen werden. Dies f\u00fchrt dazu, dass hier eine gewisse \u00dcbersetzungsleistung erforderlich sein wird. Die verschiedenen Interessengruppen, die mit diesen Kontrollbeh\u00f6rden interagieren, sollten bestenfalls in den Beh\u00f6rden selbst vertreten sein. Das bedeutet, dass technisch versierte KI-Expert*innen dort mit Betroffenenvertreter*innen, juristischen Expert*innen sowie Vertreter*innen der Zivilgesellschaft zusammenarbeiten m\u00fcssen. Aufsichtsbeh\u00f6rden m\u00fcssen KI-basierte Systeme dahingehend pr\u00fcfen k\u00f6nnen, ob diese den gesetzlichen Anforderungen entsprechen und hohe Schutzstandards f\u00fcr die Grundrechte Betroffener gew\u00e4hrleisten. Daf\u00fcr bedarf es wesentlich weitergehender Informationen, also Transparenzma\u00dfnahmen, um Erkl\u00e4rbarkeit<\/i>, eine effektive Kontrolle und letztlich faire Entscheidungen zu gew\u00e4hrleisten.<\/p>\n

Durch Entwickler*innen und Anbieter*innen von KI-Software im Sicherheitsbereich muss ein standardisiertes Format geschaffen werden, welches es den Expert*innen in den Aufsichtsbeh\u00f6rden erm\u00f6glicht, notwendige Informationen bez\u00fcglich eines KI-Systems zu erhalten. Dazu z\u00e4hlen zum Beispiel Fragen nach der Herkunft des Datensatzes, der zu KI-Trainingszwecken verwendet wurde, wobei bereits hier unterschiedliche Interessen ber\u00fccksichtigt werden m\u00fcssen. Es k\u00f6nnte beispielsweise ausreichen, aggregierte Informationen (Statistiken, Visualisierungen) \u00fcber die Trainingsdatens\u00e4tze und die Datensubjekte zu erhalten. Werden diese standardisiert, k\u00f6nnte eine Vergleichbarkeit hergestellt werden. Dies k\u00f6nnte mittels Data Sheets<\/i> erfolgen. Dadurch k\u00f6nnte Akzeptanz auf Seiten der Industrie hergestellt werden, die in vielen F\u00e4llen aus manchmal guten Gr\u00fcnden eine komplette Offenlegung von Trainingsdaten vermeiden m\u00f6chte, etwa im Hinblick auf die Cybersicherheit. Denn auf der Basis zu detaillierter offengelegter Informationen k\u00f6nnten Angriffsvektoren f\u00fcr Cyberattacken geschaffen werden. Werden mittels Wissens \u00fcber die Trainingsdaten Schwachstellen des ML-Modells herausgefunden und ausgenutzt, handelt es sich hier nicht um eine direkte Manipulation des ML-Modells, sondern es werden mittels exploratory attacks<\/i> Eingaben genutzt, die schlussendlich zu Fehlklassifizierungen des Modells f\u00fchren. Weitere Gefahren bestehen darin, dass durch Wissen \u00fcber die Trainingsdaten die Eigenschaften (Integrit\u00e4t, Vertraulichkeit, Verf\u00fcgbarkeit) des Systems angegriffen werden k\u00f6nnen. Bei einem Angriff auf die Eigenschaften des Systems k\u00f6nnen beispielsweise durch r<\/i>everse <\/i>e<\/i>ngineering<\/i> Informationen \u00fcber das Modell oder \u00fcber die Trainingsdaten herausgefunden werden. (Sultanow et al. 2022: 148f.). Werden jedoch mittels Statistiken \u00fcber Trainingsdaten die f\u00fcr die Erkl\u00e4rbarkeit<\/i> relevanten Informationen aufbereitet und so bereitgestellt, dass die Trainingsdaten selbst robust gesch\u00fctzt sind, kann diese Gefahr verringert werden und gleichzeitig der Kritik von m\u00f6glicher \u00dcberregulierung begegnet werden. Eine solche Art der Aufbereitung von Statistiken \u00fcber Trainingsdaten k\u00f6nnte auch weitergehend den Weg der Daten nachvollziehbar machen und lediglich die bereits bewerteten Daten auswerten.<\/p>\n

Um nachzuweisen, dass ein System wie vorgesehen funktioniert, k\u00f6nnten Aufsichtsbeh\u00f6rden auch geheime Datens\u00e4tze von unbeteiligten Dritten zur Verf\u00fcgung gestellt werden. Diese Methoden w\u00fcrden ma\u00dfgeblich zur Erkl\u00e4rbarkeit<\/i> der Systeme beitragen, was wiederum die Konsequenzen f\u00fcr die Betroffenen nachvollziehbarer machen w\u00fcrde. Der zweckm\u00e4\u00dfige Einsatz des Systems k\u00f6nnte so nachgewiesen werden, wobei an dieser Stelle die zwingend notwendige \u00dcbersetzungsleistung f\u00fcr Menschen ohne spezielle KI-Ausbildung ansetzen muss.<\/p>\n

5. Schluss­fol­ge­rungen und Ausblick<\/span><\/h3>\n

Dieser Beitrag hat gezeigt, dass Fairness<\/i>, Erkl\u00e4rbarkeit<\/i> und Transparenz<\/i> bei der Entwicklung und Nutzung von KI-Anwendungen, auch im Sicherheitsbereich, eng miteinander zusammenh\u00e4ngen. Eine speziell auf Gruppen von Akteur*innen wie Ermittler*innen oder Aufsichtsbeh\u00f6rden zugeschnittenes Transparenzkonzept ist Voraussetzung daf\u00fcr, dass diese Gruppen f\u00fcr ihre Aufgaben die passenden und erforderlichen Informationen bekommen, ohne mit einer Flut unverst\u00e4ndlicher Informationen konfrontiert zu werden. Diese Transparenz<\/i> ist notwendige Bedingung f\u00fcr eine erkl\u00e4rbare KI. Allerdings reicht Transparenz<\/i> f\u00fcr die Erkl\u00e4rbarkeit<\/i> von KI-basierten Ergebnissen noch nicht aus, sondern bedarf einer inhaltlichen Anreicherung, die technisch zu implementieren ist. Damit k\u00f6nnte die Herstellung von Erkl\u00e4rbarkeit<\/i> der Ergebnisse von KI-Anwendungen im Sicherheitsbereich zugleich einen Beitrag zur Rechtm\u00e4\u00dfigkeit staatlichen Handelns leisten, wenn es gelingt, die verwendete Soft- und Hardware so auszugestalten, dass sie rechtm\u00e4\u00dfiges Handeln nicht nur unterst\u00fctzt, sondern auch durch technische Vorkehrungen \u201eerzwingt\u201c. Auf diese Weise k\u00f6nnten Transparenz<\/i> und Erkl\u00e4rbarkeit<\/i> auch einen Beitrag zur Fairness<\/i> staatlicher Entscheidungen leisten, die mit KI-Tools unterst\u00fctzt wurden. Dabei geht es um Fairness<\/i> im Sinne von Verhinderung von Diskriminierung, aber auch von akzeptablen und nachvollziehbaren Entscheidungen, in denen Besonderheiten des Einzelfalls Ber\u00fccksichtigung finden, \u00e4hnlich wie bei der menschlichen Aus\u00fcbung von Verwaltungsermessen.<\/p>\n

Wie dargelegt, k\u00f6nnen rechtliche Vorschriften allein kaum ein hohes Ma\u00df an Fairness<\/i>, Transparenz<\/i> und Akzeptanz neuer Technologien erzwingen. Im EU-Datenschutzrecht wurde in diesem Zusammenhang beispielsweise der Ansatz von privacy by design and by default<\/i> (vgl. Art. 25 DSGVO) gew\u00e4hlt, um die L\u00fccke zwischen den rechtlichen Anforderungen und deren praktischer Umsetzung zu schlie\u00dfen. Die Einhaltung von Gesetzen und Rechtsgrunds\u00e4tzen sollte nicht von den Nutzenden eines technischen Ger\u00e4ts abh\u00e4ngen, sondern die Technologie ausschlie\u00dflich so gestaltet sein, dass sie idealerweise nur auf legale Weise genutzt werden kann (vgl. F\u00e4hrmann\/Aden\/Arzt 2022: 318ff.). Dieser Ansatz kann auch auf andere neue Technologien jenseits der Datenverarbeitung angewandt werden. Ein genereller legality-by-design<\/i>-Ansatz (vgl. Hildebrandt 2020) kann auch f\u00fcr die Entwicklung und Nutzung von KI-Systemen relevant sein. Hierbei gilt es jedoch in einem ersten Schritt zu identifizieren, an welcher Stelle der Entwicklung dies umgesetzt und integriert werden kann, um in einem n\u00e4chsten Schritt die konkrete Ausgestaltung zu erarbeiten. W\u00e4hrend bei der Entwicklung von Modellen hier gro\u00dfe Schwierigkeiten der Implementierung eines solchen Ansatzes gesehen werden k\u00f6nnen, ist insbesondere der im Kompromissvorschlag des Europ\u00e4ischen Parlaments zum KI-VO-E neu eingef\u00fchrte Adressat*innenkreis der Deployer<\/i> von KI Systemen auch f\u00fcr diese \u00dcberlegungen interessant. Hier besteht demnach weiterer Forschungsbedarf.<\/p>\n

Letztlich kann davon ausgegangen werden, dass Transparenz<\/i>, Erkl\u00e4rbarkeit<\/i> und Fairness<\/i> bei der KI-Nutzung auch im Sicherheitsbereich keine g\u00e4nzlich unerreichbaren Ziele sind. Allerdings bleibt dabei die Schnittstelle zur Technik und die Implementation dieser Ziele im technischen Design die gr\u00f6\u00dfte Herausforderung \u2013 sowohl wegen des rasanten Tempos der KI-Entwicklung als auch wegen der Notwendigkeit, Entwickler*innen und Anwender*innen von der hohen Priorit\u00e4t dieser Ziele zu \u00fcberzeugen. Im Zusammenhang mit KI-Systemen treten zwar Spannungen zwischen rechtlicher Normierbarkeit von Fairness<\/i>, Transparenz<\/i> und Erkl\u00e4rbarkeit<\/i> und den Konkretisierungsbedarfen durch die Hard- und Softwareentwicklung und letztlich deren technischer Umsetzung auf, allerdings kann hier ebenfalls eine integrierte und interdisziplin\u00e4re Technikentwicklung sowie Partizipationsoffenheit zu grundrechtsorientierten L\u00f6sungen beitragen.<\/p>\n

 <\/p>\n

Steven Kleemann<\/strong> ist Jurist, wissenschaftlicher Mitarbeiter am Forschungsinstitut f\u00fcr \u00d6ffentliche und Private Sicherheit (F\u00d6PS Berlin) der Hochschule f\u00fcr Wirtschaft und Recht Berlin (HWR) und Doktorand an der Universit\u00e4t Potsdam.<\/em><\/p>\n

Dr. Simon david hirsbrunner<\/strong> leitet am Institut f\u00fcr Ethik in den Wissenschaften (IZEW) der Universit\u00e4t T\u00fcbingen Projekte zu den Themen KI-Ethik, Datenethik sowie algorithmische Polizeiarbeit. Er ist Sozial- und Medienwissenschaftler und forschte bisher im Bereich Human-Centered Computing an der Freien Universit\u00e4t Berlin, sowie bei der Wikimedia, am Potsdam Institut f\u00fcr Klimafolgenforschung, der Universit\u00e4t Potsdam und der Universit\u00e4t Siegen.<\/em><\/p>\n

Prof. Dr. Hartmut aden<\/strong> ist Jurist und Politikwissenschaftler. Er ist Professor f\u00fcr \u00d6ffentliches Recht, Europarecht, Politik- und Verwaltungswissenschaft an der Hochschule f\u00fcr Wirtschaft und Recht Berlin (HWR), zugleich Vizepr\u00e4sident f\u00fcr Forschung (seit 2020) und Mitglied des Forschungsinstituts f\u00fcr \u00d6ffentliche und Private Sicherheit (F\u00d6PS Berlin). Zudem ist er Mitglied der Redaktion der vor<\/b>g\u00e4nge. Website: www.hwr-berlin.de\/prof\/hartmut-aden<\/a>.<\/em><\/p>\n

 <\/p>\n

Literaturiv<\/sup><\/a><\/span><\/span><\/span><\/h3>\n

Aden, Hartmut\/Kleemann, Steven<\/i> 2023: Die Verantwortlichkeit f\u00fcr die Nutzung K\u00fcnstlicher Intelligenz im Sicherheitsbereich \u2013 Regelungsans\u00e4tze und Problemfelder des KI-Verordnungsentwurfs der EU-Kommission, in: Pfeffer, Kristin (Hrsg.): Smart Big Data Policing \u2013 Chancen, Risiken und regulative Herausforderungen,<\/i> G\u00f6ttingen, S. 51-64.<\/span><\/p>\n

Aden, Hartmut et al.<\/i> 2023: Faire globale Daten-Governance im Sicherheitsbereich? Risiken bei der internationalen Zusammenarbeit von Sicherheitsbeh\u00f6rden und eine m\u00f6gliche Rolle der Europ\u00e4ischen Union. In: Friedewald, Michael et al. (Hrsg.): Daten-Fairness in einer globalisierten Welt, Baden-Baden<\/i>, S. 285-315; doi.org\/10.5771\/9783748938743<\/a>.<\/span><\/p>\n

Ananny, Mike\/Crawford, Kate<\/i> 2018: Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability. In: New Media & Society<\/i>, Jg. 20, H.3, S. 973\u2013989.<\/span><\/p>\n

Barocas, Solon\/Hardt, Moritz\/Narayanan, Arvind<\/i> 2019: Fairness<\/i> and machine learning. Limitations and Opportunities, fairmlbook, https:\/\/fairmlbook.org\/<\/a>.<\/span><\/p>\n

Baumer, Eric PS<\/i> 2017: Toward human-centered algorithm design, in: Big Data & Society<\/i>, Jg. 4, H. 2, S. 1-12.<\/span><\/p>\n

Binns, Reuben et al.<\/i> 2018: It’s Reducing a Human Being to a Percentage: Perceptions of Justice in Algorithmic Decisions, in: Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems<\/i> (CHI ’18, Association for Computing Machinery, New York, NY, USA, Paper 377), S. 1\u201314. https:\/\/doi.org\/10.1145\/3173574.3173951<\/a>.<\/span><\/p>\n

Brandner, Lou Therese\/Hirsbrunner, Simon David<\/i> 2023: Algorithmische Fairness in der Polizeilichen Ermittlungsarbeit: Ethische Analyse von Verfahren des Maschinellen Lernens zur Gesichtserkennung, in: TATuP – Zeitschrift f\u00fcr Technikfolgenabsch\u00e4tzung in Theorie und Praxis<\/i>, Jg. 32, H.1, S. 24-29. https:\/\/doi.org\/10.14512\/tatup.32.1.2<\/a>4. <\/span><\/p>\n

Busuioc, Madalina\/Curtin, Deirdre\/Almada, Marco<\/i> 2023: Reclaiming transparency: contesting the logics of secrecy within the AI Act, in: European Law Open,<\/i> Jg. 2, H. 1, S. 79-105. https:\/\/doi.org\/10.1017\/elo.2022.47<\/a><\/span><\/p>\n

Coeckelbergh, Mark<\/i> 2020: AI Ethics, Cambridge.<\/span><\/p>\n

Ebers, Martin<\/i> 2021: Regulating Explainable AI in the European Union. An Overview of the Current Legal Framework(s), in: Liane Colonna\/Stanley Greenstein (Hrsg.): Nordic Yearbook of Law and Informatics 2020: Law in the Era of Artificial Intelligence<\/i>, Stockholm, S. 103-132.<\/span><\/p>\n

Ebers, Martin et al.<\/i> 2021: Der Entwurf f\u00fcr eine EU-KI-Verordnung: Richtige Richtung mit Optimierungsbedarf, in: Recht Digital<\/i> (RDi), S. 528-537.<\/span><\/p>\n

Europarat, Committee <\/i>o<\/i>n Artificial Intelligence<\/i> (CAI) 2023: Consolidated Working Draft of the Framework Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law (KI-Konvention), CAI(2023)18.<\/span><\/p>\n

European Parliament<\/i> 2023: European Parliament, Draft Compromise Amendments on the Draft Report\u201a Proposal for a regulation of the European Parliament and of the Council on harmonised rules on Artificial Intelligence (Artificial Intelligence Act) and amending certain Union Legislative Acts (COM(2021)0206 \u2013 C9 0146\/2021 \u2013 2021\/0106(COD))\u2019, KMB\/DA\/AS, 11 May 2023, https:\/\/www.europarl.europa.eu\/resources\/library\/media\/20230516RES90302\/20230516RES90302.pdf<\/a>.<\/span><\/p>\n

Europ\u00e4ische Kommission<\/i> 2019: Generaldirektion Kommunikationsnetze, Inhalte und Technologien, (2019). Ethik-Leitlinien f\u00fcr eine vertrauensw\u00fcrdige KI, Publications Office.<\/span><\/p>\n

Europ\u00e4ische Kommission<\/i> 2021: Entwurf einer Verordnung des Europ\u00e4ischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften f\u00fcr k\u00fcnstliche Intelligenz (Gesetz \u00fcber k\u00fcnstliche Intelligenz) und zur \u00c4nderung bestimmter Rechtsakte der Union, COM(2021) 206 final, 2021\/0106(COD).<\/span><\/p>\n

F\u00e4hrmann, Jan\/Aden, Hartmut\/Arzt, Clemens<\/i> 2022: Transparenz der polizeilichen Datenverarbeitung: Defizite und technische L\u00f6sungsans\u00e4tze, in: Friedewald Michael\/Kreutzer, Michael\/Hansen, Marit (Hrsg.): Selbstbestimmung, Privatheit und Datenschutz – Gestaltungsoptionen f\u00fcr einen europ\u00e4ischen Weg<\/i>, Wiesbaden, S. 303-326. https:\/\/doi.org\/10.1007\/978-3-658-33306-5_15<\/a>.<\/span><\/p>\n

Fischer Caroline\/Hirsbrunner Simon David\/Teckentrup Vanessa<\/i> 2022: Producing Open Data, in: Research Ideas and Outcomes<\/i>, Jg. 8, S. e86384, https:\/\/doi.org\/10.3897\/rio.8.e86384<\/a>.<\/span><\/p>\n

Gebru, Timnit et al.<\/i> 2021: Datasheets for datasets, in: Communications of the ACM<\/i>, Jg. 64, H. 12, S. 86-92.<\/span><\/p>\n

Gillies, Marco et al.<\/i> 2016: Human-Centred Machine Learning, in: Proceedings of the 2016 CHI Conference Extended Abstracts on Human Factors in Computing Systems<\/i> (CHI EA ’16), New York, S. 3558\u20133565. https:\/\/doi.org\/10.1145\/2851581.2856492<\/a>.<\/span><\/p>\n

Gonz\u00e1lez Fuster, Gloria<\/i> 2020: Artificial Intelligence and Law Enforcement: Impact on Fundamental Rights. Study requested by the LIBE Committee of the European Parliament PE 656.295.<\/span><\/p>\n

Gressel, C\u00e9line\/Orlowski, Alexander<\/i> 2019: Integrierte Technikentwicklung: Herausforderungen, Umsetzungsweisen und Zukunftsimpulse, in: TATuP \u2013 Zeitschrift f\u00fcr Technikfolgenabsch\u00e4tzung in Theorie und Praxis<\/i>, Jg. 28, H. 2, S. 71\u201372.<\/span><\/p>\n

Hildebrandt, Mireille<\/i> 2020: \u2018Legal by Design\u2019 or \u2018Legal Protection by Design\u2019?, Law for Computer Scientists and Other Folk, in: Oxford online edition,<\/i> Oxford Academic, 23 July 2020.<\/span><\/p>\n

Kusner, Matt J. et al.<\/i> 2017: Counterfactual Fairness, in: Advances in Neural Information Processing Systems, Bd. 30.,<\/i> Curran Associates, Inc., 2017. https:\/\/proceedings.neurips.cc\/paper\/2017\/hash\/a486cd07e4ac3d270571622f4f316ec5-Abstract.html<\/a>.<\/span><\/p>\n

Laux, Johann\/Wachter, Sandra\/Mittelstadt, Brent<\/i> 2023: Three Pathways for Standardisation and Ethical Disclosure by Default under the European Union Artificial Intelligence Act (February 20, 2023), http:\/\/dx.doi.org\/10.2139\/ssrn.4365079<\/a>.<\/span><\/p>\n

Liao, Q. Vera\/Gruen, Daniel\/Miller, Sarah<\/i> 2020: Questioning the AI: Informing Design Practices for Explainable AI User Experiences, in: Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems<\/i> (CHI ’20), New York, S. 1\u201315. https:\/\/doi.org\/10.1145\/3313831.3376590<\/a>.<\/span><\/p>\n

Linardatos, Dimitrios<\/i> 2022: Auf dem Weg zu einer europ\u00e4ischen KI-Verordnung \u2013 ein (kritischer) Blick auf den aktuellen Kommissionsentwurf, in: Zeitschrift f\u00fcr das Privatrecht der Europ\u00e4ischen Union (GPR)<\/i>, Jg. 19, H. 2, S. 58-70.<\/span><\/p>\n

Mehrabi, Ninareh et al.<\/i> 2021: A Survey on Bias and Fairness in Machine Learning, in: ACM Computing Surveys (CSUR)<\/i>, 54 (6), Article 115, S. 1-35.<\/span><\/p>\n

Microsoft<\/i> 2022: Responsible AI Impact Assessment Template, https:\/\/blogs.microsoft.com\/wp-content\/uploads\/prod\/sites\/5\/2022\/06\/Microsoft-RAI-Impact-Assessment-Template.pdf.<\/a><\/span><\/p>\n

Mitchell, Margaret et al.<\/i> 2019: Model Cards for Model Reporting, in: Proceedings of the Conference on Fairness, Accountability, and Transparency (FAT* ’19), New York, S. 220\u2013229. https:\/\/doi.org\/10.1145\/3287560.3287596<\/a>.<\/span><\/p>\n

Mittelstadt, Brent\/Wachter, Sandra\/Russell, Chris<\/i> 2023: The Unfairness of Fair Machine Learning: Levelling down and strict egalitarianism by default (January 20, 2023), in: Michigan Technology Law Review<\/i> (forthcoming).<\/span><\/p>\n

Palantir<\/i> o. D.: Palantir Technologies\u2019 Approach to AI Ethics, https:\/\/www.palantir.com\/pcl\/palantir-ai-ethics\/<\/a>.<\/span><\/p>\n

Qiu, Shilin\/Qihe Liu\/Shijie Zhou\/Chunjiang Wu<\/i> 2019: Review of Artificial Intelligence Adversarial Attack and Defense Technologies, in: Applied Sciences<\/i>, Jg. 5, H. 9, 909. https:\/\/doi.org\/10.3390\/app9050909<\/a>.<\/span><\/p>\n

Sultanow, Eldar\/Bauckhage, Christian\/ Knopf, Christian\/Piatkowski, Nico<\/i> 2022: Sicherheit von Quantum Machine Learning, in: Wirtschaftsinformatik & Management<\/i>, Jg. 14, H. 2, S. 144-152.<\/span><\/p>\n

Turilli, Matteo\/Floridi, Luciano<\/i> 2009: The ethics of information transparency, in: Ethics and Information Technology<\/i>, Jg. 1, H. 2, S. 105\u2013112, https:\/\/doi.org\/10.1007\/s10676-009-9187-9<\/a>.<\/span><\/p>\n

Wachter, Sandra\/Mittelstadt, Brent\/Russell, Chris<\/i> 2021: Why Fairness Cannot Be Automated: Bridging the Gap Between EU Non-Discrimination Law and AI (March 3, 2020), in: Computer Law & Security Review<\/i>, Jg. 41, 105567, https:\/\/dx.doi.org\/10.2139\/ssrn.3547922<\/a>.<\/span><\/p>\n

Anmerkungen:<\/span><\/h3>\n
\n

i <\/a>Dieser Beitrag basiert auf Erkenntnissen aus dem Verbundforschungsprojekt VIKING (Vertrauensw\u00fcrdige K\u00fcnstliche Intelligenz f\u00fcr polizeiliche Anwendungen, 2021 bis 2024\/25), gef\u00f6rdert vom Bundesministerium f\u00fcr Bildung und Forschung (BMBF, F\u00f6rder-Kennzeichen 13N16242 (HWR\/F\u00d6PS Berlin) bzw. 13N16243 (IZEW Univ. T\u00fcbingen).<\/p>\n<\/div>\n

\n

ii <\/a>Bspw.: Antirassismusrichtlinie 2000\/43\/EG; Gleichbehandlungsrichtlinie 2006\/54\/EG; Vierte Gleichstellungsrichtlinie 2004\/113\/EG; Gleichbehandlungsrahmenrichtlinie 2000\/78\/EG.<\/p>\n<\/div>\n

\n

iii <\/a>Vgl. dazu bspw. Europ\u00e4ische Kommission (2019), Ethik-Leitlinien f\u00fcr eine vertrauensw\u00fcrdige KI, S. 22, wo Transparenz<\/i> als \u201eeng mit dem Grundsatz der Erkl\u00e4rbarkeit verbunden\u201c beschrieben wird oder in der KI-Konvention auf S. 4 anerkannt wird, dass es notwendig ist \u201eto promote transparency, explainability, [\u2026] in the design, development, use and decommissioning of artificial intelligence systems\u201c, genauso wie der KI-VO-E in Art. 13 vorsieht, dass \u201eHochrisiko-KI-Systeme [\u2026] so konzipiert und entwickelt [werden], dass ihr Betrieb hinreichend transparent ist, damit die Nutzer die Ergebnisse des Systems angemessen interpretieren und verwenden k\u00f6nnen\u201c.<\/p>\n<\/div>\n

\n

iv <\/a>Alle Online-Links sind auf dem Stand Oktober 2023.<\/p>\n<\/div>\n","protected":false},"featured_media":0,"template":"","categories":[37,2952],"tags":[3353,3351,3352,3204,3286,667],"autoren":[3354],"publikationen":[3345],"class_list":["post-19089","publikation","type-publikation","status-publish","hentry","category-europa-internationales","category-kuenstliche-intelligenz","tag-erklaerbarkeit","tag-europaeische-union","tag-fairness","tag-kuenstliche-intelligenz","tag-transparenz","tag-vorgaenge-artikel","autoren-steven-kleemann-und-simon-hirsbrunner-und-hartmut-aden","publikationen-vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte"],"acf":[],"yoast_head":"\nFairness, Erkl\u00e4rbarkeit und Transparenz bei KI-Anwendungen im Sicherheitsbereich \u2013 ein unm\u00f6gliches Unterfangen? - Humanistische Union<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Fairness, Erkl\u00e4rbarkeit und Transparenz bei KI-Anwendungen im Sicherheitsbereich \u2013 ein unm\u00f6gliches Unterfangen? - Humanistische Union\" \/>\n<meta property=\"og:description\" content=\"In der ethischen, rechtswissenschaftlichen und politischen Diskussion \u00fcber Anforderungen an KI-Anwendungen spielen Fairness, Erkl\u00e4rbarkeit und Transparenz als Konzepte und Postulate eine zentrale Rolle. Die Erf\u00fcllung dieser Postulate wird zumeist als Voraussetzung f\u00fcr Vertrauen in KI-Anwendungen angesehen. Dieser Beitrag diskutiert die Zusammenh\u00e4nge, Unterschiede und Abh\u00e4ngigkeiten zwischen diesen Konzepten aus einer interdisziplin\u00e4ren rechts- und politikwissenschaftlichen sowie ethischen [weiterlesen]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\/\" \/>\n<meta property=\"og:site_name\" content=\"Humanistische Union\" \/>\n<meta property=\"article:modified_time\" content=\"2026-03-20T13:48:48+00:00\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:site\" content=\"@humunion\" \/>\n<meta name=\"twitter:label1\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data1\" content=\"40\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\\\/publikation\\\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\\\/\",\"url\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\\\/publikation\\\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\\\/\",\"name\":\"Fairness, Erkl\u00e4rbarkeit und Transparenz bei KI-Anwendungen im Sicherheitsbereich \u2013 ein unm\u00f6gliches Unterfangen? - Humanistische Union\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/#website\"},\"datePublished\":\"2024-01-22T10:31:20+00:00\",\"dateModified\":\"2026-03-20T13:48:48+00:00\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\\\/publikation\\\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\\\/publikation\\\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\\\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\\\/publikation\\\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Publikationen\",\"item\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"vorg\u00e4nge\",\"item\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/\"},{\"@type\":\"ListItem\",\"position\":3,\"name\":\"vorg\u00e4nge Nr. 242: K\u00fcnstliche Intelligenz und Menschenrechte\",\"item\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\\\/\"},{\"@type\":\"ListItem\",\"position\":4,\"name\":\"Fairness, Erkl\u00e4rbarkeit und Transparenz bei KI-Anwendungen im Sicherheitsbereich \u2013 ein unm\u00f6gliches Unterfangen?\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/#website\",\"url\":\"https:\\\/\\\/www.humanistische-union.de\\\/\",\"name\":\"Humanistische Union\",\"description\":\"\",\"publisher\":{\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.humanistische-union.de\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/#organization\",\"name\":\"Humanistische Union e.V.\",\"url\":\"https:\\\/\\\/www.humanistische-union.de\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/www.humanistische-union.de\\\/wp-content\\\/uploads\\\/2023\\\/09\\\/HU-LOGO-blau_RGB-high-scaled-e1704725806773.jpg\",\"contentUrl\":\"https:\\\/\\\/www.humanistische-union.de\\\/wp-content\\\/uploads\\\/2023\\\/09\\\/HU-LOGO-blau_RGB-high-scaled-e1704725806773.jpg\",\"width\":1000,\"height\":536,\"caption\":\"Humanistische Union e.V.\"},\"image\":{\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/x.com\\\/humunion\",\"https:\\\/\\\/mastodon.social\\\/@humunion\",\"https:\\\/\\\/bsky.app\\\/profile\\\/humanistischeunion.bsky.social\"]}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Fairness, Erkl\u00e4rbarkeit und Transparenz bei KI-Anwendungen im Sicherheitsbereich \u2013 ein unm\u00f6gliches Unterfangen? - Humanistische Union","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\/","og_locale":"de_DE","og_type":"article","og_title":"Fairness, Erkl\u00e4rbarkeit und Transparenz bei KI-Anwendungen im Sicherheitsbereich \u2013 ein unm\u00f6gliches Unterfangen? - Humanistische Union","og_description":"In der ethischen, rechtswissenschaftlichen und politischen Diskussion \u00fcber Anforderungen an KI-Anwendungen spielen Fairness, Erkl\u00e4rbarkeit und Transparenz als Konzepte und Postulate eine zentrale Rolle. Die Erf\u00fcllung dieser Postulate wird zumeist als Voraussetzung f\u00fcr Vertrauen in KI-Anwendungen angesehen. Dieser Beitrag diskutiert die Zusammenh\u00e4nge, Unterschiede und Abh\u00e4ngigkeiten zwischen diesen Konzepten aus einer interdisziplin\u00e4ren rechts- und politikwissenschaftlichen sowie ethischen [weiterlesen]","og_url":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\/","og_site_name":"Humanistische Union","article_modified_time":"2026-03-20T13:48:48+00:00","twitter_card":"summary_large_image","twitter_site":"@humunion","twitter_misc":{"Gesch\u00e4tzte Lesezeit":"40\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\/","url":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\/","name":"Fairness, Erkl\u00e4rbarkeit und Transparenz bei KI-Anwendungen im Sicherheitsbereich \u2013 ein unm\u00f6gliches Unterfangen? - Humanistische Union","isPartOf":{"@id":"https:\/\/www.humanistische-union.de\/#website"},"datePublished":"2024-01-22T10:31:20+00:00","dateModified":"2026-03-20T13:48:48+00:00","breadcrumb":{"@id":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/fairness-erklaerbarkeit-und-transparenz-bei-ki-anwendungen-im-sicherheitsbereich-ein-unmoegliches-unterfangen\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Publikationen","item":"https:\/\/www.humanistische-union.de\/publikationen\/"},{"@type":"ListItem","position":2,"name":"vorg\u00e4nge","item":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/"},{"@type":"ListItem","position":3,"name":"vorg\u00e4nge Nr. 242: K\u00fcnstliche Intelligenz und Menschenrechte","item":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/"},{"@type":"ListItem","position":4,"name":"Fairness, Erkl\u00e4rbarkeit und Transparenz bei KI-Anwendungen im Sicherheitsbereich \u2013 ein unm\u00f6gliches Unterfangen?"}]},{"@type":"WebSite","@id":"https:\/\/www.humanistische-union.de\/#website","url":"https:\/\/www.humanistische-union.de\/","name":"Humanistische Union","description":"","publisher":{"@id":"https:\/\/www.humanistische-union.de\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.humanistische-union.de\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/www.humanistische-union.de\/#organization","name":"Humanistische Union e.V.","url":"https:\/\/www.humanistische-union.de\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.humanistische-union.de\/#\/schema\/logo\/image\/","url":"https:\/\/www.humanistische-union.de\/wp-content\/uploads\/2023\/09\/HU-LOGO-blau_RGB-high-scaled-e1704725806773.jpg","contentUrl":"https:\/\/www.humanistische-union.de\/wp-content\/uploads\/2023\/09\/HU-LOGO-blau_RGB-high-scaled-e1704725806773.jpg","width":1000,"height":536,"caption":"Humanistische Union e.V."},"image":{"@id":"https:\/\/www.humanistische-union.de\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/x.com\/humunion","https:\/\/mastodon.social\/@humunion","https:\/\/bsky.app\/profile\/humanistischeunion.bsky.social"]}]}},"_links":{"self":[{"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/publikation\/19089","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/publikation"}],"about":[{"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/types\/publikation"}],"wp:attachment":[{"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/media?parent=19089"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/categories?post=19089"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/tags?post=19089"},{"taxonomy":"autoren","embeddable":true,"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/autoren?post=19089"},{"taxonomy":"publikationen","embeddable":true,"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/publikationen?post=19089"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}