{"id":19091,"date":"2024-01-22T11:44:54","date_gmt":"2024-01-22T10:44:54","guid":{"rendered":"https:\/\/www.humanistische-union.de\/?post_type=publikation&p=19091"},"modified":"2026-03-20T14:49:44","modified_gmt":"2026-03-20T13:49:44","slug":"gpai-modelle-und-das-erste-ki-gesetz-der-welt","status":"publish","type":"publikation","link":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\/","title":{"rendered":"GPAI-Modelle und das erste KI-Gesetz der Welt"},"content":{"rendered":"

Es war ein z\u00e4hes Ringen in der Europ\u00e4ischen Union, um Regelungen eine Verordnung zu K\u00fcnstlichen Intelligenz zu finden. Es geht darum KI-Systeme so zu regulieren, dass Pers\u00f6nlichkeitsrechte und das Prinzip des Diskriminierungsverbots eingehalten werden. Doch Vieles ist dabei noch strittig. Rolf Schwartmann und Moritz K\u00f6hler gehen einigen der strittigen Details auf den Grund. Dabei betonen Sie, dass der Mensch (und nicht die Maschine) im Mittelpunkt der Betrachtung stehen m\u00fcssen. Daher ist es auch n\u00f6tig, dass Nutzer*innen die Wirkweise einer KI nachvollziehen k\u00f6nnen.<\/em><\/p>\n

 <\/p>\n

Nach einem Verhandlungsmarathon von fast drei Tagen Anfang Dezember 2023 scheint die Zukunft der KI-Verordnung gesichert. Die Vertreter*innen der Mitgliedstaaten der Europ\u00e4ischen Union, die Kommission und das Europaparlament haben z\u00e4h gerungen und wollen, dass die EU ein starkes und gutes Signal f\u00fcr eine vertrauensw\u00fcrdige KI in die Welt sendet.<\/p>\n

Im Detail ist noch vieles streitig (Hacker 2023). Im Grundsatz soll es einen risikoorientierten Ansatz geben, der gestufte Regeln abh\u00e4ngig vom Risiko vorsieht, das von einer K\u00fcnstlichen Intelligenz ausgeht. Anwendungen mit minimalem Risiko, die etwa Produkte zum Kauf empfehlen, sollen von strengen und speziellen Verpflichtungen befreit sein (Europ\u00e4ische Kommission 2023). Risikoreiche Anwendungen, die in der Verordnung so pr\u00e4zise wie m\u00f6glich benannt werden, m\u00fcssen strenge und spezifische Verpflichtungen erf\u00fcllen. Das gilt etwa f\u00fcr KI-Systeme, die Einfluss auf den Zugang zu Bildungseinrichtungen haben, oder f\u00fcr solche, die in der Medizin oder in der Rechtspflege eingesetzt werden.i<\/sup><\/a> Sie m\u00fcssen nachweislich robust und st\u00f6rungsfrei laufen, ihre Betreiber*innen m\u00fcssen deren Aktivit\u00e4ten transparent machen sowie protokollieren, und sie m\u00fcssen Sicherheit gegen\u00fcber Hackerangriffen aufweisen. Manche Systeme sind auch ganz verboten, weil sie ein nicht akzeptables Risiko aufweisen. Das gilt etwa f\u00fcr Sprachsysteme, die Menschen manipulieren oder gar Kinder negativ beeinflussen k\u00f6nnen oder f\u00fcr Anwendungen, die Staaten einsetzen k\u00f6nnen, um B\u00fcrger*innen zu bewerten (Art. 5 KI-VO-E).<\/p>\n

Unabh\u00e4ngig von ihrem konkreten Einsatzzweck haben die genannten Anwendungen gemeinsam, dass sie auf gro\u00dfen Datenpools fu\u00dfen. Aus ihnen beziehen die genannten Systeme ihr \u201eWissen\u201c. Diese Datenpools bezeichnet der Entwurf der KI-Verordnung als General Purpose KI (GPAI) (Europ\u00e4ische Kommission 2023). Damit ist gemeint, dass diese Datenpools nicht darauf spezialisiert sind, bestimmte Aussagen hervorzubringen oder zu bestimmten Zwecken eingesetzt zu werden. Es handelt sich bei diesen sogenannten Basismodellen um m\u00e4chtige Modelle, denen \u00fcber das \u201eF\u00fcttern\u201c mit Daten eine allgemeine Sprachverarbeitungskompetenz antrainiert wurde. Ihre eigentliche Spezialit\u00e4t ist nicht, dass sie Wissen enthalten, sondern, dass sie aus Wissensdatenbanken mit Mitteln der Wahrscheinlichkeitsrechnung sinnvolle und zusammenh\u00e4ngende Texte hervorbringen. Sie arbeiten sogenannten Prompts, sprich Anfragen, ab. Je spezifischer die Frage ist, desto pr\u00e4ziser ist die Antwort. Aus der Datenbasis wird keine Antwort auf eine Frage generiert, mit der die Datenbasis etwas Unrechtes zum Ausdruck bringen m\u00f6chte.<\/p>\n

Allerdings bergen diese Datenmodelle ein besonders Risiko. Sie liefern zwar Texte, die sich f\u00fcr den menschlichen Nutzer*innen als sinnvolle und zusammenh\u00e4ngende Aussage darstellen. Das System produziert diese Texte allerdings nicht in einem Sinnzusammenhang, sondern Wort f\u00fcr Wort auf der Basis von Wahrscheinlichkeiten. \u00dcberspitzt und vereinfacht gesagt treffen bei der Anwendung eines KI-Systems durch eine*n menschlichen Nutzer*in zwei gegenl\u00e4ufige Modelle aufeinander: Dialektik und Stochastik. Dialektik hilft nach einem sehr vereinfachten Verst\u00e4ndnis, der in unbegrenzten M\u00f6glichkeitsr\u00e4umen sich bewegenden menschlichen Vernunft, \u00fcber aufeinander bezogene Gr\u00fcnde (These) und Gegengr\u00fcnde (Antithese) zu Einsichten (Synthese) zu gelangen. Stochastik hingegen ist, abermals vereinfacht ausgedr\u00fcckt, ein Bereich der Mathematik, der Wahrscheinlichkeitstheorie und Statistik verwendet. Stochastik untersucht verk\u00fcrzt gesagt die mathematische Modellierung von zuf\u00e4lligen Ereignissen. Antworten von Robotern auf menschliche Fragen k\u00f6nnen allenfalls eine Simulation der dialektischen Methode sein, da ihnen menschliche Vernunft fremd ist (Schwartmann 2023: 132). Der Mensch ist im Gegensatz dazu in der Lage, vern\u00fcnftig zu sein und danach zu handeln. Er muss entscheiden, ob er den Impulsen seines limbischen Systems ohne Reflexion nachgibt oder sein zugegebenerma\u00dfen nicht vorurteilsfreies Denken hinterfragt, bevor er danach handelt. (Hansen\/K\u00f6hler\/Schwartmann 2023)<\/p>\n

Der Mangel an Vernunft als Filter der auf Basis von Wahrscheinlichkeiten gefundenen Ergebnisse f\u00fchrt dazu, dass die KI-Systeme bisweilen Texte generieren, deren Aussagen mit dem Anstandsgef\u00fchl der Gesellschaft unvereinbar, sinnlos oder schlicht falsch sind. Die Gr\u00fcnde f\u00fcr derartige Aussagen sind mannigfaltig: Sie k\u00f6nnen auf Verzerrungen in der Datenbasis zur\u00fcckzuf\u00fchren sein, etwa wenn eine bildgenerierende KI auf den Befehl \u201eZeichne einen Doktor\u201c stets einen wei\u00dfen, m\u00e4nnlichen Arzt generiert (Hansen\/K\u00f6hler\/Schwartmann 2023). Oder sie k\u00f6nnen auf L\u00fccken in der Datenbasis beruhen, welche die KI fehlerhaft ausf\u00fcllt, um dem Befehl des Nutzenden gerecht zu werden. So wird aus dem Landesdatenschutzbeauftragten f\u00fcr Baden-W\u00fcrttemberg ein international renommierter Ornithologe. Schlie\u00dflich kann der menschliche Nutzende die Schwachstellen dieser Technologie auch bewusst ausnutzen: Provoziert er das KI-System n\u00e4mlich durch einen Prompt dazu, fragw\u00fcrdige Ergebnisse zu liefern, dann wird es diese aufgrund der mathematischen Gesetze der Wahrscheinlichkeitsrechnung auch liefern. So wird das KI-System bei Eingabe eines entsprechenden Prompts den Satz \u201eDas Sch\u00f6ne an der Diskriminierung von Schwachen ist, \u2026\u201c sprachlich sinnvoll, aber menschenrechtlich und moralisch inakzeptabel vervollst\u00e4ndigen. Will man derartige Ergebnisse verhindern, muss man den Sprachmodellen diese Antworten abtrainieren.<\/p>\n

Ein entscheidender Streitpunkt der KI-Verordnung war es, wer die Verantwortung f\u00fcr derartige Ergebnisse der KI tr\u00e4gt. M\u00fcssen die Herstellerfirmen ihre Datenmodelle so programmieren, dass sie Werte befolgen? In diesem Fall m\u00fcssten staatliche Strukturen dar\u00fcber entscheiden, welche Ergebnisse die Maschine liefern darf und welche Prompts sie blocken sollte. Das mag aus b\u00fcrgerrechtlicher Perspektive abzulehnen sein. Zu gro\u00df scheint die Manipulationsgefahr. Nicht umsonst hat das Bundesverfassungsgericht in jahrzehntelanger Rechtsprechung den Grundsatz der Staatsferne im Rundfunk entwickelt (BVerfGE 12, 205; 31, 314; 57, 295; 121, 30; 136, 9). Alternativ k\u00f6nnte der Gesetzgeber den Programmierer*innen die Direktive auf den Weg geben, dass die Datenmodelle keine moralisch verwerflichen oder rechtlich unzul\u00e4ssigen Ergebnisse generieren d\u00fcrfen. Das f\u00fchrt allerdings dazu, dass die Programmierer*innen die Macht bekommen, zwischen Gut und B\u00f6se zu unterscheiden. Man w\u00fcrde also die Entscheidungsgewalt \u00fcber die Grenzen des Sagbaren in die H\u00e4nde Privater legen. Das w\u00e4re m\u00f6glicherweise noch vertretbar, wenn man diese Grenze pr\u00e4zise ziehen k\u00f6nnte. In F\u00e4llen mit Bezug zum Pers\u00f6nlichkeitsrecht etwa werden aber Probleme deutlich: Hier liegen die Grenzen zwischen erlaubter Meinungs\u00e4u\u00dferung und Pers\u00f6nlichkeitsrechtsverletzung besonders nah beieinander, und sie verschieben sich aufgrund neuer Rechtsprechung st\u00e4ndig. KI-Systeme sind bislang weit davon entfernt, die komplexen rechtlichen Abw\u00e4gungen im Bereich des Pers\u00f6nlichkeitsrechts vornehmen, das hei\u00dft mathematisch simulieren zu k\u00f6nnen. Es darf aber zugleich bezweifelt werden, dass solche Abw\u00e4gungen in der demokratischen Gesellschaft jemals von einer KI \u00fcbernommen werden sollten.<\/p>\n

Sollten die Datenmodelle also unreguliert bleiben? Damit w\u00e4ren die Nutzer*innen in die Verantwortung gezogen. Es w\u00fcrde somit stets dem Einzelnen obliegen, die auf Basis seiner Prompts generierten Ergebnisse auf m\u00f6gliche Rechtsverletzungen zu pr\u00fcfen und seine Handlungen an die Ergebnisse dieser Pr\u00fcfung anzupassen. Problematisch sind dabei kognitive Verzerrungen, die typischerweise beim Umgang mit den Ergebnissen einer KI auftreten k\u00f6nnen. Zu nennen ist zun\u00e4chst der Automatisierungsbias: Bereits der Entwurf der KI-Verordnung wusste um die m\u00f6gliche \u201eNeigung zu einem \u00fcberm\u00e4\u00dfigen oder automatischen Vertrauen in das von einem Hochrisiko-KI-System hervorgebrachte Ergebnis\u201c (Art. 14 Abs. 4 Buchst. B KI-VO-E). Wenn es eine scheinbar vertrauensw\u00fcrdige Instanz gibt, die f\u00fcr den Menschen Entscheidungen trifft, ist der Mensch also gerne bereit, dieser Instanz zu vertrauen und sich selbst, zumindest in der eigenen Wahrnehmung, einer Verantwortung zu entziehen. Die Gefahr, einem Automatisierungsbias zu unterliegen, d\u00fcrfte besonders gro\u00df sein, wenn KI-Systeme Ergebnisse hervorbringen, die derart ausgereift formuliert sind, dass beim Menschen der Eindruck objektiver Wahrheit entsteht und wenn Entwickler*innen diesen Eindruck dadurch best\u00e4rken, dass sie das KI-System in der Ich-Form kommunizieren lassen (Hansen\/K\u00f6hler\/Schwartmann 2023).<\/p>\n

Neben dem Automatisierungsbias steht auch der sogenannte Ankereffekt einer \u00dcbertragung der vollen Verantwortung auf die Nutzer*innen entgegen. Der Ankereffekt beschreibt das psychologische Ph\u00e4nomen, dass Menschen in ihrer Entscheidungsfindung unbewusst von vorhandenen Umgebungsinformationen beeinflusst werden (Kahnemann 2012: 152). Als Ursache gilt einerseits eine unzureichende Korrektur des vom Anker gesetzten Ergebnisvorschlags (Tversky\/Kahnemann 1974: 1124ff.). Andererseits werden im Gehirn selektiv solche Ged\u00e4chtnisinhalte aktiviert, die mit dem Anker kompatibel sind (Strack\/Mussweiler 1997: 437ff.). Einfach gesagt: Wer noch keine gefestigte Meinung hat, kann sich dem Ankereffekt nicht entziehen. Der Ankereffekt ist sogar messbar, wenn der Anker offensichtlich zuf\u00e4llig gew\u00e4hlt wurde und damit keinerlei Informationsgehalt in sich tr\u00e4gt. Der Psychologe Daniel Kahneman beschreibt in seinem Buch Schnelles Denken, langsames Denken<\/i> ein Experiment: Richter sollten eine fiktive Ladendiebin zu einer Freiheitsstrafe verurteilen. Vor der Urteilsfindung warfen sie einen gezinkten W\u00fcrfel, der stets eine Drei oder eine Neun zeigte. Richter, die eine Neun gew\u00fcrfelt hatten, verurteilten die Ladendiebin im Durchschnitt zu einer Freiheitsstrafe von acht Monaten. Fiel der W\u00fcrfel auf Drei, lautete das Urteil auf f\u00fcnf Monate. (Kahnemann 2012: 159ff.) Was erg\u00e4be ein Experiment, bei dem nicht ein W\u00fcrfel eine scheinbar zuf\u00e4llige Zahl anzeigt, sondern eine KI ein eloquent ausgearbeitetes Ergebnis vorschl\u00e4gt?<\/p>\n

Die Komplexit\u00e4t des Problems und die unvorhersehbaren Folgen der Entscheidung f\u00fchrten dazu, dass die Frage der Regulierung von GPAI-Modellen im Trilog bis zuletzt diskutiert wurde. Dabei wurden im Wesentlichen drei Ansichten vertreten: Insbesondere die Hersteller und Anbieter*innen der Foundation Models lehnten eine Regulierung g\u00e4nzlich ab. Sie wollten die Betreiber*innen und die Nutzer*innen in die Verantwortung ziehen. Sie beriefen sich vor allem darauf, dass Herstellerfirmen und Anbieter*innen nicht daf\u00fcr verantwortlich seien, welche Ziele Betreiber*innen und Nutzende mit dem Einsatz der GPAI-Modelle verfolgen. Schlie\u00dflich sei auch der*die Anbieter*in eines Hammers nicht verantwortlich, wenn das Werkzeug als Mordwaffe eingesetzt wird. Das Europ\u00e4ische Parlament vertrat die Gegenposition. Es wollte die Anbieter*innen von GPAI-Modellen verpflichten, bestimmte Mindestanforderungen zu erf\u00fcllen. Diese Pflichten sollten die Anbieter*innen von GPAI-Modellen unabh\u00e4ngig davon treffen, ob sie das Modell eigenst\u00e4ndig oder eingebettet in ein KI-System auf dem Markt bereitstellen. Hierzu wurde angef\u00fchrt, dass nur durch eine sachgerechte Zuweisung von Verantwortlichkeiten entlang der gesamten KI-Wertsch\u00f6pfungskette die Grundrechte der Betroffenen gesch\u00fctzt werden k\u00f6nnen (Konferenz der unabh\u00e4ngigen Datenschutzaufsichtsbeh\u00f6rden des Bundes und der L\u00e4nder 2023). Kurz vor Beginn der letzten Runde der Trilog-Verhandlungen ver\u00f6ffentlichten Deutschland, Frankreich und Italien zudem ein gemeinsames Positionspapier, in dem sie eine verpflichtende Selbstregulierung der Entwickler von GPAI-Modellen im Rahmen eines Verhaltenskodexes vorschlugen. Dazu sollten alle Entwickler der GPAI-Modelle verpflichtet werden, sogenannte Model Cards zu definieren und zu ver\u00f6ffentlichen. Mithilfe der auf den Model Cards angegebenen Informationen sollte es m\u00f6glich sein, die Funktionsweise des einzelnen Modells, seine F\u00e4higkeiten und seine Grenzen zu verstehen. So sollte es anderen Entwicklerfirmen erm\u00f6glicht werden, Verst\u00f6\u00dfe gegen den aufgestellten Verhaltenskodex zu erkennen und zu melden.<\/p>\n

Am Ende der Verhandlungen konnte sich das Parlament mit seiner Forderung nach einer harten gesetzlichen Regulierung der GPAI-Entwickler durchsetzen (Europ\u00e4isches Parlament 2023). Ergebnis der Trilog-Verhandlungen war mit Blick auf die Regulierung von GPAI ein zweistufiger Ansatz. Demnach treffen die Entwicklerfirmen kleinerer GPAI-Modelle \u2013 wie das deutsche Unternehmen Aleph Alpha \u2013 haupts\u00e4chlich Transparenzpflichten. Sie m\u00fcssen technische Dokumentationen erstellen und diese an Aufsichtsbeh\u00f6rden und an Unternehmen weitergeben, die das Modell in eigene KI-Systeme einbinden wollen. Auf der zweiten Stufe der Regulierung stehen die sogenannten systemischen GPAI-Modelle. Diese werden zun\u00e4chst auf Basis verschiedener Kriterien, unter anderem der zum Training ben\u00f6tigten Rechenleistung, von der Kommission ausgew\u00e4hlt und unterliegen dann weitergehenden Pflichten. Dazu geh\u00f6ren neben der technischen Dokumentation verpflichtende Ma\u00dfnahmen zur Gew\u00e4hrleistung von Cybersecurity sowie eine interne Evaluierung des Modells und ein verpflichtender Mechanismus zur Meldung von Vorf\u00e4llen im Rahmen des Trainings oder des Betriebs des GPAI-Modells.ii<\/sup><\/a> Die konkreten Pflichten f\u00fcr die Entwickler systemischer GPAI-Modellen sollen in Zusammenarbeit zwischen Kommission, Wissenschaft, Zivilgesellschaft und Industrie entwickelt werden. (Europ\u00e4ische Kommission 2023)<\/p>\n

Im Rahmen der Regulierung wurde allerdings darauf verzichtet, Hersteller von GPAI gesetzlich dazu zu verpflichten, KI-Anwendungen so zu trainieren, dass bei deren Einsatz keine Rechtsverletzungen auftreten. Kommt es aufgrund der Ergebnisse eines KI-Systems zu Rechtsverletzungen, ist daher entscheidend, an welchem Punkt der Lieferkette der Fehler eingetreten ist: In Betracht kommt dann eine Haftung des Entwicklers des GPAI-Models, eine Haftung des Unternehmens, das eine Hochrisiko-Anwendung auf Basis des GPAI-Models anbietet oder eine Haftung des*der einzelnen Nutzer*in. Zentral wird insofern Artikel 28 der KI-Verordnung sein, der die Verantwortung entlang der Wertsch\u00f6pfungskette zuweisen soll. Abschlie\u00dfend wird die Vorschrift die Frage der Verantwortlichkeit indes kaum kl\u00e4ren k\u00f6nnen. Erforderlich ist vielmehr eine KI-Haftungs-Verordnung, die bereits geplant war, aufgrund der stockenden Verhandlungen zur KI-Verordnung allerdings pausiert wurde und erst nach den Wahlen zum EU-Parlament im kommenden Jahr angegangen werden kann.iii<\/sup><\/a> Jedenfalls solange eine Zuweisung der Verantwortlichkeiten entlang der KI-Wertsch\u00f6pfungskette noch nicht feststeht, ist jede nutzende Person dazu berufen, die Ergebnisse seiner Prompts kritisch zu hinterfragen und auf etwaige Rechtsverletzungen zu \u00fcberpr\u00fcfen.<\/p>\n

Wesentliche Voraussetzungen einer verl\u00e4sslichen Kontrolle von KI und einer sinnvollen Haftungszuweisung sind zumindest grunds\u00e4tzlich Transparenz und Nachvollziehbarkeit der Wirkweise der Technik. Erst wenn die Gesellschaft wei\u00df, wie die Dienste jedenfalls grunds\u00e4tzlich funktionieren, kann sie sich \u00fcber wirksame Regeln f\u00fcr deren Einsatz einigen. Die regulativen Leitlinien, auf die man sich am Ende der Trilog-Verhandlungen geeinigt hat, sind daher jedenfalls im Grundsatz zu begr\u00fc\u00dfen. Ihre Wirksamkeit wird von der konkreten Ausgestaltung der Regulierung abh\u00e4ngen, welche die Mitarbeiter des Parlaments in den kommenden Wochen und Monaten in den technischen Gespr\u00e4chen erarbeiten m\u00fcssen. L\u00e4uft alles nach Plan, soll der Gesetzestext bis Anfang Februar 2024 stehen und die KI-Verordnung noch vor der Europawahl im Juni 2024 verabschiedet werden.<\/p>\n

 <\/p>\n

Prof. Dr. Rolf Schwartmann<\/strong> ist Leiter der K\u00f6lner Forschungsstelle f\u00fcr Medienrecht an der TH K\u00f6ln und Vorsitzender der Gesellschaft f\u00fcr Datenschutz und Datensicherheit (GDD) e. V. Er wurde 2018 in die Datenethikkommission der Bundesregierung berufen.<\/em><\/p>\n

Moritz K\u00f6hler<\/strong> ist wissenschaftlicher Mitarbeiter der K\u00f6lner Forschungsstelle f\u00fcr Medienrecht an der TH K\u00f6ln.<\/em><\/p>\n

 <\/p>\n

Literatur<\/span><\/span><\/h3>\n

Europ\u00e4ische Kommission<\/i> 2023: Pressemitteilung der Europ\u00e4ische Kommission vom 09.12.2023, https:\/\/ec.europa.eu\/commission\/presscorner\/detail\/%20en\/ip_23_6473<\/a>.<\/span><\/p>\n

Hacker, Philipp<\/i> 2023: What\u2019s Missing from the EU AI Act, in: Verfassungsblog<\/i> vom 13. Dezember 2023, https:\/\/verfassungsblog.de\/whats-missing-from-the-eu-ai-act\/.<\/a><\/span><\/p>\n

Hansen, Marit\/K\u00f6hler, Moritz\/Schwartmann, Rolf<\/i> 2023: Was gegen die Voreingenommenheit der KI-Systeme hilft, in: Frankfurter Allgemeine Zeitung<\/i> vom 23.10.2023, https:\/\/www.faz.net\/aktuell\/wirtschaft\/unternehmen\/was-gegen-die-voreingenommenheit-der-ki-systeme-hilft-19260960.html<\/a>.<\/span><\/p>\n

Kahnemann, Daniel<\/i> 2012: Schnelles Denken, langsames Denken, M\u00fcnchen.<\/span><\/p>\n

Konferenz der unabh\u00e4ngigen Datenschutzaufsichtsbeh\u00f6rden des Bundes und der L\u00e4nder<\/i> 2023: Pressemitteilung der Konferenz der unabh\u00e4ngigen Datenschutzaufsichtsbeh\u00f6rden des Bundes und der L\u00e4nder vom 29.11.2023, https:\/\/datenschutzkonferenz-online.de\/media\/pm\/23-11-29_DSK-Pressemitteilung_KI-Regulierung.pdf<\/a>.<\/span><\/p>\n

Schwartmann, Rolf <\/i>2023: Dialektik versus Stochastik: Wissenschaft darf nicht im mathematischen Bermuda-Dreieck der KI verschwinden, in: Forschung & Lehre<\/i> 2023, S. 132-133.<\/span><\/p>\n

Strack, F.\/ Mussweiler, T.<\/i> 1997: Explaining the enigmatic anchoring effect: Mechanisms of selective accessibility, in: Journal of Personality and Social Psychology<\/i>, Jg. 73, H. 3, S. 437-446.<\/span><\/p>\n

Tversky, Amos\/Kahnemann, Daniel<\/i> 1974: Judgment under Uncertainty: Heuristics and Biases: Biases in judgments reveal some heuristics of thinking under uncertainty, in: Science<\/i>, Jg. 185, H. 4157, S. 1124-1131.<\/span><\/p>\n

Anmerkungen:<\/h3>\n
\n

i <\/a>Vgl. Anhang III des Vorschlags f\u00fcr eine Verordnung des Europ\u00e4ischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften f\u00fcr K\u00fcnstliche Intelligenz (Gesetz \u00fcber K\u00fcnstliche Intelligenz) und zur \u00c4nderung bestimmter Rechtsakte der Union, COM\/2021\/206 final (im Folgenden KI-VO-E).<\/p>\n<\/div>\n

\n

ii <\/a>Zenner, DataAgenda Datenschutz Podcast, Folge 48 ab Minute 13:00.<\/p>\n<\/div>\n

\n

iii <\/a>Zenner, DataAgenda Datenschutz Podcast, Folge 48 ab Minute 16:55.<\/p>\n<\/div>\n","protected":false},"featured_media":0,"template":"","categories":[37,2952],"tags":[3356,3351,3204,667],"autoren":[3355],"publikationen":[3345],"class_list":["post-19091","publikation","type-publikation","status-publish","hentry","category-europa-internationales","category-kuenstliche-intelligenz","tag-ai-act","tag-europaeische-union","tag-kuenstliche-intelligenz","tag-vorgaenge-artikel","autoren-rolf-schwartmann-und-moritz-koehler","publikationen-vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte"],"acf":[],"yoast_head":"\nGPAI-Modelle und das erste KI-Gesetz der Welt - Humanistische Union<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"GPAI-Modelle und das erste KI-Gesetz der Welt - Humanistische Union\" \/>\n<meta property=\"og:description\" content=\"Es war ein z\u00e4hes Ringen in der Europ\u00e4ischen Union, um Regelungen eine Verordnung zu K\u00fcnstlichen Intelligenz zu finden. Es geht darum KI-Systeme so zu regulieren, dass Pers\u00f6nlichkeitsrechte und das Prinzip des Diskriminierungsverbots eingehalten werden. Doch Vieles ist dabei noch strittig. Rolf Schwartmann und Moritz K\u00f6hler gehen einigen der strittigen Details auf den Grund. Dabei betonen [weiterlesen]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\/\" \/>\n<meta property=\"og:site_name\" content=\"Humanistische Union\" \/>\n<meta property=\"article:modified_time\" content=\"2026-03-20T13:49:44+00:00\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:site\" content=\"@humunion\" \/>\n<meta name=\"twitter:label1\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data1\" content=\"14\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\\\/publikation\\\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\\\/\",\"url\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\\\/publikation\\\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\\\/\",\"name\":\"GPAI-Modelle und das erste KI-Gesetz der Welt - Humanistische Union\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/#website\"},\"datePublished\":\"2024-01-22T10:44:54+00:00\",\"dateModified\":\"2026-03-20T13:49:44+00:00\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\\\/publikation\\\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\\\/publikation\\\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\\\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\\\/publikation\\\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Publikationen\",\"item\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"vorg\u00e4nge\",\"item\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/\"},{\"@type\":\"ListItem\",\"position\":3,\"name\":\"vorg\u00e4nge Nr. 242: K\u00fcnstliche Intelligenz und Menschenrechte\",\"item\":\"https:\\\/\\\/www.humanistische-union.de\\\/publikationen\\\/vorgaenge\\\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\\\/\"},{\"@type\":\"ListItem\",\"position\":4,\"name\":\"GPAI-Modelle und das erste KI-Gesetz der Welt\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/#website\",\"url\":\"https:\\\/\\\/www.humanistische-union.de\\\/\",\"name\":\"Humanistische Union\",\"description\":\"\",\"publisher\":{\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.humanistische-union.de\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/#organization\",\"name\":\"Humanistische Union e.V.\",\"url\":\"https:\\\/\\\/www.humanistische-union.de\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/www.humanistische-union.de\\\/wp-content\\\/uploads\\\/2023\\\/09\\\/HU-LOGO-blau_RGB-high-scaled-e1704725806773.jpg\",\"contentUrl\":\"https:\\\/\\\/www.humanistische-union.de\\\/wp-content\\\/uploads\\\/2023\\\/09\\\/HU-LOGO-blau_RGB-high-scaled-e1704725806773.jpg\",\"width\":1000,\"height\":536,\"caption\":\"Humanistische Union e.V.\"},\"image\":{\"@id\":\"https:\\\/\\\/www.humanistische-union.de\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/x.com\\\/humunion\",\"https:\\\/\\\/mastodon.social\\\/@humunion\",\"https:\\\/\\\/bsky.app\\\/profile\\\/humanistischeunion.bsky.social\"]}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"GPAI-Modelle und das erste KI-Gesetz der Welt - Humanistische Union","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\/","og_locale":"de_DE","og_type":"article","og_title":"GPAI-Modelle und das erste KI-Gesetz der Welt - Humanistische Union","og_description":"Es war ein z\u00e4hes Ringen in der Europ\u00e4ischen Union, um Regelungen eine Verordnung zu K\u00fcnstlichen Intelligenz zu finden. Es geht darum KI-Systeme so zu regulieren, dass Pers\u00f6nlichkeitsrechte und das Prinzip des Diskriminierungsverbots eingehalten werden. Doch Vieles ist dabei noch strittig. Rolf Schwartmann und Moritz K\u00f6hler gehen einigen der strittigen Details auf den Grund. Dabei betonen [weiterlesen]","og_url":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\/","og_site_name":"Humanistische Union","article_modified_time":"2026-03-20T13:49:44+00:00","twitter_card":"summary_large_image","twitter_site":"@humunion","twitter_misc":{"Gesch\u00e4tzte Lesezeit":"14\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\/","url":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\/","name":"GPAI-Modelle und das erste KI-Gesetz der Welt - Humanistische Union","isPartOf":{"@id":"https:\/\/www.humanistische-union.de\/#website"},"datePublished":"2024-01-22T10:44:54+00:00","dateModified":"2026-03-20T13:49:44+00:00","breadcrumb":{"@id":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/publikation\/gpai-modelle-und-das-erste-ki-gesetz-der-welt\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Publikationen","item":"https:\/\/www.humanistische-union.de\/publikationen\/"},{"@type":"ListItem","position":2,"name":"vorg\u00e4nge","item":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/"},{"@type":"ListItem","position":3,"name":"vorg\u00e4nge Nr. 242: K\u00fcnstliche Intelligenz und Menschenrechte","item":"https:\/\/www.humanistische-union.de\/publikationen\/vorgaenge\/vorgaenge-nr-242-kuenstliche-intelligenz-und-menschenrechte\/"},{"@type":"ListItem","position":4,"name":"GPAI-Modelle und das erste KI-Gesetz der Welt"}]},{"@type":"WebSite","@id":"https:\/\/www.humanistische-union.de\/#website","url":"https:\/\/www.humanistische-union.de\/","name":"Humanistische Union","description":"","publisher":{"@id":"https:\/\/www.humanistische-union.de\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.humanistische-union.de\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/www.humanistische-union.de\/#organization","name":"Humanistische Union e.V.","url":"https:\/\/www.humanistische-union.de\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.humanistische-union.de\/#\/schema\/logo\/image\/","url":"https:\/\/www.humanistische-union.de\/wp-content\/uploads\/2023\/09\/HU-LOGO-blau_RGB-high-scaled-e1704725806773.jpg","contentUrl":"https:\/\/www.humanistische-union.de\/wp-content\/uploads\/2023\/09\/HU-LOGO-blau_RGB-high-scaled-e1704725806773.jpg","width":1000,"height":536,"caption":"Humanistische Union e.V."},"image":{"@id":"https:\/\/www.humanistische-union.de\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/x.com\/humunion","https:\/\/mastodon.social\/@humunion","https:\/\/bsky.app\/profile\/humanistischeunion.bsky.social"]}]}},"_links":{"self":[{"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/publikation\/19091","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/publikation"}],"about":[{"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/types\/publikation"}],"wp:attachment":[{"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/media?parent=19091"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/categories?post=19091"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/tags?post=19091"},{"taxonomy":"autoren","embeddable":true,"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/autoren?post=19091"},{"taxonomy":"publikationen","embeddable":true,"href":"https:\/\/www.humanistische-union.de\/hu-json\/wp\/v2\/publikationen?post=19091"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}