Unser Grundgesetz kennt eigentlich keine Hierarchie der Grundrechte. In ihm stehen die freie Rede wie der Schutz der Vertraulichkeit, die Religionsfreiheit und die Gleichberechtigung sowie viele andere Werte nebeneinander. Unter all diesen Verfassungswerten kommt der Meinungsäußerungsfreiheit eine grundlegende Bedeutung zu, sie ist mehr als nur ein Grundrecht unter den anderen. So betont auch das Bundesverfassungsgericht in seinen Entscheidungen immer wieder, dass die Meinungsäußerungsfreiheit für die Freiheit und die Demokratie schlechthin konstitutiv sei.

Wo und wie sich diese Freiheit jeweils verwirklichen kann, welchen potenziellen Einschränkungen und Gefährdungen sie ausgesetzt ist, unterliegt wie bei allen Grundrechten dem gesellschaftlichen Wandel – sowohl der Wertevorstellungen, Normen und politischen Gegebenheiten, aber auch ihrer technischen Bedingungen. Mit der zunehmenden Verlagerung der öffentlichen Kommunikation in den digitalen Raum stellen sich daher auch für die Meinungsfreiheit neue Fragen: Was bedeutet es, wenn Kommunikation die Flüchtigkeit des gesprochenen Wortes verliert und immer mehr digitale Spuren hinterlässt? Wie sollen wir mit der zunehmenden kommunikativen wie lebensweltlichen Abschottung einzelner Subkulturen, mit Hate Speech und Fake News umgehen? In welchem Maß beeinflussen Netzwerke und ihre Newsalgorithmen heute unsere Wahrnehmung und Kommunikationsbeziehungen? Mit diesen Fragen digitalisierter Kommunikation befasst sich die vorliegende Ausgabe der vorgänge. Unsere Autor*innen suchen bürgerrechtliche Antworten darauf, welche Chancen und Gefahren sich für die Meinungsfreiheit unter den Bedingungen digitaler, vernetzter Kommunikation ergeben.

Den Schwerpunkt eröffnet Patrick Donges mit einem Beitrag, der die Entwicklung der Internetkommunikation bis zur Entstehung von Social Media kommunikationswissenschaftlich einordnet. Donges macht drei Faktoren aus, die die Kommunikation und die medialen Inhalte im Netz heute prägen: Digitalisierung, Personalisierung und neue Gatekeeper. Die Digitalisierung befördere vor allem die Quantifizierung und Bewertung aller Inhalte, erlaube aber auch deren schnelle Weitergabe und (nahezu beliebige) Neu-Komposition: niemand muss heute mehr eine ganze Zeitung abonnieren, von der er oder sie sich nur für den Wirtschaftsteil interessiert. Daneben etabliere das Netz eine neue Form der Kommunikation, die an eine breite Öffentlichkeit gerichtet sei, sich aber durch eine Personalisierung ihrer Inhalte und ihrer Ansprache mehr und mehr dem Stil klassischer Individualkommunikation annähere. Schließlich löse das Netz die Unterteilung der klassischen Massenmedien in Produzierende (z.B. Journalist*innen) und Konsumierende (Leser*innen) auf bzw. führe mit den Social-Media-Anbietern neue Formen der Nachrichtenmittler ein, die zwischen diesen beiden Polen anzusiedeln sind.

Till Köstler knüpft daran an und versucht eine genauere Begriffsbestimmung Sozialer Netzwerke: Er geht auf die sozial- und kommunikationswissenschaftlichen Netzwerkdebatten ein, die deutlich älter als Facebook & Co sind und in denen besondere Merkmale und Funktionen dieser Netzwerke hervorgehoben wurden. Dies kontrastiert er mit der juristischen Netzwerk-Diskussion, die in Deutschland ihren vorläufigen Höhepunkt mit dem Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken (Netzwerkdurchsetzungsgesetz – NetzDG) erreicht hat. Demnach handelt es sich um eine besondere Form von Telemediendienstanbietern, die sowohl von der Individualkommunikation (etwa per eMail), aber auch von journalistisch gestalteten Telemedien (z.B. Nachrichtenwebseiten) und vom klassischen Rundfunk abzugrenzen ist. Köstler zeigt, dass die im NetzDG verankerte Legaldefinition der Netzwerkanbieter noch einige Abgrenzungsprobleme aufwirft, wer unter den Anwendungsbereich dieses Gesetzes fällt und wer nicht – etwa wenn die Gewinnerzielung oder die journalistische Gestaltung von Inhalten zu entscheidenden Kriterien werden. Dies wirke sich auch auf die Frage auf, welche grundrechtlichen Schutzbereiche für die Netzwerke bzw. die dahinterstehenden Anbieter anzuwenden sind. Zugleich sieht er den aktiven Einfluss, den die Betreiber über ihre AGBs und die Algorithmen auf die Verteilung (bzw. Unterschlagung) von Nachrichten ausüben, in der rechtlichen Regulierung bisher nicht hinreichend berücksichtigt – das NetzDG behandle die Firmen wie klassische Telefonanbieter, als würden diese gewissermaßen nur „Leitungen“ und „Pinnwände“ für die Nutzer*innen bereitstellen, was aber erkennbar zu kurz greift.

Während die ersten Beiträge den innovativen und teilweise auch emanzipatorischen Charakter der Sozialen Netzwerke betonen, folgt jetzt ein Perspektivwechsel: Wir widmen uns den Problemen und Gefahren, die mit der Ausweitung der Internetkommunikation verbunden sind. Stefan Hügel stellt in seinem Text die Diskussion um die Macht und Reichweite Künstlicher Intelligenz (KI) sowie deren Kontrolle vor. Nach seiner Darstellung korrespondiert ein übertriebener Glaube an eine allmächtige, starke KI („die wissenden Maschinen“) mit einem defizitären Verständnis von der realen Wirkungsweise und Einbettung von Algorithmen in unserem technisierten Alltag. Einerseits sei das, was heute unter dem Label „KI“ vermarktet werde, längst noch nicht so intelligent, wie es die Visionen intelligenter Automaten nahelegen. Auf der anderen Seite werden die tatsächlichen Folgen der Datafizierung, die sich in nahezu allen Wirtschafts- und Lebensbereichen breit macht, eindeutig unterschätzt. Hügel beschreibt, welche gesellschaftlichen Folgen (etwa neue Formen der Diskriminierung) die verschiedenen „Lernformen“ der KI bereits heute haben und wie sich einzelne Techniken auf z.B. Kriegsführung, politische Kommunikation oder Wahlen auswirken. Die Lösung dieses Dilemmas sieht Hügel in einem weiter entwickelten Datenschutz – denn jener schütze nicht nur die Befindlichkeiten der Einzelnen, sondern biete in seiner Gesamtheit auch die Gewährleistung dafür, dass grundlegende Freiheiten wie die Meinungs- oder Handlungsfreiheiten unter digitalen Bedingungen erhalten bleiben.

Als ein weiteres Problem wird in den Netzdebatten immer wieder die Möglichkeit einer anonymisierten Teilnahme benannt: Sie verleite einerseits Teilnehmer*innen zu verbalen, persönlichen Angriffen und zersetze den öffentlichen Diskurs. Andererseits wird in ihr ein zentrales Hindernis für die effektive Rechtsdurchsetzung bzw. die Strafverfolgung im Netz angesehen, weil die Urheber*innen nicht zu ermitteln sind bzw. potenzielle Beweismittel fehlen. Der Beitrag von Michael Kuhn greift dieses Thema mit dem umstrittenen „Recht auf Anonymität“ im Digitalen auf. Kuhn zeigt, dass das Recht auf Anonymität eine zentrale Dimension des Grundrechtsschutzes berührt. Er skizziert die Bedingungen für Anonymität im digitalen Raum und weist nach, dass Anonymität kein neues Problem ist, das erst mit der Digitalisierung entsteht. Nach seiner Darstellung enthalten auch die Grundrechtskonzepte für die analoge Welt implizite Annahmen zur Anonymität, ohne dass das Verfassungsrecht bisher ein umfassendes Konzept von Anonymität herausgearbeitet habe. Ein solches Konzept sei aber dringend nötig, um das Verhältnis von Anonymität und Identifizierbarkeit im digitalen Raum so austarieren zu können, damit die Schutzwirkung der Grundrechte auch hier zur Geltung komme.

Nach den eher grundsätzlichen Beiträgen widmet sich der Schwerpunkt dem deutschen NetzDG, seiner konkreten Anwendung und der Kritik daran. Zunächst stellen wir einige Zahlen zur bisherigen Anwendung des Gesetzes auf den drei Plattformen Facebook, Google und YouTube vor. Bisher gilt das NetzDG aufgrund seiner Definition des Anwendungsbereichs in § 1 Abs. 2 NetzDG (mind. 2 Millionen angemeldete Nutzer*innen) nur für diese drei Plattformen – alle anderen sind kleiner. Als das Gesetz 2017 beraten und verabschiedet wurde, gab es von vielen Seiten Kritik an dessen Regulierungsansatz. Was ist davon zwei Jahre später übrig geblieben, welcher Nachbesserungsbedarf zeigt sich aus der ersten Rechtsprechung zum Gesetz? Dazu befragten wir Martin Eifert und Ulf Buermeyer. In ihrer Bewertung des Gesetzes gehen sie von den besonderen Grundrechtsgefährdungen aus, die sich aus den speziellen Kommunikationsbedingungen im Social Web ergeben. Dazu gehöre, dass die Plattformen in einem großen Maße die Aufmerksamkeit des digitalen Publikums lenken (sie bestimmen, wer, wann was liest), dass ihnen eine Dynamik zur Monopolbildung innewohnt (denn mit der Zahl ihrer Nutzer* innen bzw. Leser*innen steigt zugleich der Informationswert der dort verbreiteten Nachrichten) und dass ihre Techniken der Informationsverteilung zu einer Beschleunigung führen, aus der sich die spezielle Dynamik digitaler Aufmerksamkeit mit ihren hochfrequenten Erregungskurven ergibt.

Daran anschließend stellt Hubertus Gersdorf eine Klage gegen das NetzDG vor. Gersdorf ist Bevollmächtigter einer Feststellungsklage der beiden FDP-Politiker Jimmy Schulz und Manuel Höferlin, die jene im Juni 2018 beim Verwaltungsgericht Köln eingereicht haben. Sie sehen durch das NetzDG ihre Meinungsfreiheit erheblich eingeschränkt und kritisieren die in vielerlei Hinsicht unzureichenden Regelungen des Gesetzes, etwa die fehlenden Verfahrensvorgaben für die Löschung von Beiträgen, für die Überprüfbarkeit der Entscheidungen oder die Bußgeldsanktionen gegenüber den Betreibern.

Matthias Spielkamp weist in seinem Beitrag auf ein weiteres Problem hin: die Nachahmer, die das NetzDG in autokratischen Staaten gefunden hat. So wurde das Gesetz beispielsweise in Russland, Malaysia sowie auf den Philippinen als Vorbild genommen – nur dass die vergleichbaren Regelungen unter anderen Vorzeichen dort eine unheilvolle Wirkung entfalten. Diese Beispiele zeigen, wie leicht sich derartige Gesetze für eine politische Beschränkung der Meinungsfreiheit nutzen lassen – wovor auch Deutschland nicht gefeit ist. Vor dem Hintergrund zunehmender nationaler Debatten um die Regulierung sozialer Netzwerke hat Facebook vor einiger Zeit einen Vorschlag vorgelegt, der mit Hilfe Künstlicher Intelligenz und eines externen Beirats eine Art regulierte Selbstregulierung zur Kontrolle der Inhalte vorschlägt. Mit diesem Vorschlag setzt sich Spielkamp kritisch auseinander, denn sie gewährleiste keine hinreichende Transparenz und belasse die letztliche Entscheidung weitgehend der Firma.

Dass Handlungsbedarf bei der Anpassung des NetzDG besteht, wird mittlerweile kaum bestritten – die Debatte um dessen Zukunft hat längst begonnen. Was sich die im Bundestag vertretenen Oppositionsparteien in dieser Hinsicht wünschen, fassen wir in einer weiteren Dokumentation zusammen. Der Rechtsausschuss des Deutschen Bundestags führte dazu am 15. Mai eine Sachverständigenanhörung [1] durch. Welche der genannten Vorschläge zur Reform oder gar Abschaffung des Gesetzes eine Chance haben, ist derzeit jedoch offen.

Auf die französischen Versuche, Fake News einzudämmen, sowie die europäischen Regulierungsansätze geht Jörn Reinhardt ein. Er stellt zunächst die verschiedenen Formen der Manipulation öffentlicher Debatten in den Sozialen Netzwerken vor. Im Gegensatz zum NetzDG, welches sich auf die Löschung beleidigender oder anderweitig strafbarer Inhalte beschränkt, zielt das französische „Gesetz gegen die Manipulation von Information“ stärker darauf, die Verbreitung von Falschinformationen zu unterbinden. Dies schränkt – im Vergleich zur deutschen Rechtsprechung über die Grenzen der Äußerungsfreiheit – die Meinungsfreiheit deutlich stärker ein und ist aus grundrechtlicher Sicht daher besonders problematisch.

Den Abschluss des Schwerpunkts bilden zwei Beiträge, die sich mit den politischen Alternativen befassen: Patrick Breyer und Katharina Nocun verdeutlichen zunächst, welches Überwachungspotenzial in Netzwerken wie Facebook und Co. steckt. Dies beschränkt sich längst nicht mehr darauf, die Interessen und Vorlieben der Nutzer*innen für Werbezwecke zu erfassen – vielmehr werden auch deren Kommunikationsbeziehungen und Vernetzungen untereinander erfasst. Das Tragische daran: Die gesamte digitale Welt an Freundschaften, Bekanntschaften und Netzwerken, in der sich viele Menschen heute wie in einer zweiten Heimat zuhause fühlen, kann Facebook nicht nur beliebig manipulieren (Wer kann mit wem in Kontakt treten?), sondern im Ernstfall sogar auf Knopfdruck beenden. Breyer und Nocun sehen anbietergesteuerte Netzwerke deshalb als Gated Communities, die es dringend durch alternative Formen zu ersetzen gelte. Welche Möglichkeiten es dafür heute gibt, stellen sie in ihrem Beitrag kurz vor.

Mindestanforderungen an eine Regulierung der digitalen Welt dokumentieren wir mit einem Forderungskatalog, den die Beteiligten des 2018 veranstalteten Kongresses Bits und Bäume in Berlin vorgelegt haben. Er beschränkt sich nicht auf partizipative Mitgestaltung und demokratische Kontrolle der Netzwerke, sondern hat auch die ethischen und ökologischen Folgen der Digitalisierungstechnik im Blick.

Außerhalb des eigentlichen Schwerpunkts, aber zugleich als historischer Kontext der Debatte um die Meinungsfreiheit im Internet, ist der Beitrag von Helga und Wolfgang Killinger zu verstehen: Sie bieten einen kurzen Abriss der bundesdeutschen Auseinandersetzungen um die Meinungsfreiheit im Rundfunk. Sie schildern die Stationen dieser Geschichte anhand des Engagements der Humanistischen Union, die sich seit ihren Gründungstagen für die Meinungsfreiheit in diesem Medium eingesetzt hat.

Einen weiteren grundrechtsorientierten Rückblick unternimmt Rolf Gössner, der anlässlich des 70. Jahrestages des Grundgesetzes eine kritische Bilanz zur Verfassungswirklichkeit in Deutschland zieht. Er beschreibt in seiner Jubiläumsrede die Etappen der sicherheitspolitischen Aufrüstung der Bundesrepublik. Deren aktuelle Auswüchse schildert Clemens Arzt am Beispiel des Brandenburgischen Polizeigesetzes, wo die rot-rote Landesregierung nach den Vorbild Bayerns, Baden-Württembergs, NRWs und anderer Bundesländer kürzlich mit Verweis auf die „angespannte Terror- und Gefährdungslage“ neue bzw. erweiterte Befugnisse einführte. Sowohl die Frage, ob diese Regelungen wirklich erforderlich sind, noch bei der Frage, ob sie auch geeignet sind, mehr Sicherheit für die Bürger*innen zu schaffen, sieht er im Einzelnen erhebliche Zweifel.

Mit Brandenburg befasst sich schließlich auch der Beitrag von Rosemarie Will: Sie wagt einen Blick nach vorn und diskutiert das Brandenburger Gesetz zur Parität bei den Landeswahllisten. Die kürzlich beschlossene Reform des Landeswahlrechts schreibt erstmals in Deutschland eine stärkere Repräsentation von Frauen in einem deutschen Landesparlament gesetzlich vor, indem die brandenburgischen Parteien ab 2020 zur geschlechterparitätischen Aufstellung der Landeswahllisten verpflichtet werden. Entsprechend heftig fielen die Angriffe auf den Vorschlag aus, die Kritiker* innen sehen in ihm das Ende vom Grundsatz der freien Wahlentscheidung. Will stellt eine verfassungsrechtliche Interpretation dieses Gesetzes vor, mit dem 100 Jahre nach der Einführung des Frauenwahlrechts ein wichtiger Meilenstein auf dem Weg zu mehr Gleichberechtigung erreicht wird.

Wir wünschen Ihnen wie stets eine anregende Lektüre mit dieser Ausgabe der vorgänge und freuen uns über Ihre Rückmeldungen und Anmerkungen.

Rosemarie Will und Sven Lüders
für die Redaktion

Heftvorschau:

Nr. 227 (3/2019) Polizei und Technik (erscheint voraussichtlich im September 2019)

Nr. 228 (4/2019) Wohnen als Soziales Grundrecht (Dezember 2019)

Anmerkungen:

1 Stellungnahmen der Sachverständigen s. https://www.bundestag.de/ausschuesse/a06_Recht/anhoerungen_archiv/netzwerkdurchsetzungsgesetz-628712.

Der Beitrag Editorial erschien zuerst auf Humanistische Union.

Marshall McLuhan verdanken wir die Einsicht, dass Medien mehr sind als nur eine neue Form der Darreichung von Informationen; dass sie mit ihrem jeweiligen Tempo, mit ihren Maßstäben und der Strukturierung von Informationen unser Denken und Handeln stärker prägen, als die Rede vom „Vermittelnden“ suggeriert. Das gilt auch für die sogenannten Social Media, welche derzeit das Leitbild digitaler Kommunikation darstellen. Mit ihrem Aufstieg haben sich nicht nur die Informationsträger und – Gewohnheiten gewandelt, sondern wurden die selektive Wahrnehmung und Erinnerung in neue Bahnen gelenkt. Patrick Donges stellt drei zentrale Aspekte vor, die die politische Kommunikation heute bestimmen.

Die zunehmende Bedeutung des Internets für die private und öffentliche Kommunikation hat dem allgemeinen Medienwandel einen neuen Schub gegeben. Medienwandel heißt dabei, dass sich Kommunikationsmöglichkeiten erweitern: Sowohl Individuen als auch Organisationen stehen mehr Optionen als zuvor offen, für ihre Mitteilungen einen größer werdenden Kreis möglicher Empfängerinnen und Empfänger zu erreichen. Sowohl die technischen Möglichkeiten der verschiedenen Medien innerhalb des Internets (von E-Mail über Webseiten und Blogs hin zu Social Media Anwendungen) als auch die tatsächlich genutzten Medienrepertoires erweitern und differenzieren sich. Dabei darf der Medienwandel nicht isoliert betrachtet werden, da er immer eingebettet in einem allgemeinen sozialen oder auch politischen Wandel stattfindet. Die Erweiterung von Kommunikationsmöglichkeiten ist nicht die Ursache von Prozessen wie Individualisierung oder Globalisierung, befördert sie aber.

Folgt man der Kommunikationstheorie Niklas Luhmanns (1984, 1997), so folgt auf eine Erweiterung von Kommunikationsmöglichkeiten immer auch die Notwendigkeit, diese durch Prozesse der Selektion und Komplexitätsreduktion wieder zu reduzieren, um sie überhaupt verarbeiten zu können. Eine Steigerung von Mitteilungen in der Gesellschaft führt nicht automatisch dazu, dass diese auch verarbeitet werden und Kommunikation stattfinden kann, so wie ein Mehr an Texten nicht dazu führt, dass wir mehr lesen. Zunächst steigt der Aufwand, den wir betreiben müssen, um die verschiedenen Medien zum Versand und Empfang von Mitteilungen zu nutzen. Deutlich wird dies beispielsweise an dem steigenden Aufwand, den Individuen wie Organisationen für ihre Sichtbarkeit und Auffindbarkeit in der Online-Welt leisten müssen und der sich an einem Mehr an Ressourcen wie Personal, Geld und Zeit ablesen lässt, das für Kommunikation aufgewandt wird. Dem Druck zur medialen und öffentlichen Präsenz können sich nur wenige Personen und Organisationen entziehen.

Der Beitrag beleuchtet aus kommunikationswissenschaftlicher Perspektive drei ausgewählte Merkmale der Internetkommunikation, die strukturelle Folgen für die gesellschaftliche Kommunikation haben: Die Digitalisierung oder auch Datafizierung der Kommunikation, die Personalisierung sowie den Wegfall „alter“ und die Notwendigkeit „neuer“ Vermittler. Strukturen verstehe ich dabei, in Anlehnung an Anthony Giddens (1984), als Bündel von Regeln und Ressourcen. Der Beitrag zeigt anhand einzelner Beispiele, dass die Internetkommunikation anderen Regeln als die traditionelle interpersonale oder massenmediale folgt, und dies zu verschiedenen Reaktionen in anderen Teilen der Gesellschaft führt. Durch die neuen oder veränderten Regeln gewinnen einige Handelnde an Machtressourcen, andere verlieren sie. Technische Entwicklungen allein können diese Strukturveränderungen nicht erklären, sondern sie müssen immer sozial betrachtet werden.

Digita­li­sie­rung und Datafi­zie­rung

Das Internet ist ein digitales Medium. Der Begriff der Digitalisierung wird im Deutschen sehr breit verwendet. Er meint zunächst, dass Daten in ein numerisches System überführt und damit für Computer les- und verarbeitbar werden (im Englischen digitization). Durch die Nutzung dieser Daten, wie etwa in Form von Suchen, Herstellung von Beziehungen, Sortierungen etc., verändern sich dann Objekte, Ereignisse oder soziale Prozesse (im Englischen digitalization). Dies führt zu einem tiefgreifenden gesellschaftlichen Wandel (im Englischen digital transformation).

Der zunächst nur technische Prozess der Digitalisierung ist eingebettet in Prozesse der Datafizierung. Datafizierung meint die Fähigkeit digitaler Medien, viele Aspekte der Welt, die noch nie quantifiziert wurden, in Daten umzuwandeln (Van Dijck & Poell, 2013). Dies ist in einem doppelten Sinn zu verstehen: Zum einen ist die Umwandlung in quantitative Daten nun technisch einfacher, zum anderen gibt es ein soziales Bedürfnis danach, dies zu tun. Dies betrifft nicht nur das eigentliche Angebot, sondern auch seine Nutzung. Im Internet liegen nicht nur Texte, Bilder oder Filme in Form digitaler Daten vor, sondern auch als „Datenspuren“ das frühere Verhalten sowie bei Social Media-Anwendungen die persönlichen Beziehungsnetzwerke von Nutzerinnen und Nutzer. Diese Daten können zur Erstellung persönlicher Nutzungsprofile verwendet werden – die dann auch, wie im nächsten Abschnitt aufgeführt, zu personalisierten Angeboten führen.

Der Prozess der Datafizierung durch digitale Medien geht einher mit einer allgemeinen „Quantifizierung des Sozialen“ (Mau, 2017). Damit meint Mau eine gesellschaftliche Entwicklung, in der immer mehr Phänomene vermessen, durch Zahlen beschrieben und beeinflusst werden. Beispielsweise kann die Popularität bestimmter Angebote im Internet sofort erfasst und entsprechend reagiert werden. Diese Quantifizierung kann einerseits zu sozial erwünschten Folgen der Transparenz und des Wettbewerbs führen, andererseits aber auch zu Formen der Überwachung und der Erhöhung gesellschaftlicher Ungleichheit. Werden etwa populäre und stark nachgefragte Inhalte bei der Sortierung durch einen Algorithmus in der Trefferliste einer Internetsuchmaschine nach oben geschoben, so verstärkt sich diese Popularität weiter und es kommt zu einem sog. Matthäus-Effekt („Wer hat, dem wird gegeben„). Durch solche Effekte kommt es im Internet gerade nicht zu einem Aufbrechen gesellschaftlicher Machtstrukturen, sondern diese können sich auch online fortsetzen.

In ökonomischer Hinsicht führen Digitalisierung und Datafizierung zu neuen Geschäftsmodellen. Zum einen können digitale Daten einfacher weitergeleitet und damit als Ware gehandelt werden, zum anderen ermöglichen digitale Daten neue Formen der Entbündelung und (Neu-)Bündelung. Damit ist gemeint, dass vormals zusammenhängende Angebote getrennt und später entweder separat oder zusammen mit anderen neu gehandelt werden können. Die Folgen dieser Möglichkeit zeigen sich vor allem bei den traditionellen Massenmedien: Zeitungen, Zeitschriften, Radio- und Fernsehprogramme waren vor der Durchsetzung des Internets nur als gebündeltes Angebot erhältlich. Dies hatte den für die gesellschaftliche Kommunikation wichtigen Effekt, dass Rezipientinnen und Rezipienten nicht nur mit den sie unmittelbar interessierenden, sondern den nach journalistisch-professionellen Standards relevanten Nachrichten konfrontiert wurden („All the news that fit to print„), und dies in einem Modus, der die allgemeine Bekanntheit der Nachrichten erwartbar und das Gespräch darüber wahrscheinlicher machte. In ökonomischer Hinsicht ermöglichte dies den Medienunternehmen das Geschäftsmodell, Medienangebote mit Werbung zu bündeln und damit indirekt zu finanzieren. Die Auflösung dieses vormals gebündelten Angebots hat vielfältige Folgen: Zum einen können journalistisch-professionelle Selektionskriterien durch andere ersetzt werden, z.B. durch das frühere Interesse der Nutzerinnen und Nutzer oder auch der Personen aus ihrem Netzwerk an Beiträgen, sowie durch die aktuelle Popularität, die ein Beitrag erfährt. Zum anderen funktioniert das Geschäftsmodell der Bündelung von journalistisch-redaktionellen Inhalten mit Werbung nicht mehr, wenn diese durch Programme wie Adblocker entbündelt und ohne Werbung dargestellt werden. Die in Deutschland im Vergleich zu anderen Ländern ausgeprägte geringe Bereitschaft, für Informationsangebote im Internet zu bezahlen und die gleichzeitig hohe Rate an Adblockern machen die Re-Finanzierung journalistisch-redaktioneller Angebote zu einem schwierigen Geschäft (Reuters Institute for the Study of Journalism, 2018). Dies trägt zur Krise des Journalismus als vormals zentraler Vermittlungsinstanz und zur Notwendigkeit neuer Vermittlungsstrukturen bei, die im übernächsten Abschnitt skizziert werden.

Personalisierung

Vor der Durchsetzung des Internets konnten wir vereinfacht zwei Formen der Kommunikation unterscheiden: Interpersonale Kommunikation, die zwischen wenigen (im Idealfall zwei) Teilnehmerinnen und Teilnehmern stattfand, die wechselseitig und direkt, also ohne mediale Vermittlung („face to face“), oder mit einfachen Formen technischer Übermittlung (Telefon, Computer) auskam. Davon wurde die Massenkommunikation unterschieden, nach der oft zitierten Formel von Maletzke (1963, S. 32) „jene Form der Kommunikation, bei der Aussagen öffentlich, durch technische Verbreitungsmittel indirekt und einseitig an ein disperses [d.h. räumlich und zeitlich getrenntes/PD] Publikum vermittelt werden“. Mit anderen Worten war interpersonale eine persönliche, aber nur wenigen zugängliche Kommunikation, während Massenkommunikation von einer unpersönlichen Beziehung zwischen Sendenden und Empfangenden, dafür aber von einer hohen Zugänglichkeit der Mitteilungen geprägt war. Schon immer gab es Zwischenformen, die von dieser Dichotomie nicht erfasst wurden: die eigentlich nicht für die Öffentlichkeit bestimmte, dieser aber plötzlich zugänglichen Mitteilung, oder der für die massenmediale Kommunikation bestimmte Text, der niemandem zugänglich ist oder keine Aufmerksamkeit erfährt (vgl. Jünger, 2018). Mit der Internetkommunikation gewinnen diese Zwischenformen aber an Bedeutung, immer mehr Mitteilungen sind sowohl persönlich (wie in der interpersonalen) als auch allgemein zugänglich (wie in der Massenkommunikation). O’Sullivan und Carr (2018) sprechen daher von einer „massenpersonalen Kommunikation„. Exemplarisch zeigt sich dies an Social Media-Anwendungen wie Facebook, die zwar einerseits von den (individuellen) Nutzerinnen und Nutzern als private Kommunikation verstanden werden, andererseits einer breiten Öffentlichkeit aber bereits dadurch zur Verfügung stehen, dass – juristisch laienhaft formuliert – die Rechte an den Mitteilungen an Facebook „abgegeben“ wurden. Ferner sind, wie bereits erwähnt, die zuvor getroffenen Auswahlentscheidungen wie auch das frühere persönliche Verhalten der Nutzerinnen und Nutzer ein wichtiges Kriterium bei der Auswahl jener Mitteilungen, die sie überhaupt erhalten. Dies war bei den traditionellen Formen der Massenkommunikation nie der Fall: Den Sportteil einer Zeitung erhielt auch der, der sich nicht für Sport interessiert. Mit dem Medienwandel differenzieren sich die einzelnen Medienrepertoires aus und folgen individuellen wie auch gruppenbezogenen Relevanzzuschreibungen.

Die sich so als Teil des Medienwandels bemerkbar machende Personalisierung ist eingebettet in den sozialen Prozess der Individualisierung. Dieser wird häufig verkürzt dargestellt: Individualisierung meint nach Ulrich Beck (1986) nicht nur die Herauslösung des Menschen aus historisch vorgegebenen Sozialformen und Bindungen (Freisetzung) sowie den Verlust von traditionellen Sicherheiten im Hinblick auf Handlungswissen, Glauben und Normen (Entzauberung), sondern drittens auch neue Formen der sozialen Einbindung (Kontrolle und Reintegration), etwa in Form kultureller Milieus oder sozialer Gemeinschaften. Mit Bezug auf einen anderen Prozess des sozialen Wandels formuliert: Das Internet ist einerseits ein globales, weltumspannendes Medium, die darin stattfindende Kommunikation verdichtet sich aber rund um Gruppen, die sich nach innen durch verstärkte Bindungen, gemeinsame Praktiken und eine scharfe Sinngrenze auszeichnen (vgl. Fuhse, 2006).

Die technisch möglichen und potentiell grenzenlosen Netzwerke führen auch zu Konflikten, Verschiebungen oder dem Ziehen kommunikativer Grenzen. Damit einher geht die Beobachtung, dass mit dem Wandel von Medien und Öffentlichkeit eine stärkere Moralisierung der öffentlichen Kommunikation einhergeht (Imhof, 2011). Politische, ökonomische, rechtliche Fragen etc. werden stärker als früher normativ aufgeladen. Dies ist auch eine Folge des allgemeinen sozialen Wandels hin zu einer postmateriellen Gesellschaft, in der weniger über Verteilungs- und Machtfragen gesprochen wird und mehr Aufmerksamkeit Fragen nach dem „richtigen Leben“ zuteilwird. Personalisierung heißt damit auch, Gesprächspartnerinnen und -partner als „ganze Menschen“ mit allen ihren Wertbezügen zu sehen und nicht mehr nur als Trägerinnen und Träger bestimmter funktionaler Rollen. Lange vor der Durchsetzung des Internets hat Richard Sennett (1983) dies als „Tyrannei der Intimität“ beschrieben. Sennett betrachtete Öffentlichkeit als eine Ansammlung von Fremden, in der uns Rollen wie Masken voreinander schützen. Gerade in der Internetkommunikation sind sich Akteure einander jedoch weniger fremd, die Trennung von Rolle und Person wird noch durchlässiger. Dies ist eine Erklärung dafür, warum Konflikte etwa auf Social Media-Plattformen schnell moralisierend und „persönlich“ werden.

In der breiten Öffentlichkeit werden die Folgen der Personalisierung der Internetkommunikation häufig unter den Schlagworten der Echokammer oder der Filterblasen (vgl. Pariser, 2012) diskutiert. Damit ist gemeint, dass die Nutzerinnen und Nutzer einerseits durch die algorithmische Selektion (Filterblasen) als auch durch die Abschottung von Kommunikationsräumen (Echokammern) nur noch jene Mitteilungen erhalten, die sie in ihrer Meinung bestätigen und wie ein Echo der eigenen Überzeugungen wirken. In der Internetkommunikation werden viele Mitteilungen auch nicht mehr zu allen Nutzerinnen und Nutzern zugleich geschickt („push“-Modus), sondern nur zu ausgewählten, oder sie müssen gezielt angesteuert werden („pull“-Modus). Begriffe wie Filterblasen und Echokammern fördern einerseits die Sensibilität der Nutzerinnen und Nutzer vor den Besonderheiten der Internetkommunikation, sind aus kommunikationswissenschaftlicher Perspektive aber keine gänzlich neuen Phänomene. Basierend auf den Arbeiten zur kognitiven Dissonanz von Festinger (1957) finden sich in unzähligen Studien Hinweise darauf, dass Menschen sich a) vermehrt jenen Medien zuwenden, die sie in ihren bereits vorhandenen Einstellungen bestätigen (selective exposure), b) konsonante, d.h. bestätigende Mitteilungen mehr Aufmerksamkeit schenken (selective attention) und sich c) auch besser an diese erinnern können (selective retention). Auch traditionelle Massenmedien wirken damit in erster Linie verstärkend auf jene Einstellungen und Meinungen ein, die ihre Nutzerinnen und Nutzer bereits haben. Ebenso hatten die Journalistinnen und Journalisten bei diesen traditionellen Massenmedien auch immer schon eine Vorstellung über die Einstellungen der Adressaten. Insofern sind Filterblasen und Echokammern keine gänzlich neuen Phänomene. Eine andere Qualität hätte hingegen der Umstand, wenn die durch Algorithmen vorgenommenen Auswahlentscheidungen dazu führen, dass Nutzerinnen und Nutzer zu verschiedenen Themen völlig andere Informationen erhalten oder am Ende gar keine gemeinsame Themenagenda mehr haben. Hier zeichnen aktuelle Studien für Deutschland ein differenziertes Bild: Filterblasen im Sinne gänzlich anderer Themenagenden lassen sich in Deutschland bislang nicht nachweisen (vgl. Stark, Magin, & Jürgens, 2018). Gleichwohl zeigt dieselbe Studie auch, dass die Personalisierung der Internetkommunikation zu verzerrten Wahrnehmungen des Meinungsklimas führen kann: Die Stimmungslage innerhalb der „Freunde“ auf Facebook unterscheidet sich von dem in repräsentativen Umfragen ermittelten Meinungsklima der Gesamtbevölkerung. Entscheidender als die technischen Möglichkeiten eines Selektionsalgorithmus sind also Persönlichkeitsmerkmale der Nutzerinnen und Nutzer (wie etwa politisches Interesse), die zu einem eher breiten oder eher engen Informationsverhalten führen. Berücksichtigt werden muss dabei auch, dass Social Media-Anwendungen wie Facebook in Deutschland zwar zunehmend, im internationalen Vergleich aber nicht überdurchschnittlich zur Information genutzt werden. Auf die in dem jährlich durchgeführten Digital News Report von Reuters gestellte Frage, ob sie in der vergangenen Woche Social Media-Anwendungen als Nachrichten genutzt haben, antworteten 2018 31% der befragten Nutzerinnen und Nutzer aller Altersgruppen aus Deutschland mit „Ja“, in den USA waren es 45%. Zudem ist die Bedeutung von Social Media als Nachrichtenquelle starken Schwankungen unterworfen. In den USA sank beispielsweise die Nutzung von Facebook als Nachrichtenquelle binnen eines Jahres von 48% auf 39% (Reuters Institute for the Study of Journalism, 2018, S. 10). Die Diskussionen um Lügen und Falschmeldungen in den Social Media-Netzwerken geht an den Nutzerinnen und Nutzern nicht spurlos vorbei und hat den Anstieg ihrer Bedeutung als Informationsquelle zumindest verlangsamt.

Neue Vermittler

Ein wesentliches Merkmal der traditionellen Öffentlichkeit war die Unterscheidung der Rollen von Sprecherinnen und Sprechern, Vermittlern und dem Publikum (vgl. bereits Gerhards & Neidhardt, 1990). Die Bereitstellung und Herstellung von Themen erfolgte durch spezialisierte Personen (Journalistinnen und Journalisten), die dauerhaft und auf Basis spezifischer Berufsregeln (beispielsweise Selektion aufgrund von Nachrichtenfaktoren) innerhalb spezialisierter Organisationen (Redaktionen) arbeiten. Diese Spezialisierung und Dauerhaftigkeit ermöglichte es dem Publikum, Erwartungshaltungen an den Journalismus einzelner Medienangebote aufzubauen. Das Publikum konnte einzelne journalistische Angebote beispielsweise hinsichtlich ihrer Qualität oder politischen Richtung unterscheiden. Journalismus war damit eine wichtige Institution in der Gesellschaft (vgl. Jarren, 2015).

Der Journalismus hat im Medienwandel aus vielen Gründen heraus seine zentrale Vermittlungsposition eingebüßt. Dies hat zum einen ökonomische Gründe, die eine Finanzierung journalistischer Tätigkeiten erschweren. Zum anderen führte das Internet zu Verschiebungen der Rolle von Journalistinnen und Journalisten. In der traditionellen Medienwelt waren sie Gatekeeper, die darüber entscheiden konnten, welche Themen und Mitteilungen in der Öffentlichkeit Eingang fanden und welche nicht. Diese Rolle gibt es in der Welt des Internets nicht mehr: Auch was von Journalistinnen und Journalisten für wenig relevant oder falsch gehalten wird, findet seinen Weg über andere Kommunikationskanäle. Die neue Rolle des Journalismus ist allenfalls die eines „Gatewatchers“ (Bruns, 2005), der das Tor im Auge behalten, aber nicht mehr schließen kann.

Der Bedeutungsverlust des Journalismus bedeutet nun nicht, dass die Vermittlungsfunktion obsolet wird. Im Gegenteil: Die zunehmende Komplexität der Internetkommunikation führt zur Ausbildung immer neuer Intermediäre, die sich zwischen mindestens zwei Akteure schieben, diese verbinden und damit Kommunikation zwischen ihnen ermöglichen oder zumindest vereinfachen (Schulz & Dankert, 2016). Dabei sind sehr unterschiedliche Vermittlungsleistungen denkbar: Das Suchen und Finden von Informationen (wie bei Suchmaschinen), die Aggregation (wie bei Nachrichtenportalen), die Überwachung und das Monitoring von Kommunikation, Prognosen auf Basis vorhandener Daten, Filtern von Mitteilungen, Vorschläge für Produkte und Dienstleistungen, das „Scoring“ und die Erstellung von Reputation, die Produktion journalistischer Inhalte sowie die Allokation von Werbeeinnahmen (vgl. Just & Latzer, 2017). Diese Vermittlungsleistungen können entweder von Algorithmen oder von Kollektiven geleistet werden, wie beispielsweise auf partizipativen Plattformen. Neben die journalistisch-redaktionelle Vermittlung tritt damit die algorithmische (oder auch technische) und die partizipative (vgl. Neuberger, 2009). In einzelnen Online-Medien und auf Plattformen können diese drei Vermittlungstypen auch gemeinsam auftreten.

Alle drei funktionieren nach unterschiedlichen Regeln und Logiken. So fühlen sich die Betreiber von Vermittlungsalgorithmen (wie etwa Facebook oder YouTube) nicht als Medienunternehmen und damit für die Inhalte verantwortlich, die auf ihren Plattformen veröffentlicht werden (vgl. u.a. Napoli, 2014; Napoli & Caplan, 2017). Aber auch die Laien, die auf Plattformen an Formen der partizipativen Vermittlung von Mitteilungen beteiligt sind, haben in der Regel andere Motive als professionelle Journalistinnen und Journalisten. Jan-Hinrik Schmidt (2011) hat darauf hingewiesen, dass Internetkommunikation vor allem auf Social Media-Plattformen eine „Konvergenz aus Publikation und Konversation“ darstelle. Im Plauderton werden Mitteilungen weitergeleitet und kommentiert, ohne sie beispielsweise auf ihren Wahrheitsgehalt hin zu überprüfen und mögliche Folgen der Publizität zu bedenken. Bernhard Pörksen (2018) hat daher die „konkrete Utopie der redaktionellen Gesellschaft“ vorgeschlagen, d.h. eine Orientierung auch der an partizipativen Vermittlungsformen beteiligten Laien an journalistischen Grundprinzipien wie Wahrheit, Skepsis, Verständigungs- und Diskursorientierung, Relevanz und Proportionalität etc.

Für die weitere Entwicklung der Internetkommunikation wird bedeutsam sein, ob und wie nationale und/oder europäische Instanzen die neuen Vermittler regulatorisch erfassen wollen und entsprechende Regeln auch durchsetzen können. Als mögliche Eckpunkte einer solchen Regelung sind etwa die Herstellung von Transparenz über die Entscheidungsregeln, die Gewährleistung von Diskriminierungsfreiheit und Chancengleichheit, die Verhinderung von Meinungsmacht sowie die Autonomie der Nutzerinnen und Nutzer im Gespräch (Bund-Länder-Kommission zur Medienkonvergenz, 2016). Der im Juli 2018 vorgelegte Entwurf eines Medienstaatsvertrages der Länder, der den jetzigen Rundfunkstaatsvertrag ablösen soll, sieht auch Regelungen bezogen auf „Medienplattformen“ und „Medienintermediäre“ vor (Rundfunkkommission der Länder, 2018).

Fazit

Das Internet als technische Plattform sowie die in ihm möglichen vielfältigen Formen der Online-Kommunikation haben weitreichende strukturelle Folgen für die gesellschaftliche Kommunikation und damit auch für die Meinungsfreiheit. Durch die Digitalisierung wird ein Mehr an Kommunikationsmöglichkeiten eröffnet, insbesondere für einzelne Personen. Dieses Mehr an Möglichkeiten verlangt zugleich neue Formen der Komplexitätsreduktion. Der Abbau von Komplexität kann einerseits durch Algorithmen geleistet werden, aber auch durch persönliche Netzwerke und Empfehlungen. Wir lesen das, was unsere „Freunde“ und Meinungsführer gut finden oder was aktuell viele Menschen interessiert. Traditionelle Vermittler wie die klassischen Massenmedien und der redaktionell organisierte Journalismus verlieren an Bedeutung, neue Vermittler wie Intermediäre und Plattformen, und hier insbesondere die beiden Konzerne Alphabet (Google) und Facebook, nehmen ihren Platz ein. Trotz der Vielzahl der Kommunikationsmöglichkeiten ist das Internet damit zugleich durch eine hohe Marktmacht weniger Medienunternehmen gekennzeichnet, die sich bislang einer politischen und rechtlichen Regelung auch weitgehend entziehen. Die durch sie verkörperte kalifornische Ideologie setzt auf das scheinbar freie Individuum und die Regeln einer (letztlich von den Konzernen dominierten) „Community“. Die weitere Entwicklung der Internetkommunikation, und damit auch die Frage der strukturellen Folgen, wird wesentlich davon abhängen, ob diese hoch konzentrierten Vermittlungsstrukturen bestehen bleiben und wie sie durch Politik oder Recht weiter normiert werden. Auch die Gesellschaft, Organisationen wie Individuen, wird sich die Internetkommunikation weiter aneignen und neue Formen der Selektion sowie der Komplexitätsreduktion entwickeln. Die im Grundgesetz formulierten Kommunikationsfreiheiten müssen damit im Lichte neuer Vermittlungsprobleme aktualisiert werden.

PATRICK DONGES   Jahrgang 1969, Dr. phil., Professor für Kommunikationswissenschaft am Institut für Kommunikations- und Medienwissenschaft der Universität Leipzig. Forscht und lehrt zu den Themen Politische Kommunikation, Medienstrukturen und Medienpolitik, Organisationskommunikation sowie Theorien der Kommunikationswissenschaft.

Literatur

Beck, Ulrich 1986: Risikogesellschaft. Auf dem Weg in eine andere Moderne, Frankfurt/M.

Bruns, Axel 2005: Gatewatching. Colloaborative Online News Production, New York.

Bund-Länder-Kommission zur Medienkonvergenz 2016: Bericht. Abrufbar unter: www.rlp. de/fileadmin/rlp-stk/pdf-Dateien/Medienpolitik/2016-06-01_-01-_Bericht_BLKM_pol _Steuerungsgruppe_FINAL_bf.pdf.

Festinger, Leon 1957: A Theory of Cognitive Dissonance, Palo Alto.

Fuhse, Jan 2006: Gruppe und Netzwerk – eine begriffsgeschichtliche Rekonstruktion; in: Berliner Journal für Soziologie, Jg. 16, H. 2, S. 245-263, doi: 10.1007/s11609-006-0019-z

Gerhards, Jürgen, & Neidhardt, Friedhelm 1990: Strukturen und Funktionen moderner Öffentlichkeit. Fragestellung und Ansätze, Berlin.

Giddens, Anthony 1984: The Constitution of Society. Outline of the Theory of Structuration. Cambridge.

Imhof, Kurt 2011: Die Krise der Öffentlichkeit. Kommunikation und Medien als Faktoren des sozialen Wandels, Frankfurt/M.

Jarren, Otfried 2015: Journalismus – unverzichtbar?!; in: Publizistik, Jg. 60/H. 2, S. 113-122.

Jünger, Jakob 2018: Unklare Öffentlichkeit: Individuen in Situationen zwischen öffentlicher und nichtöffentlicher Kommunikation, Wiesbaden.

Just, Natascha, & Latzer, Michael 2017: Governance by algorithms: reality construction by algorithmic selection on the Internet; in: Media, Culture & Society, Jg. 39/H. 2, S. 238-258, doi:10.1177/0163443716643157

Luhmann, Niklas 1984: Soziale Systeme. Grundriß einer allgemeinen Theorie, Frankfurt/M.

Luhmann, Niklas 1997: Die Gesellschaft der Gesellschaft, Frankfurt/M.

Maletzke, Gerhard 1963: Psychologie der Massenkommunikation, Hamburg.

Mau, Steffen 2017: Das metrische Wir. Über die Quantifizierung des Sozialen, Frankfurt/M.

Napoli, Philip M. 2014: Automated Media: An Institutional Theory Perspective on Algorithmic Media Production and Consumption; in: Communication Theory, Jg. 24/H. 3, S. 340-360, doi:10.1111/comt.12039.

Napoli, Philip M., & Caplan, Robyn 2017: Why media companies insist they’re not media companies, why they’re wrong, and why it matters; in: First Monday, Jg. 22/H. 5, doi: http://dx.doi.org/10.5210/fm.v22i5.7051.

Neuberger, Christoph 2009: Internet, Journalismus und Öffentlichkeit; in: Christoph Neuberger et al. (Hrsg.): Journalismus im Internet: Profession – Partizipation – Technisierung. Wiesbaden, S. 19-105.

O’Sullivan, Patrick B, & Carr, Caleb T. 2018: Masspersonal communication: A model bridging the mass-interpersonal divide; in: New Media & Society, Jg. 20 H. 3, S. 1161-1180, doi: 10.1177/1461444816686104

Pariser, Eli 2012: Filter Bubble. Wie wir im Internet entmündigt werden, München.

Pörksen, Bernhard 2018: Die große Gereiztheit. Wege aus der kollektiven Erregung, München.

Reuters Institute for the Study of Journalism 2018: Digital News Report 2018, http://www.digitalnewsreport.org/.

Rundfunkkommission der Länder 2018: „Medienstaatsvertrag“. Diskussionsentwurf zu den Bereichen Rundfunkbegriff, Plattformregulierung und Intermediäre (Juli/August 2018), Abrufbar unter: https://www.rlp.de/fileadmin/rlp-stk/…/Medienstaatsvertrag_Online_JulAug2018.pdf

Schmidt, Jan-Hinrik 2011 [2009]: Das neue Netz. Merkmale, Praktiken und Folgen des Web 2.0, Konstanz.

Schulz, Wolfgang, & Dankert, Kevin 2016: Die Macht der Informationsintermediäre. Erscheinungsformen, Strukturen, Regulierungsoptionen, Bonn.

Sennett, Richard 1983: Verfall und Ende des öffentlichen Lebens Die Tyrannei der Intimität. Frankfurt/M.

Stark, Birgit et al. 2018: Politische Meinungsbildung im Netz: Die Rolle der Informationsintermediäre; in: UFITA, Jg. 82, H. 1, S. 103-130, doi: 10.5771/2568-9185-2018-1-103.

Van Dijck, José & Poell, Thomas 2013: Understanding social media logic; in: Media and Communication, Jg. 1/H. 1, S. 2-14.

Der Beitrag Digitalisierung, Personalisierung und neue Vermittler – der Medienwandel durch das Internet und seine strukturellen Folgen erschien zuerst auf Humanistische Union.

Der rechtliche Umgang mit der Kommunikation in sozialen Netzwerken ist insbesondere durch das Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken (Netzwerkdurchsetzungsgesetz – NetzDG) stark ins Blickfeld der öffentlichen und juristischen Diskussion geraten. Der Beitrag befasst sich vor diesem Hintergrund mit der Frage, was unter dem Begriff des sozialen Netzwerkes zu verstehen ist. Hierzu werden Ansätze für eine Begriffsbestimmung sowohl auf dem Gebiet der Rechtswissenschaften als auch in anderen wissenschaftlichen Disziplinen dargestellt und herausgearbeitet, welchen Beitrag ein exaktes begriffliches Verständnis für die grundrechtliche Einordnung der Kommunikation in sozialen Netzwerken leisten kann.

Einleitung

„Give people the power to build community and bring the world closer together“[1] – mit diesem Satz beschreibt Facebook seine sich selbst zugeschriebene „Aufgabe“. Auch wenn angesichts der Eigeninteressen des Unternehmens Facebook zweifellos Vorsicht im Umgang mit dieser Selbstbeschreibung geboten ist, lässt sich konstatieren, dass soziale Onlinenetzwerke wie Facebook im Zuge der Digitalisierung in der Tat zu einem wichtigen Kommunikationsweg des freien Meinungsflusses geworden sind.[2] Aktuelle Studien belegen diesen Befund: so kam eine repräsentative Umfrage im Auftrag des BITKOM Bundesverbands Informationswirtschaft, Telekommunikation und neue Medien e.V. aus dem Jahr 2018 zu dem Ergebnis, dass 87 Prozent aller Internetnutzer_innen bei einem sozialen Netzwerk angemeldet sind.[3]

Durch die Diskussion um das am 1. Oktober 2017 in Kraft getretene Netzwerkdurchsetzungsgesetz (NetzDG) ist der rechtliche Umgang mit Kommunikationsprozessen in sozialen Netzwerken verstärkt ins Blickfeld der juristischen Literatur geraten.[4] Für die in diesem Zusammenhang diskutierten Fragen ist es von großer Bedeutung, ein exaktes Verständnis des Begriffs des sozialen Netzwerks zu entwickeln und zu fragen, was überhaupt unter einem sozialen Netzwerk zu verstehen ist.

Der vorliegende Beitrag befasst sich deshalb sowohl mit Ansätzen für eine Begriffsbestimmung außerhalb der Rechtswissenschaft als auch mit der rechtswissenschaftlichen Bedeutung des Begriffs. Ausgehend hiervon soll abschließend dargelegt werden, welche Rückschlüsse und weitergehenden Fragen mit Blick auf die grundrechtliche Einordnung sozialer Netzwerke sich aus einer Analyse des Begriffs des sozialen Netzwerkes ergeben.

Ansätze für eine Begriffs­be­stim­mung außerhalb der Rechts­wis­sen­schaft

In einem sozialwissenschaftlichen Kontext wurde der Begriff des sozialen Netzwerks bereits lange vor dem Entstehen von Internetangeboten verwendet, um soziale Beziehungen zwischen Menschen zu beschreiben.[5]

Mit Blick auf die hier untersuchten sozialen Onlinenetzwerke wurden Versuche einer Begriffsbestimmung sowie der Herausarbeitung spezifischer Merkmale sozialer Netzwerke vor allem auf dem Gebiet der Medien- und Kommunikationswissenschaften unternommen.
Erste Definitionsansätze aus englischsprachigen Arbeiten gehen hierbei von verschiedenen Kernfunktionen sozialer Netzwerke aus: die Möglichkeit zum Anlegen eines Profils, die Option der Verknüpfung des Profils mit anderen Nutzer_innen sowie die öffentliche oder zumindest innerhalb des Netzwerks gegebene Einsehbarkeit der Kontaktliste der Nutzer_innen.[6] Andere Arbeiten verweisen ergänzend auf die wirtschaftliche Bedeutung der ausgetauschten Informationen im Sinne eines „knowing capitalism“ hin und sehen diesen Aspekt als wichtigen Punkt bei der Beschäftigung mit sozialen Netzwerken an.[7]

Weiterhin werden auch die Möglichkeiten zur Kommunikation mit anderen Nutzer_innen als charakteristisches Element sozialer Netzwerke angesehen und in der Folge eine Definition als ein in sich geschlossenes soziales System, welches der Abbildung, dem Aufbau und der Pflege (realweltlicher und virtueller) zwischenmenschlicher sozialer Beziehungen im Internet dient,[8] vorgeschlagen.

Ein anderer Beitrag schlägt vor, die Funktionen sozialer Netzwerke in sechs Gruppen einzuteilen: Expertensuche, Identitätsmanagement, Kontaktmanagement, Unterstützung von Kontextawareness, Unterstützung von Netzwerkawareness sowie Unterstützung eines gemeinsamen Austausches.[9]

Weitere Untersuchungen sehen die Awareness-Aspekte nicht ausdrücklich als prägende Merkmale sozialer Netzwerke an, betonen stattdessen aber den engen Bezug zu realen Sozialbindungen sowie die strukturierte Form der Datendarstellung als Charakteristika sozialer Netzwerke.[10]

Beim Vergleich dieser verschiedenen Ansätze für eine Begriffsbestimmung fällt auf, dass ganz überwiegend die von sozialen Netzwerken bereitgestellten Funktionen herangezogen werden und die Definitionsversuche folglich auf der Funktionalität der jeweiligen Angebote beruhen.[11] Prägende Elemente scheinen hierbei vor allem die von sozialen Netzwerken angebotenen Möglichkeiten der Kontaktpflege und der Kommunikation mit anderen Nutzer_innen zu sein. Nach alledem liegt es nahe, soziale Netzwerke anhand der von ihnen angebotenen Kommunikationsmöglichkeiten zu definieren und sie auf dieser Grundlage von anderen Angeboten abzugrenzen.

Der Begriff des sozialen Netzwerks in der Rechts­wis­sen­schaft

Der Begriff des sozialen Netzwerkes hat im deutschen Recht und in der Rechtswissenschaft  lange Zeit keine Rolle gespielt.[12] Dies änderte sich durch das Inkrafttreten des NetzDG. Denn das NetzDG enthält nunmehr eine Legaldefinition des sozialen Netzwerks in § 1 Abs. 1 Satz 1 NetzDG. Danach sind soziale Netzwerke im Sinne des NetzDG Telemediendiensteanbieter, die mit Gewinnerzielungsabsicht Plattformen im Internet betreiben, die dazu bestimmt sind, dass Nutzer beliebige Inhalte mit anderen Nutzern teilen oder der Öffentlichkeit zugänglich machen.

Diese Definition setzt mithin zunächst voraus, dass es sich bei den Netzwerkbetreibern um Diensteanbieter von Telemedien im Sinne von § 1 Abs. 1 Satz 1 Telemediengesetz (TMG) handelt. Telemedien im Sinne dieser Vorschrift sind alle elektronischen Informations- und Kommunikationsdienste, soweit sie nicht Telekommunikationsdienste nach § 3 Nr. 24 Telekommunikationsgesetz (TKG), die ganz in der Übertragung von Signalen über Telekommunikationsnetze bestehen, telekommunikationsgestützte Dienste nach § 3 Nr. 25 TKG (mithin nach der dortigen Legaldefinition Dienste, die keinen räumlich und zeitlich trennbaren Leistungsfluss auslösen, sondern bei denen die Inhaltsleistung noch während der Telekommunikationsverbindung erfüllt wird) oder Rundfunk nach § 2 des Rundfunkstaatsvertrages sind. Die Einordnung sozialer Netzwerke wie Facebook unter diese Definition von Telemedien bereitet in der Regel keine Probleme,[13] auch die Anbieter­eigenschaft der Betreiber sozialer Netzwerke erscheint vor dem Hintergrund der weiten Begriffsfassung des TMG unproblematisch.[14] In einigen Konstellationen stellen sich allerdings Abgrenzungsfragen zum Rundfunk, insbesondere bei Live-Streaming-Angeboten auf sozialen Netzwerken, die durch den Anbieter linear verbreitet werden und nicht zu unterschiedlichen Zeiten abgerufen werden können.[15]

Weiteres Definitionsmerkmal ist die Gewinnerzielungsabsicht des Betreibers eines sozialen Netzwerkes. Diese Absicht ist bei den Betreibern großer Plattformen wie Facebook oder Twitter ohne Weiteres gegeben. Das Erfordernis der Gewinnerzielungsabsicht führt allerdings dazu, dass rein private Kommunikationsplattformen oder non-profit Plattformen nicht unter die Definition des sozialen Netzwerkes nach § 1 Abs. 1 Satz 1 NetzDG fallen.[16]

Die von § 1 Abs. 1 Satz 1 NetzDG erfassten Plattformen müssen zudem dazu bestimmt sein, dass Nutzer_innen beliebige Inhalte mit anderen teilen oder der Öffentlichkeit zugänglich machen. Ergänzend bestimmt § 1 Abs. 1 Satz 3 NetzDG, dass Plattformen nicht als soziale Netzwerke im Sinne des NetzDG gelten, wenn sie zur Individualkommunikation oder zur Verbreitung spezifischer Inhalte bestimmt sind. Zu Recht werden diese Abgrenzungskriterien angesichts ihrer Unschärfe kritisiert. Gerade die von der Regelung vorausgesetzte klare Unterscheidbarkeit zwischen Diensten der Individualkommunikation und Diensten der Massenkommunikation geht an der tatsächlichen Funktionsweise vieler Plattformen vorbei, da häufig Angebote anzutreffen sind, die sowohl für Individual- als auch für Massenkommunikation genutzt werden können.[17] Auch der Ausschluss von Plattformen zur Verbreitung spezifischer Inhalte wird wegen zu geringer Abgrenzungsschärfe kritisiert.[18] Zudem wird in diesem Zusammenhang auch auf die Gefahr einer missbräuchlichen Inhaltsspezifizierung verwiesen, um auf diesem Weg ganz bewusst einen Ausschluss des Anwendungsbereichs des NetzDG herbeizuführen.[19]

Darüber hinaus sieht § 1 Abs. 1 Satz 2 NetzDG vor, dass das Gesetz nicht für Plattformen mit journalistisch-redaktionell gestalteten Angeboten gelten soll, die vom Diensteanbieter selbst verantwortet werden. Hierbei dürfte es sich allerdings um eine bloß deklaratorische Regelung handeln, da solche journalistischen Angebote in aller Regel bereits nicht die von § 1 Abs. 1 Satz 1 NetzDG geforderte Zweckbestimmung aufweisen dürften.[20] Schließlich schränkt § 1 Abs. 2 NetzDG den Anwendungsbereich auf Anbieter sozialer Netzwerke mit mindestens zwei Millionen registrierten Nutzer_innen ein, wobei das Gesetz offen lässt, auf welchen Zeitraum sich diese quantitative Grenze beziehen soll.[21]

Die dargestellte Kritik an der Legaldefinition des sozialen Netzwerks in § 1 Abs. 1 Satz 1 NetzDG zeigt, dass diese Definition noch nicht alle Abgrenzungsfragen im Zusammenhang mit sozialen Netzwerken in zufriedenstellender Weise löst. Neben begrifflichen Unschärfen im Detail scheint dies vor allem daran zu liegen, dass die Formulierung in § 1 Abs. 1 Satz 1 NetzDG von alternativen, sich nicht überschneidenden Kategorien (Massen- vs. Individualkommunikation, spezifische vs. beliebige Inhalte) ausgeht. Gerade eine solch klare Kategorisierung bereitet angesichts der Vielfalt von Nutzungsmöglichkeiten sozialer Netzwerke nicht selten Schwierigkeiten – ein Grundproblem, das im Rahmen der rechtswissenschaftlichen Befassung mit sozialen Netzwerken an vielen Stellen anzutreffen ist.[22]

Rücksch­lüsse und weiter­ge­hende Fragen insbe­son­dere mit Blick auf die Meinungs­äu­ße­rungs­frei­heit in sozialen Netzwerken

Ungeachtet der Kritik an einzelnen Definitionsmerkmalen und an den Ansätzen zur Begriffsbestimmung lassen sich anhand eines Vergleichs der verschiedenen Definitionen wertvolle Ansatzpunkte für ein verbessertes Verständnis sozialer Netzwerke ziehen.
Bei einem Vergleich der Definition des sozialen Netzwerkes in § 1 Abs. 1 Satz 1 NetzDG mit den Definitionsansätzen außerhalb der Rechtswissenschaft fällt auf, dass in beiden Fällen soziale Netzwerke maßgeblich über ihre Funktion als Mittel der Kommunikation definiert werden. Während die nicht-juristischen Definitionsansätze hierbei allerdings von einer Vielzahl verschiedener Kommunikationsformen (insbesondere auch mit Blick auf die Größe des Teilnehmer_innenkreises an bestimmten Kommunikationsprozessen) auszugehen scheinen, beschränkt die Definition des NetzDG soziale Netzwerke auf den Bereich der Massenkommunikation und fasst Plattformen, auf denen Individualkommunikation stattfindet, nicht unter den Begriff des sozialen Netzwerks. Daraus lässt sich schließen, dass aus medien- und kommunikationswissenschaftlicher Sicht von der Kommunikation in sozialen Netzwerken nicht zwingend die mit Massenkommunikation verbundene Breitenwirkung ausgehen muss, während eine solche Breitenwirkung von der Definition im NetzDG offenbar als konstituierendes Merkmal eines sozialen Netzwerkes angesehen wird.

Auch bei der verfassungsrechtlichen Einordnung der Kommunikation in sozialen Netzwerken ist somit zu untersuchen, inwieweit eine Unterscheidung zwischen Massen- und Individualkommunikation im Bereich der sozialen Netzwerke überhaupt möglich ist. Gerade soziale Netzwerke bieten sowohl die technischen Voraussetzungen für eine reine Individualkommunikation (beispielsweise über den „Facebook Messenger“) als auch für eine Kommunikation, die sich an einen unbestimmten Personenkreis richtet und damit jedenfalls potentiell massenkommunikativ wirkt. Anschaulichstes Beispiel hierfür sind Posts von Nutzer_innen sozialer Netzwerke, die für alle anderen Nutzer_innen im Netzwerk sichtbar sind. Zwischen diesen klar als Individual- oder Massenkommunikation einzuordnenden Kommunikationsformen lassen sich in sozialen Netzwerken allerdings auch Kommunikationsformen beobachten, die sich nur schwer einer dieser beiden Kategorien zuordnen lassen: Wenn Nutzer_innen einen Post in einem sozialen Netzwerk veröffentlichen, der nur für ihre „Freund_innen“ in diesem Netzwerk und damit für einen bestimmten Adressat_innenkreis sichtbar ist, so fehlt es einerseits an der für eine Massenkommunikation charakteristischen Öffentlichkeit der Äußerung. Andererseits wird zu Recht darauf hingewiesen, dass in solchen Fällen auch keine Individualkommunikation im typischen Sinne vorliegt, da nicht wenige Nutzer_innen einen sehr weit gefassten und damit unüberschaubaren „Freundeskreis“ innerhalb des sozialen Netzwerks haben und damit Zweifel an der für eine Individualkommunikation prägenden bewussten Auswahl konkret-individueller Kommunikationspartner_innen angebracht erscheinen.[23]

Die Kommunikationsgrundrechte des Art. 5 Abs. 1 GG sind jedoch zumindest nach traditioneller Auslegung gerade durch eine klare Trennung zwischen der auf Individualkommunikation zugeschnittenen Meinungsfreiheit und den auf Massenkommunikation ausgerichteten Medienfreiheiten geprägt.[24] Um der Multifunktionalität konvergenter Medienangebote wie sozialer Netzwerke Rechnung zu tragen, wird in der juristischen Literatur teilweise unter Verweis auf die Schwierigkeiten der Abgrenzung zwischen Individual- und Massenkommunikation vorgeschlagen, sämtliche in Art. 5 Abs. 1 GG genannten Grundrechte als einheitliches Kommunikationsgrundrecht zu verstehen.[25] Dieser Ansatz wird von anderen Stimmen insbesondere mit dem Argument abgelehnt, dass er nicht mit Wortlaut und Systematik des Art. 5 Abs. 1 GG vereinbar sei.[26] Dieser Meinungsstreit zeigt beispielhaft, dass die Erfassung der Multifunktionalität sozialer Netzwerke nicht nur von Bedeutung ist, wenn im Rahmen einer Begriffsbestimmung gefragt wird, was unter einem sozialen Netzwerk zu verstehen ist. Vielmehr bringen die unterschiedlichen Kommunikationsfunktionen, die soziale Netzwerke auf ihren Plattformen anbieten, auch für die grundrechtliche Einordnung besondere Herausforderungen mit sich.

Weiterhin fällt auf, dass die Rolle der Netzwerkbetreiber_innen für den Kommunikationsprozess sowohl in den medien- und kommunikationswissenschaftlichen Arbeiten als auch in der Legaldefinition des NetzDG offenbar als eine neutrale Bereitstellung der für die jeweiligen Kommunikationsfunktionen erforderlichen Instrumente und technischen Voraussetzungen angesehen wird. Die durch die Netzwerkbetreiber_ innen mittels entsprechender Algorithmen ausgeübten Filter- und Steuerungsfunktionen bei der Anzeige und Sortierung von Beiträgen im Newsfeed bzw. in der Chronik werden mithin für die spezifische Funktionsweise sozialer Netzwerke nicht als unabdingbar angesehen.[27] Diese Erkenntnis ist insbesondere für die Frage, welchen Einfluss die Netzwerkbetreiber_innen auf den Kommunikationsprozess ausüben, von erheblichem Interesse. Dies kann vor allem auch für eine Untersuchung relevant sein, inwieweit und in welchen Konstellationen sich neben den Nutzer_innen auch die Betreiber auf den kommunikationsgrundrechtlichen Schutz durch Art. 5 Abs. 1 GG berufen können. Denn im Anschluss an die Rechtsprechung des Bundesverfassungsgerichts käme für die Netzwerkbetreiber_innen ein Schutz durch die Meinungsäußerungsfreiheit nicht in Betracht, soweit ihre Rolle als bloße technische Verbreitung von Äußerungen zu bewerten wäre.[28] Keiner der dargestellten Ansätze für eine Begriffsbestimmung sieht es als konstituierendes Merkmal eines sozialen Netzwerks an, dass das Netzwerk eine über die neutrale Inhaltsvermittlung hinausgehende Rolle im Kommunikationsprozess übernimmt. Ausgehend von den Ansätzen zur Begriffsbestimmung dürfte es deshalb nahe liegen, soziale Netzwerke bei den dort stattfindenden Kommunikationsvorgängen als bloße technische Vermittler_innen fremder Meinungen zu verstehen, die somit in diesem Rahmen dem Schutz der Meinungsäußerungsfreiheit nicht unterfallen.

Schließlich fällt auf, dass der Begriff des sozialen Netzwerkes nach dem NetzDG auf Seiten der Netzwerkbetreiber_innen eine Gewinnerzielungsabsicht voraussetzt, während die außerjuristischen Definitionsansätze eine Abgrenzung anhand eines vorhandenen oder nicht vorhandenen Gewinnstrebens der Plattformen gerade nicht vornehmen. Auch dieser Befund ist bei der Frage nach dem subjektiven Grundrechtsschutz für die Betreiber_innen von großem Interesse. Denn gerade in diesem Zusammenhang kann es von besonderer Bedeutung sein, wie die Tätigkeit der Netzwerkbetreiber_innen schwerpunktmäßig einzuordnen ist und ob es sich beim Betrieb entsprechender Plattformen vor allem um ein Geschäftsmodell für ein wirtschaftliches Unternehmen oder um einen Beitrag zum gesamtgesellschaftlichen Kommunikations- und Meinungsbildungsprozess handelt. Je nachdem, wie diese Frage beantwortet wird, liegt es nahe, die Betreiber_innen sozialer Netzwerke entweder dem Schutz der Berufsausübungsfreiheit nach Art. 12 Abs. 1 GG oder dem Schutz der Kommunikationsgrundrechte nach Art. 5 Abs. 1 GG zu unterstellen.

Eine vertiefte Betrachtung der in diesem Beitrag aufgeworfenen Fragen scheint notwendig zu sein, denn nach wie vor ist in der Rechtswissenschaft eine große Unsicherheit im Umgang mit sozialen Netzwerken festzustellen.[29] Insbesondere ist zu konstatieren, dass eine vertiefte Diskussion über die grundrechtliche Stellung sozialer Netzwerke noch in den Kinderschuhen steckt.[30] Eine Befassung mit dem Begriff des sozialen Netzwerkes und den hierzu entwickelten Definitionsansätzen kann dabei helfen, überzeugende Antworten auf die in diesem Zusammenhang zu klärenden Fragen zu finden.

TILL KÖSTLER   ist Doktorand bei Prof. Dr. Rosemarie Will und arbeitet derzeit an einer Dissertation zur Bedeutung der Meinungsäußerungsfreiheit bei der Kommunikation in sozialen Netzwerken. Er ist wissenschaftlicher Mitarbeiter im Bundestagsbüro der Abgeordneten Dr. Eva Högl.

Anmerkungen:

1 Diese selbst zugeschriebene „Aufgabe“ findet sich auf der eigenen Facebook-Seite des Unternehmens in der Rubrik „Informationen über das Unternehmen“: https://www.facebook.com/pg/facebook/about/?ref=page_internal (Stand: 27. Dezember 2018).

2 Schwartmann, GRUR-Prax 2017, 317 (317).

3 BITKOM Bundesverband Informationswirtschaft, Telekommunikation und neue Medien e.V. (Hrsg.), Social-Media-Trends 2018, abrufbar online unter https://www.bitkom.org/Presse/Anhaenge-an-PIs/ 2018/180227-Bitkom-PK-Charts-Social-Media-Trends-2.pdf (Stand: 27. Dezember 2018).

4 Vgl. zur insbesondere diskutierten Frage der Verfassungsmäßigkeit des NetzDG-Entwurfs beispielhaft Gersdorf, MMR 2017, 439.

5 Weissensteiner/Leiner, M&K Medien- und Kommunikationswissenschaft 59 (4) 2011, 526 (527).

6 Boyd/Ellison, Journal of Computer-Mediated Communication 13(1), 2008, 210 (211).

7 Beer, Journal of Computer-Mediated Communication 13(2), 2008, 516 (525).

8 Mörl/Groß, Soziale Netzwerke im Internet, 2008, S. 50.

9 Richter/Koch, Funktionen von Social-Networking-Diensten, Proc. Multikonferenz Wirtschaftsinformatik 2008, 1239 (1249).

10 Ebersbach/Glaser/Heigl, Social Web, 2011, S. 96.

11 Weissensteiner/Leiner, M&K Medien- und Kommunikationswissenschaft 59 (4) 2011, 526 (527).

12 Spindler, K&R 2017, 533 (533).

13 Liesching, in: Spindler/Schmitz/Liesching, TMG, 2. Auflage, München 2018, § 1 NetzDG Rn. 43; Spindler, K&R 2017, 533 (533).

14 Liesching (Anm. 13), § 1 NetzDG Rn. 45.

15 Liesching (Anm. 13), § 1 NetzDG Rn. 43.

16 Spindler, K&R 2017, 533 (534), der in diesem Zusammenhang auf Unsicherheiten der Einordnung im Falle von creative commons-Lizenzen verweist.

17 Liesching (Anm. 13), § 1 NetzDG Rn. 60.

18 Guggenberger, NJW 2017, 2577 (2578).

19 Spindler, K&R 2017, 533 (534); vgl. dazu allerdings auch Liesching (Anm. 13), § 1 NetzDG Rn. 63, der insoweit keine großen Probleme in der Praxis zu befürchten scheint.

20 Liesching (Anm. 13), § 1 NetzDG Rn. 57.

21 Vgl. Spindler, K&R 2017, 533 (534), der insoweit in Anlehnung an den halbjährlichen Turnus der Berichtspflichten nach dem NetzDG vorschlägt, eine halbjährliche Durchschnittszahl an Nutzer_ innen zugrunde zu legen.

22 Vgl. allgemein für die Online-Kommunikation bereits Härting, K&R 2012, 264 (264 f.).

23 Gersdorf, MMR 2017, 439 (442).

24 Pille, Meinungsmacht sozialer Netzwerke, Baden-Baden 2016, S. 150.

25 Hain, K&R 2012, 98 (103); Pille (Anm. 24), S. 194 ff.; in die gleiche Richtung gehend Hoffmann-Riem, Kommunikationsfreiheiten, Baden-Baden/Hamburg, 2002, S. 89.

26 Möllers, AfP 2008, 241 (250); Bethge, in: Sachs, GG, 8. Auflage, München 2018, Art. 5 Rn. 89c.

27 Vgl. zu negativen Auswirkungen der Algorithmen auf die Meinungsvielfalt im Kommunikationsprozess allerdings Drexl, ZUM 2017, 529.

28 Vgl. BVerfG, Beschluss vom 25. Juni 2009 – 1 BvR 134/03, NJW-RR 210, 470.

29 Allgemein für die so genannten neuen Medien so auch Pille (Anm. 24), S. 19.

30 Gersdorf, MMR 2017, 439 (442).

Der Beitrag Soziale Netzwerke: Begriffsbestimmung und Rückschlüsse für eine grundrechtliche Einordnung erschien zuerst auf Humanistische Union.

Während in der Wissenschaft die Erwartungen an eine Künstliche Intelligenz (KI) zuletzt deutlich herunter geschraubt wurden, wird die Technologie in der politischen Öffentlichkeit in den letzten Jahren deutlich aufmerksamer – und zum Teil kritischer – verfolgt. Stefan Hügel sortiert diese Debatte, indem er zunächst einmal die verschiedenen Begriffe von starker und schwacher KI, computergestützter Algorithmen, Lern- und Entscheidungssystemen voneinander abgrenzt. Im zweiten Teil seines Beitrags geht er ausführlich auf die verschiedenen Gefährdungspotenziale der KI auf Demokratie und Öffentlichkeit ein, bevor er abschließend mögliche Schutzkonzepte vorstellt.

Ich bin der Ansicht, dass ein in jeder Beziehung zu vereinfachter Begriff von Intelligenz sowohl das wissenschaftliche wie das außerwissenschaftliche Denken beherrscht hat, und dass dieser Begriff zum Teil dafür verantwortlich ist, dass es der perversen, grandiosen Phantasie der künstlichen Intelligenz ermöglicht wurde, sich derart zu entfalten.

Joseph Weizenbaum[1]

Der Computer Nr. 3 / sucht für mich den richtigen Boy,und die Liebe ist garantiert / für beide dabei.Der Computer weiß genau / für jeden Mann die richtige Frau,und das Glück fällt im Augenblick / aus seiner Kartei.

France Gall[2]

Nach einer wechselvollen Geschichte seit den hohen Erwartungen der 1950er und 1960er Jahre nimmt das Interesse an Künstlicher Intelligenz wieder deutlich zu. Maschinelles Lernen und algorithmische Entscheidungsfindung stellen die Automatisierung auf eine neue Stufe.[3] Der KI-Experte Wolfgang Wahlster übersetzt KI inzwischen mit „Künftige Informatik“.[4] Es ist zu erwarten, dass Anwendungen der Künstlichen Intelligenz zunehmend unser Leben bestimmen und prägen.

Gleichzeitig verlagert sich die Kommunikation im Internet seit Jahren zunehmend auf Soziale Netzwerke, die von globalen Wirtschaftsunternehmen wie Facebook oder Twitter betrieben werden. Diese Unternehmen stellen einen großen Teil ihrer Dienste für die Nutzerinnen und Nutzer kostenlos zur Verfügung – ihr Geschäftsmodell besteht darin, die bei der Nutzung anfallenden Daten auszuwerten und Erkenntnisse daraus insbesondere der Werbewirtschaft kostenpflichtig anzubieten. Den Unternehmen, die diese Dienste nutzen, bietet sich damit die Möglichkeit, potenzielle KundInnen gezielt anzusprechen, Streuverluste zu vermeiden und Botschaften zielgruppengerecht zuzuschneiden, beispielsweise an finanzkräftige weiße Männer mittleren Alters oder aber an Jugendliche mit wenig Selbstvertrauen und emotionalen Problemen.[5] Dies wird als Microtargeting bezeichnet und nutzt ebenfalls Techniken der Künst­lichen Intelligenz.
Angesichts einer öffentlichen politischen Debatte, die zunehmend den Regeln der Werbewirtschaft folgt, ist die Ausdehnung von Methoden des Microtargeting und der Künstlichen Intelligenz auf den Wahlkampf nicht überraschend. Die Begriffe Algorithmus und Künstliche Intelligenz werden dabei in der öffentlichen Diskussion häufig undifferenziert verwendet. Dieser Beitrag will zunächst die Begriffe aus technischer Sicht erläutern und eingrenzen. Danach werden die Risiken für die politische Kommunikation beschrieben. Zuletzt gehe ich auf Lösungsmöglichkeiten ein – diese bestehen vor allem in einem konsequent zu Ende gedachten und wohlverstandenen Datenschutz.

Algorithmen

Ein in der aktuellen Debatte häufig verwendeter Begriff ist der des Algorithmus[6]. Viele Eigenschaften einer autonomen, automatisierten Datenverarbeitung werden heute Algorithmen zugeschrieben. Ein „Algorithmen-TÜV“ wird gefordert, um die Risiken algorithmischer Entscheidungsfindung in den Griff zu bekommen.

Was ist ein Algorithmus? Entgegen dem in der öffentlichen Debatte häufig suggerierten, inhärenten Bezug zur Künstlichen Intelligenz verstehen wir darunter einfach eine eindeutige Handlungsvorschrift, um ein Problem oder eine Klasse von Problemen unter variablen Bedingungen zu lösen. Ein Algorithmus setzt sich aus endlich vielen[7], wohldefinierten Einzelschritten zusammen. Algorithmen können i. d. R. zur Ausführung in einem Computerprogramm implementiert werden, aber auch eine natürlichsprachliche Handlungsanweisung, die von Menschen ausgeführt werden kann, ist ein Algorithmus.[8]

Freilich werden auch in der Künstlichen Intelligenz Algorithmen verwendet. Darüber hinaus findet aber heute in der öffentlichen Diskussion eine Bedeutungsverschiebung statt: Entscheidungssysteme, Lernprogramme und sonstige Programme der Künstlichen Intelligenz werden zunehmend exklusiv als „Algorithmen“ bezeichnet.[9] Dies ist kein angemessener Begriff eines Algorithmus. Im strengen Sinn des mathematischen Konstrukts sind es keine Algorithmen mehr, sondern der zugrundeliegende (Lern-)Algorithmus ist durch das in der Lernphase gebildete Modell mit seinen Parametern „verschmutzt“.[10) Hier sollte besser von Software gesprochen werden.

Lev Manovich hält die Bezeichnung von Konzepten der automatisierten Entscheidungsfindung als Algorithmen für irreführend, da sie meistens auf maschinellem Lernen (s. u.) beruhen. Im Gegensatz zu Algorithmen sind die Schritte des maschinellen Lernens hin zum letztlich erreichten Ergebnis häufig nicht nachvollziehbar. Faktisch stehe man bei solchen Systemen oft vor einer Black Box, die zwar praktische Ergebnisse liefere, aber nicht interpretierbar sei. Manovich bevorzugt ebenfalls den allgemeineren Begriff Software.[11]

Künstliche Intelligenz

Der Begriff Künstliche Intelligenz ist schwierig abzugrenzen, da es bisher noch nicht einmal eine allgemein akzeptierte Definition von Intelligenz gibt. Auch der gängige Definitionsversuch:

„Ziel der KI ist es, Maschinen zu entwickeln, die sich verhalten, als verfügten sie über Intelligenz.“[12]

bleibt letztlich unbefriedigend. Er knüpft an ein klassisches Gedankenexperiment an, mit dem überprüft werden soll, ob eine Maschine Intelligenz besitzt. Bei dem 1950 von Alan Turing vorgeschlagenen Turing-Test[13] stellt ein Mensch Fragen und soll anhand der Antworten herausfinden, ob ihm gerade ein Mensch oder eine Maschine antwortet. (Die Fragen werden schriftlich beantwortet, um die Erkennung anhand von hier nicht relevanten Eigenschaften, z. B. der Stimme, auszuschließen.) Die Maschine hat den Test bestanden, wenn sie anhand der Antworten nicht vom Menschen unterschieden werden kann.
Gemeinhin unterscheiden wir zwischen starker und schwacher KI:[14]

• Von starker KI sprechen wir bei einer Maschine, die über eine dem Menschen analoge Intelligenz verfügt, d. h. die in der Lage ist, das menschliche Denken zu mechanisieren. Dies kann eine Form des „maschinellen Bewusstseins“ einschließen. Die Auseinandersetzung darüber, ob eine starke KI möglich ist, wurde mit Searle’s Chinesischem Zimmer[15] angestoßen. Bei diesem Gedankenexperiment sitzt ein Mensch, der kein Wort chinesisch versteht, in einem Zimmer, in das ihm auf chinesisch formulierte Fragen gestellt werden. Er hat lediglich syntaktische Regeln, mit deren Hilfe er die Fragen beantworten kann – auch ohne ihren Inhalt zu verstehen. Das entspricht der Arbeitsweise eines Computers, der „Verständnis“ lediglich simuliert. Dieses Experiment wirft die Frage auf, ob formal-syntaktische Übersetzungen auf dem Wege eines Sprungs von Quantität zu Qualität auch Bedeutung transportieren können.[16] Die Forschung ist heute weit davon entfernt, starke KI zu realisieren; ihre prinzipielle Umsetzbarkeit ist ein philosophisch umstrittenes Problem.
• Unter schwacher KI werden Techniken verstanden, die einzelne kognitive Fähigkeiten – i. d. R. innerhalb eines engen Aufgabenbereichs – in einem Computersystem nachbilden. Diese Fähigkeiten stehen in keiner Beziehung zu anderen Fähigkeiten – im Gegensatz zum Menschen, bei dem sie im Zusammenhang stehen. (Ein Computer, der programmiert wurde, Hunde und Katzen zu klassifizieren, ist deswegen weder in der Lage, einen Hund oder eine Katze zu füttern noch kann er Automobile von Fahrrädern unterscheiden.) Solche Systeme sind in der Lage unterschiedliche, aber jeweils sehr spezifische Aufgaben auszuführen.

In der informationstechnischen Praxis und der politischen Debatte sind Verfahren der schwachen KI relevant. Es werden Techniken eingesetzt, durch die abgegrenzte Aufgaben mit Hilfe von Computersystemen gelöst werden können. Die Wahrnehmung, wann es sich bei einem Computersystem um Künstliche Intelligenz handelt, verändert sich dabei mit der Zeit. Beispielsweise werden Schachprogramme – die auf der heutigen Entwicklungsstufe menschlichen SchachspielerInnen überlegen sind – durch ihre „Normalität“ heute im Gegensatz zu früher im Alltagsverständnis häufig nicht mehr als Künstliche Intelligenz angesehen.[17] Auch die eingangs zitierte Unterstützung bei der Partnersuche würde man im Zeitalter von Dating-Apps wie Tinder wohl nicht mehr als Künstliche Intelligenz bezeichnen. Häufig werden in der Alltagssprache verwendete Begriffe wie „Lernen“, „Erkennen“, „Verstehen“ unreflektiert verwendet und dadurch Erwartungen an Systeme der Künstlichen Intelligenz genährt, die sie nicht erfüllen können.[18] Dazu stoßen solche Systeme – wie jedes Computersystem – an Grenzen der Komplexität und der Berechenbarkeit.[19]

Zu den in der Praxis gebräuchlichen KI-Verfahren gehören Verfahren des sogenannten Maschinellen Lernens. Maschinelles Lernen verwendet oft große Datenmengen („Big Data“), was ein neues wissenschaftliches Gebiet, Data Science, hervorgebracht hat. Die Leistungsfähigkeit solcher Systeme ergibt sich aus der Leistungsexplosion der Rechnersysteme in den letzten Jahren. Sie macht es heute möglich, umfangreiche Datenmengen in kürzester Zeit zu durchsuchen und zu analysieren.

Im Grundsatz geht es beim maschinellen Lernen darum, bereitgestellte Daten – oft auch in einem kontinuierlichen Strom – aufgrund ihrer Eigenschaften in unterschiedliche Klassen einzuordnen, zu annotieren und dabei gleichzeitig die Klassen so anzupassen, dass eine geeignete Klassifizierung für das zu lösende Problem oder die Anfrage entsteht.[20] Man spricht auch von algorithmischer Entscheidungsfindung (Algorithmic Decision Making, ADM).[21]

Ein einfaches Beispiel wäre ein Klassifikator, der Bilder von Hunden und Katzen unterscheidet. Dazu würde man Eigenschaften suchen, die bei Hunden und Katzen unterschiedlich sind, eine Klassifizierung anhand dieser Eigenschaften vornehmen und die beiden Klassen mit den Namen „Hund“ und „Katze“ etikettieren. Da diese Eigenschaften nicht immer eindeutig zu bestimmen sind, werden sich dabei Fehler ergeben. Um diese Fehler zu beheben, passt man die Schwellwerte der Unterscheidung in mehreren Durchläufen immer wieder an, so dass sich bei jeder Iteration eine bessere Klasifizierung ergibt. Ziel ist, dass das System am Ende die Unterscheidung mit hinreichender Genauigkeit vornehmen kann: Es hat „gelernt“.

Analog würde man z. B. vorgehen, wenn man Menschen nach Parteipräferenz klassifizieren möchte: Auch hier legt man Eigenschaften fest, die für Anhänger*innen einer bestimmten Partei typisch sind. Nach mehreren Iterationen wird man dann Einzelpersonen mit hoher Wahrscheinlichkeit einer Partei zuordnen können.

Der eigentliche Algorithmus ist dabei die Berechnungsvorschrift, die das Lernen steuert. Dieser wird i. d. R. vom Anwendungsbereich unabhängig sein. Er „lernt“ aus den vorhandenen Daten und – und das ist Teil des Problems – reproduziert dabei die Strukturen, d. h. die Einschätzungen und Vorurteile, die in diesen Daten enthalten sind.[22]
Grundsätzlich können drei Arten von Lernverfahren unterschieden werden:[23]

• Unüberwachtes Lernen: Das System „lernt“ ohne Vorgaben und findet dabei Strukturen und Muster in den bereitgestellten Daten. Diese Muster müssen mit der inhaltlichen Frage nicht in Zusammenhang stehen.[24] Das Modell wird nach der Lernphase nicht mehr verändert.
• Überwachtes Lernen: Dem System werden Muster für erwartete Ergebnisse vorgegeben und während des Lernens überprüft, mit welcher Wahrscheinlichkeit eine Voraussage aus den Daten mit dem erwarteten Ergebnis übereinstimmt. Das Modell wird nach der Lernphase ebenfalls nicht mehr verändert.
• Bestärkendes Lernen: Das Modell wird während der Nutzung durch neue Daten laufend verbessert, indem die Schwellwerte der Klassifikatoren basierend auf den bisher erreichten Voraussageregeln in Feedbackschleifen angepasst werden.

Probleme durch statis­ti­sche Lernver­fahren

Die Ergebnisse maschinellen Lernens lösen in der Öffentlichkeit gelegentlich Unverständnis oder Empörung[25] aus. Sie fußen auf grundsätzlichen Einschränkungen der Modellbildung und des maschinellen Lernens, das auf Modellen der Wirklichkeit aufbaut. Solche Modelle sind immer unvollständig und können lediglich einen Ausschnitt der wirklichen Welt abbilden. Die Einschränkungen der Modelle wirken sich dann auf die Ergebnisse der „erlernten“ Voraussagen aus.

• Maschinelles Lernen baut auf den vorgefundenen Daten auf. Die Voraussagen eines lernenden Systems sind dabei höchstens so gut wie die Daten, aus denen es gelernt hat. Sind in den Daten z. B. Vorurteile gegen Minderheiten eingeschrieben, so werden auch die Voraussagen entsprechend ausfallen.
• Sieht das Lernverfahren kein Feedback vor – wie es beim unüberwachten Lernen der Fall ist – führt das zusätzlich dazu, dass Fehler nicht korrigiert werden; auch dann, wenn falsche Klassifizierungen (für den Menschen) offensichtlich sind.[26]
• Doch auch Feedbackschleifen können weitere Fehler nach sich ziehen. Führen beispielsweise Anfragen an eine Suchmaschine dazu, dass im Eingabefeld entsprechende Ergänzungen vorgenommen werden, wird dies wiederum die Wahrscheinlichkeit erhöhen, dass diese Anfragen geklickt werden – und so weiter.[27]

Solche Probleme führen im schlimmsten Fall zu Programmiertem Rassismus.[28] Die Klassifizierung einer afroamerikanischen Frau als Gorilla ist nur ein Beispiel aus der praktischen Anwendung solcher Systeme, das verständliche Empörung hervorruft.[29] Besonders kritisch ist es, wenn auf Basis derart trainierter Systeme Entscheidungen getroffen werden, die einen massiven Einfluss auf das Leben von Menschen haben, beispielsweise bei der maschinell unterstützten vorausschauenden Polizeiarbeit (Predictive Policing).[30]

Dabei können rassistische Effekte an Stellen auftauchen, an denen sie zunächst niemand erwartet hatte – einfach, weil die Lernalgorithmen Korrelationen aufweisen, die (noch) keine kausale Begründung liefern.[31] Der zitierte Beitrag verweist auf den Fall, dass eine Software in den USA zur Auswahl von BewerberInnen den Zusammenhang zwischen Entfernung vom Wohnort zum Arbeitsplatz und der Fluktuation erkannte und empfahl, MitarbeiterInnen einzustellen, die nahe am Arbeitsplatz wohnen. Dies führt zur Benachteiligung von AfroamerikanerInnen, die häufiger als Weiße in Außenbezirken leben. Letztlich reproduziert auch dies bereits bestehende Benachteiligungen.

Algorithmenethik

Es ergibt sich die Frage nach einem verantwortungsvollen Einsatz solcher Software bzw. nach einem vielfach geforderten Algorithmen-TÜV.[32] Zweifellos ist es sinnvoll, die für möglicherweise existenzielle Entscheidungen verwendeten Algorithmen einer Prüfung zu unterziehen. Dies könnte durch Behörden erfolgen, die den Datenschutzbehörden vergleichbar sind. Solange solche Behörden, die multinationalen Konzernen mit erheblichen Ressourcen gegenüberstehen, nur unzureichend finanziell und personell ausgestattet sind, keimt hier aber wenig Hoffnung auf eine effektive Kontrolle auf.

Algorithmen können keine Eigenschaften wie objektiv, intelligent, gut oder böse zugeschrieben werden. Sie sind korrekt, effizient, sparsam, schnell, adaptiv.[33] Das sind Eigenschaften, die ein Algorithmen-TÜV überprüfen könnte. Ein Sortieralgorithmus kann anhand geeigneter Kriterien sowohl für die Sortierung von Brötchen als auch für die Sortierung von Menschen eingesetzt werden. Offensichtlich ist nicht der Algorithmus selbst das Problem, sondern sein Verwendungskontext. Eine Kontrolle, die sich auf den Algorithmus allein konzentriert, geht damit am Problem vorbei.

Es gibt noch einen weiteren Grund, warum ein Kontrolle der Algorithmen ins Leere läuft. Wie oben gesehen, basieren die Lernergebnisse von (Lern-) Algorithmen auf den vorgegebenen Modellen und bereitgestellten Daten, mit denen sie „trainiert“ werden und deren eingeschriebene Vorurteile sie letztlich reproduzieren. Andererseits ist auch eine Anpassung der Daten und Modelle problematisch: Was sind denn „faire“ Daten? Und wer kann darüber bestimmen? Es müsste ein gesellschaftlicher Konsens darüber gebildet werden, welche Daten und Modelle als Basis des Lernens dieser Systeme angewendet werden sollen – angesichts der politischen Verhältnisse mit unterschiedlichen Wertvorstellungen und Präferenzen dürfte dies eine große Herausforderung sein.

Ein anderer Ansatz sind Ethische Leitlinien für die Gestalter*innen und Entwickler* innen von KI-Systemen, wie es sie für die Informatik als Disziplin bereits seit langem gibt.[34] Die Europäische Kommission hat Ethische Leitlinien für Künstliche Intelligenz vorgeschlagen.[35] Solche Ansätze bleiben aber zahnlos, wenn Verstöße dagegen nicht sanktioniert werden.

Stets sind es Menschen und Organisationen[36], die über den Einsatz von solchen Algorithmen entscheiden. Algorithmen kann keine eigene Entscheidungs- oder Handlungsmacht zugebilligt und damit auch keine Maschinenethik von ihnen eingefordert werden.

Folgen für die Politik

Die zunehmende Anwendung von Methoden der Künstlichen Intelligenz hat Folgen für die Politik. Eine Studie der Stiftung neue Verantwortung nennt – mit Blick auf die Außenpolitik, aber in Teilen auch übertragbar auf innenpolitische Fragen – drei Bereiche, in denen sich politische Herausforderungen ergeben:[37]

• Wirtschaftliche Disruption und wirtschaftliche Chancen,
• Sicherheit und autonome Waffensysteme,
• Demokratie und Ethik.

Die nächsten Abschnitte reißen die beiden ersten Punkte kurz an, legen aber dann einen besonderen Schwerpunkt auf Methoden des Microtargeting als Frage der Demokratie und politischen Ethik.

Wirtschaft

Der Treiber für KI-Technologien sei primär ökonomisch, stellt die Stiftung neue Verantwortung in ihrer Studie[38) fest. Es wird erwartet, dass beispielsweise autonomes Fahren die Automobilindustrie erheblich verändern wird. Außenpolitisch werden Regierungen bestrebt sein, die Interessen der eigenen Wirtschaft im globalen Markt zu wahren. Erforderlich ist aus Sicht der Stiftung aber vor allem ein Risikomanagement mit Blick auf die Konzentration wirtschaftlicher Macht und Disruptionen des Arbeitsmarkts.

Doch auch für Verbraucher entstehen durch KI-Technologien neue Risiken, beispielsweise beim Scoring von Verbraucher*innen. Eine Studie der Gesellschaft für Informatik[39] nennt als zentrale Risiken das Kreditscoring – die Bewertung der Kreditwürdigkeit auf Basis einer statistischen Analyse – und die Preisdifferenzierung – unterschiedliche Preise für die gleiche Leistung, wobei nach zeitlichen, räumlichen, persönlichen oder sachlichen Kriterien differenziert werden kann. Als Gefährdungsszenarien werden genannt:

• Inhaltlich unrichtiger Algorithmus: Falsche Identifikation und Bewertung beim ADM und fehlerhafte Scores
• Diskriminierender Algorithmus: Anknüpfen des ADM an Merkmale, durch die sich eine direkte oder indirekte Diskriminierung ergeben kann
• Intransparent personalisierender Algorithmus: Diskriminierende Elemente bei den verwendeten Entscheidungskriterien, wenn z. B. die Preisfestsetzung nicht durch sachliche Kriterien gedeckt ist.

Auch besteht die Gefahr eines programmierten Rassismus, selbst bei vordergründig korrekt arbeitender Klassifikation.

Sicherheit und autonome Waffen­sys­teme

Der russische Präsident Wladimir Putin erklärte kürzlich: Wer KI beherrsche, der beherrsche die Welt. Die frühere Staatssekretärin im Bundesministerium der Verteidigung, Katrin Suder, ist ähnlicher Ansicht: „KI hat definitiv das Potenzial, die gesamte Dynamik im Cyberraum zu verändern. Es handelt sich um eine Fähigkeit, die Wirkungsüberlegenheit herstellen kann. Damit geht es um den Kern von Sicherheit.“[40]

Im militärischen Bereich spielen Roboter und unbemannte Flugsysteme (Unmanned Aerial Vehicles, UAV), umgangssprachlich „Drohnen“ genannt, eine immer größere Rolle.[41] Das US-amerikanische Department of Defense versteht unter einem autonomen Waffensystem:

„A weapon system that, once activated, can select and engage targets without further intervention by a human operator. This includes human-supervised autonomous weapon systems that are designed to allow human operators to override operation of the weapon system, but can select and engage targets without further human input after activation.“[42]

Noch setzt kein Staat vollautonome Waffen gegen Menschen ein. Sie sind bisher nicht in der Lage, zentrale Forderungen des Völkerrechts umzusetzen, wie z. B. die Unterscheidung zwischen Kombattant*innen und Zivilpersonen.[43]

Demokratie

Bei allen lern- und erkenntnistheoretischen Unzulänglichkeiten erlauben es die Ergebnisse des maschinellen Lernens, die Öffentlichkeit gezielt zu beeinflussen. Thomas Ramge[44] weist auf drei Hauptgefahren einer Anwendung schwacher KI für Politik und Gesellschaft hin:

• Monopolisierung von Daten: Netzwerkeffekte erhöhen den Nutzen digitaler Dienste – je mehr Menschen sich an dem Dienst beteiligen, desto größer ist ihr Nutzen für alle. Dieser Effekt wird verstärkt, wenn lernende Maschinen mit Feedbackschleifen für immer stärkeres Wachstum sorgen. Je öfter Dienste genutzt werden und je mehr Marktanteile sie erobern, desto schwerer wird ihr Vorsprung aufzuholen sein – das führt zu Monopolen.[45]
• Manipulation des Einzelnen: Monopole begünstigen Manipulation, da es keine Alternativen mehr gibt, auf die man ausweichen kann. Dies wird verstärkt, wenn wir immer mehr Aufgaben des täglichen Lebens an virtuelle, autonom lernende Assistenten delegieren. Dabei verlassen wir uns darauf, dass diese Agenten in unserem Sinne „entscheiden“ und „handeln“. Risiken entstehen dadurch, dass wir die hinter ihnen stehende Funktionslogik nicht kennen und auch nicht verstehen. Entscheidend ist die Frage, von und für wen ein Agent programmiert ist, in wessen Interesse er agiert. Welche Interessen nimmt ein virtueller Agent wahr, der von einem Unternehmen bereitgestellt wird, das uns Waren oder Dienstleistungen verkaufen will – oder das politische Programm einer bestimmten Partei favorisiert? Es müssen Wege gefunden werden, wie manipulierende oder betrügerische Agenten verhindert werden können.[46] Ein erster Schritt dahin wäre Transparenz – doch wie bereits oben dargelegt („Algorithmen-TÜV“), reicht das nicht aus.
• Missbrauch durch Regierungen: Software, die auf Künstlicher Intelligenz basiert, kann auch von staatlicher Seite für die Manipulation, Überwachung und Unterdrückung der Bevölkerung eingesetzt werden. Bereits heute erlaubt die großflächige Videoüberwachung öffentlicher Bereiche, kombiniert mit automatischer Gesichtserkennung und dem Abgleich der Daten mit biometrischen Datenbanken eine umfassende Überwachung großer Menschenmengen. Auch wenn die derzeitigen Ergebnisse entsprechender Großversuche noch nicht perfekt sind: Durch maschinelles Lernen werden diese Systeme weiter perfektioniert – das daraus resultierende Überwachungsnetz wird immer engmaschiger.

Politische Kommu­ni­ka­tion – Micro­tar­ge­ting und Nudging

Der erste Schritt des Microtargeting in der politischen Kommunikation ist die Klassifizierung der Wähler*innen nach politischen Präferenzen, um sie dann gezielt anzusprechen. Bereits im Wahlkampf des früheren US-Präsidenten Barack Obama nutzte dessen Wahlkampfteam massiv die Möglichkeiten des Internet und der sozialen Medien.[47] Durch den technischen Fortschritt der letzten Jahre wurden die Möglichkeiten der Personalisierung und damit der gezielten Ansprache massiv verbessert. Es war also zu erwarten, dass dies auch in Wahlkämpfen angewandt und die Wahlkampftechniken entsprechend angepasst und zunehmend verfeinert werden würden.

Ein verwandter Ansatz der Manipulation – politisch ebenso wie im Alltag – ist Nudging (engl. nudge = Schubs). Dabei handelt es sich um einen Ansatz aus der Verhaltensökonomik, bei dem menschliches Verhalten ohne Gebote, Verbote oder ökonomische Anreize beeinflusst wird.[48] Ein „klassisches“ Beispiel – noch ganz ohne jede Digitalisierung – ist die in manchen Urinalen abgebildete Fliege (bzw. das kleine Modell eines Fußballtors mit Ball), die Männer animieren soll, genauer zu „zielen“ – und so zur Senkung der Reinigungskosten beiträgt.[49]

Das hat mit KI zunächst nichts zu tun. Doch Nudging kann auch zur politischen Beeinflussung eingesetzt werden. Das durch fortgeschrittene Methoden der Datenanalyse erworbene Wissen über Gewohnheiten, Vorlieben und Abneigungen kann mittels Microtargeting gezielt für Maßnahmen der politischen Manipulation genutzt werden, ebenso wie für die Manipulation von Verbraucher*innen; beispielsweise wenn sie animiert werden sollen, sich gesund zu ernähren. Mit derartigen Anstößen wird mittlerweile in der Sozialversicherung, bei Investmententscheidungen oder für den Umweltschutz gearbeitet.[50] Auch wenn es sich „nur“ um statistische Werte und Wahrscheinlichkeiten handelt, ergeben sich daraus wertvolle Hinweise, auf welche Anreize bestimmte Gruppen von Menschen wie reagieren.

Im Gegensatz zu einer dialogorientierten politischen Kommunikation, die um das bessere Argument und die bessere Lösung ringt, werden im Wahlkampf durch Microtargeting gezielt Werbebotschaften platziert, die – auch manipulativ – Wähler*innen zur Stimmabgabe für die eigene Partei bewegen oder die Stimmabgabe für Kontrahent*innen verhindern sollen, indem sie beispielsweise potenzielle Wähler*innen der Gegenseite von der Stimmabgabe abzubringen versuchen (Demobilisierung). Microtargeting nutzt dabei die Differenzierungsmöglichkeiten, die sich aus den individuellen Informationen über Einzelpersonen ergeben. Aspekte, die mit den Zielen der jeweils umworbenen Person in Einklang stehen, werden betont, Aspekte, die ihren Zielen widersprechen, gezielt ausgeblendet. Anstatt umfassender Kenntnis der Ziele einer Partei können an unterschiedliche Personen so völlig unterschiedliche Bilder vermittelt werden; jeweils so, wie es den persönlichen Vorlieben entspricht.

In welchem Umfang derartige Manipulation stattfindet, hängt nicht zuletzt auch von der Finanzkraft der beteiligten Interessengruppen ab. Wie alle Möglichkeiten der Manipulation durch Werbung steht auch das Microtargeting vor allem ressourcenstarken Akteuren zur Verfügung.

Unternehmen wie Google, Facebook oder Twitter sammeln diese Daten, werten sie aus und bekommen dadurch die Möglichkeit, Menschen nach Vorlieben beliebig zu klassifizieren – abhängig davon, welches Erkenntnisinteresse ihre jeweilige Kundschaft hat. Dies kann politisch, weltanschaulich, wirtschaftlich oder auch anderweitig motiviert sein. Es ist kein „Versehen“, das durch andere Regeln leicht aus der Welt geschafft werden kann: Es ist das Geschäftsmodell, auf dem die durch diese Unternehmen gestaltete Internet-Wirtschaft basiert.

Skandal! Facebook und Cambridge Analytica

Im März 2018 löste die Nutzung von Facebook-Profildaten durch das US-amerikanische Unternehmen Cambridge Analytica den sogenannten Facebook-Skandal aus.[51] Cambridge Analytica hatte mithilfe ihrer Facebook-App thisisyourdigitallife Daten von Facebook-Nutzer*innen und ihren Kontakten ausgelesen, unter politischen Gesichtspunkten ausgewertet und die gewonnenen Erkenntnisse für die Kampagne von Donald Trump im US-Präsidentschaftswahlkampf genutzt.

Für Insider war dies freilich nichts Neues; bereits zuvor hatte die Datenanalystin Cathy O‘Neil darauf hingewiesen:

„Zurzeit üben Mammutfirmen wie Google, Amazon und Facebook eine enorme Kontrolle über die Gesellschaft aus, weil sie die Daten kontrollieren. Sie sacken riesige Profite ein, laden dabei aber die Verantwortung, die Fakten zu prüfen, bei anderen ab. Es ist kein Zufall, dass Steve Bannon, selbst während er gezielt daran arbeitet, das öffentliche Vertrauen in Wissenschaft und wissenschaftliche Fakten zu untergraben, im Verwaltungsrat von Cambridge Analytica sitzt – einer politischen Datenfirma, die behauptet, sie habe Trump zu seinem Wahlsieg verholfen, während sie zugleich damit prahlt, geheime ,Voter suppression‘-Kampagnen durchgeführt zu haben, um bestimmte Wählergruppen von der Stimmabgabe abzuhalten.“[52]

Es wird angenommen, dass sogenannte Filter Bubbles und Echokammern das Microtargeting zusätzlich verstärken – auch wenn es bisher keine Studien gibt, die das explizit nachweisen.[53] Einmal gefasste Meinungen werden demnach immer wieder bestätigt und dadurch verstärkt, da der eigenen Auffassung widersprechende Positionen durch entsprechende Klassifikationsalgorithmen ausgefiltert werden. Radikalisierung wird dadurch gefördert, echte Kommunikation erschwert.

Ende Mai 2018 entschuldigte sich Facebook-Chef Mark Zuckerberg wegen des Facebook-Skandals in einer Anhörung des Europaparlaments dafür, dass sein Unternehmen der Verantwortung für die Verbreitung von Falschmeldungen („Fake News“), ausländischer Wahlbeeinflussung und widerrechtlichem Datenabfluss nicht gerecht geworden sei.[54] Zuckerbergs Antworten auf Fragen blieben aber unbefriedigend und unglaubwürdig, einige Fragen ließ er gänzlich unbeantwortet. Die Entschuldigung passte in eine lange Reihe von Rechtsbrüchen und anschließenden Beteuerungen seit der Gründung Facebooks; offensichtlich jedes Mal ohne nennenswerte Konsequenzen.[55] Falschmeldungen sollten mit Hilfe von Künstlicher Intelligenz bekämpft werden, ganz im Sinne des unkritischen Zeitgeists, der in der IT die „Lösung“ für alle komplexeren Gesellschaftsprobleme sieht.[56]

Cambrige Analytica wurde für das politische Ausnutzen von einigen Dutzend Millionen Datensätzen weltweit kritisiert, während das ganz normale Geschäftsmodell Facebooks genau darin besteht, die gleichen Methoden auf Milliarden Datensätze anzuwenden – sowohl für Produktwerbung als auch für politische Kampagnen.[57] Wir müssen damit rechnen, dass Techniken des Microtargeting und politischer Beeinflussung weiter verfeinert werden. Dadurch entstehen erhebliche Möglichkeiten der Manipulation der Öffentlichkeit – und in der Folge erhebliche Risiken für die Bürgerrechte, was Politik und Zivilgesellschaft unbedingt abwenden sollten und mit dem notwendigen Willen auch können. Ein konsequent zu Ende gedachter Datenschutz, klare Verantwortungszuschreibung und ein klarer Rechtsrahmen spielen dabei eine Schlüsselrolle.

Überwa­chungs­ka­pi­ta­lis­mus: Eine antide­mo­kra­ti­sche Kraft

Doch es gibt auch andere Stimmen: Shoshana Zuboff (s. Rezension in diesem Heft) beispielsweise geht noch einen Schritt weiter, indem sie einen allgegenwärtigen Überwachungskapitalismus skizziert, der grundsätzlich gegen die Demokratie gerichtet ist:

„Durch die erfolgreiche Durchsetzung des Anspruchs auf Freiheit und Wissen sowie auf seine strukturelle Unabhängigkeit vom Menschen – weder als Angestellte noch als Kundschaft – manövriert uns der Überwachungskapitalismus heute mittels der radikalen Indifferenz, die diese Ansprüche sowohl bedingen als auch ermöglichen und aufrechterhalten, einer Gesellschaft entgegen, in der der Kapitalismus nicht länger als Mittel inklusiver politischer und ökonomischer Institutionen funktioniert. Stattdessen müssen wir den Überwachungskapitalismus als das anerkennen, was er ist: eine zutiefst antidemokratische soziale Kraft.“[58]

Lösungs­an­sätze: Datenschutz ist Demokra­tie­schutz

Macht es da noch Sinn, über Alternativen nachzudenken? Ein Ansatz, mit den Risiken des Überwachungskapitalismus umzugehen, ist der Datenschutz. Bekanntlich wurde am 25. Mai 2018 die europäische Datenschutz-Grundverordnung (DSGVO) wirksam. Auf der 95. Datenschutz-Konferenz Ende April 2018 in Düsseldorf setzten sich die Datenschutzbeauftragten des Bundes und der Länder mit den Vorfällen um Cambridge Analytica auseinander.[59] „Der Datenskandal um Facebook und Cambridge Analytica wirft ein Schlaglicht auf den Umgang mit Millionen Nutzerdaten“, stellen sie fest. „Das Vorkommnis zeigt … die Risiken für Profilbildung bei der Nutzung sozialer Medien und anschließendes Mikrotargeting, das offenbar zur Manipulation von demokratischen Willensbildungsprozessen eingesetzt wurde.“

Die Datenschutzbeauftragten fordern:

1. Ausrichtung der Geschäftsmodelle sozialer Netzwerke auf die neuen europäischen Datenschutzregelungen einschließlich angemessener Vorkehrungen gegen Datenmissbrauch.
2. Offenlegung, in welchem Umfang die Facebook-Plattform für App-Anbieter geöffnet wird, Nennung belastbarer Zahlen betroffener Personen und Information Betroffener über Rechtsverletzungen.
3. Sicherstellung, dass die Vorgaben der DSGVO rechtskonform umgesetzt werden.
4. Entflechtung des Facebook-Konzerns mit Blick auf das Wettbewerbs- und Kartellrecht, wenn sich das Unternehmen wettbewerbswidrige Vorteile durch systematische Umgehung des Datenschutzes verschafft; europäische Initiativen, um monopolartige Strukturen zu begrenzen und Transparenz von Algorithmen herzustellen.

Inwieweit diese Forderungen international durchgesetzt werden und langfristig wirksam sind, hängt wesentlich vom politischen Willen nicht zuletzt Deutschlands und Europas ab. Es ist aber zweifellos wichtig, dass sich die Gesellschaft mit dem Einfluss der Algorithmen in Wirtschaft und öffentlicher Verwaltung beschäftigt und dass deren Parameter sowie Optimierungskriterien offen gelegt werden. Der Datenschutz soll dabei helfen, die Machtasymmetrien zwischen strukturell begünstigten Organisationen und natürlichen Personen zu thematisieren und für wirksame Schutzmaßnahmen für die Betroffenen zu sorgen.[60]

Wichtig ist dabei: Datenschutz schützt genau so wenig die Daten, wie Lärmschutz den Lärm schützt. Datenschutz schützt Menschen – vor der Übergriffigkeit großer Organisationen, die aus einer Machtposition heraus agieren. Versuchen, den Datenschutz im Allgemeinen und die DSGVO im Besonderen durch scheinbar absurde Beispiele lächerlich zu machen,[61] muss mit aller Macht entgegengetreten werden. Solche Beispiele verweisen aber neben aller Polemik auch auf einen möglichen Konstruktionsfehler der DSGVO, den Alexander Roßnagel bereits angesprochen hat: die angestrebte Technikneutralität der Verordnung, die aus seiner Sicht völlig verschiedene Risikoklassen vermengt und damit das Ausmaß der tatsächlich entstehenden Risiken aus dem Blick verliert: „In keiner Regelung werden die spezifischen Grundrechtsrisiken z. B. von smarten Informationstechniken im Alltag, von Big Data, Cloud Computing oder datengetriebenen Geschäftsmodellen, Künstlicher Intelligenz und selbstlernenden Systemen angesprochen oder gar gelöst. Die gleichen Zulässigkeitsregeln, Zweckbegrenzungen oder Rechte der betroffenen Person gelten für die wenig riskante Kundenliste beim ,Bäcker um die Ecke‘ ebenso wie für diese um Potenzen risikoreicheren Datenverarbeitungsformen.“[62]

Der Datenschutz stellt klare Kriterien bereit, deren Erfüllung bei der Einhegung des maschinellen Lernens und der schwachen KI helfen. Sie sind im Standard-Datenschutzmodell[63] festgehalten. Dabei werden die klassischen Schutzziele der IT-Sicherheit durch weiterführende Schutzziele ergänzt:

• Vertraulichkeit: Die Verarbeitung personenbezogener Daten muss so gestaltet sein, dass nur Befugte auf Daten, IT-Systeme und Prozesse zugreifen können.
• Integrität: Daten dürfen nicht verfälscht werden, bzw. wenn sie verfälscht werden, muss dies erkennbar und korrigierbar sein. Die Verarbeitung personenbezogener Daten und die dafür zulässigen Funktionen ergeben sich aus dem Zweck der Datenverarbeitung; Abweichungen vom Zweck müssen erkennbar, beurteilbar und korrigierbar sein.
• Verfügbarkeit: Erwartete Maßnahmen müssen bzgl. Daten, IT-Systemen und Prozessen zeitnah und in einer definierten Qualität erbracht werden können.
• Transparenz: Die verarbeiteten Systeme, die Systeme, die Funktionsweise und die Wirkungen einer Verarbeitung müssen verständlich sein. Die Datenverarbeitung muss prüfbar sein – anhand von Datenschutzerklärungen, Einwilligungen, Verträgen, Spezifikationen, Dokumenten, Log- und Protokolldateien.
• Nicht-Verkettung: Die Verarbeitung von Daten, IT-Systemen und Prozessen unterschiedlicher Verfahren muss getrennt erfolgen und nicht verknüpfbar sein. Dies erfordert Datenminimierung, politische Gewaltenteilung, unabhängige Marktakteure und die Berücksichtigung unterschiedlicher politischer Interessen (Diversität). Es schließt die Zweckbindung ein – Daten, die für unterschiedliche Zwecke erhoben werden, dürfen nicht nachträglich verknüpft und gemeinsam ausgewertet werden.
• Intervenierbarkeit: Die technische Verarbeitung personenbezogener Daten muss verändert oder auch angehalten werden können.

Entscheidend ist, diese Anforderungen auch in KI-Systemen konsequent umzusetzen. Die Betreiber*innen von KI-Systemen dürfen sich nicht darauf zurückziehen, dass sie deren Funktionsweise nicht mehr kontrollieren können. Für alle Formen der KI muss den Betreibenden eine klare Verantwortung zugeschrieben werden.

Eine klare Verantwortungszuschreibung bedeutet aber auch: Es ist immer klar, wer für die Ergebnisse von KI-Systemen zu Rechenschaft gezogen werden kann. Hier sind die Politik und der Gesetzgeber gefragt: Sie müssen dafür sorgen, dass ein klarer Rechtsrahmen die Nutzung von Systemen der Künstlichen Intelligenz reguliert und dadurch Rechtsstaatlichkeit und Demokratie gewährleistet.

STEFAN HÜGEL   ist Diplom-Informatiker und studierte in Karlsruhe und Freiburg im Breisgau. Er ist als IT-Berater tätig. Ehrenamtlich ist er als Vorsitzender des Forums InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF) sowie als Mitglied des Bundesvorstands der Humanistischen Union aktiv. Zu seinen Themenschwerpunkten gehören Netzpolitik, Datenschutz, IT-Sicherheit, die Auswirkungen Künstlicher Intelligenz sowie Information Warfare.

*Der Beitrag basiert in Teilen auf Hügel S, Rehak R (2019) Künstliche Intelligenz im Wahlkampf. Grundrechte-Report 2019. Frankfurt/M.: Fischer-Verlag (im Erscheinen). Dank an Britta Schinzel, Hans-Jörg Kreowski, Sven Lüders und Rainer Rehak für wertvolle Hinweise.

Anmerkungen:

1 Weizenbaum J. (1987 [1976]): Die Macht der Computer und die Ohnmacht der Vernunft, 2. Auflage. Frankfurt am Main: Suhrkamp, S. 268.

2 Was 1968 als harmloser Schlager daherkam, ist heute in einigen Bereichen durchaus Realität, vgl. Dating-Apps wie Tinder. Ob das schon Künstliche Intelligenz ist, wäre zu diskutieren (Quelle: https://genius.com/France-gall-der-computer-nr-3-lyrics).

3 Ramge T. (2018): Mensch und Maschine. Wie Künstliche Intelligenz und Roboter unser Leben verändern. Stuttgart: Reclam.

4 Wahlster W. (2015): „Künstliche Intelligenz ist besser als natürliche Dummheit“. Interview, Jan-Bernd Meyer, CIO, https://www.cio.de/a/kuenstliche-intelligenz-ist-besser-als-natuerliche-dumm heit,3230970,2.

5 Futurezone (2017): Facebook: Gezielte Werbung für unsichere und gestresste Teenager, https://www.futurezone.de/digital-life/article210422803/Facebook-Gezielte-Werbung-fuer-unsichere-und-gestresste-Teenager.html

6 Der Begriff geht auf den Universalgelehrten und Mathematiker Al-Chwarizmi zurück, der um 800 u. Z. hauptsächlich in Bagdad lebte: Wikipedia, Stichwort „Al-Chwarizmi“, https://de.wikipedia. org/wiki/Al-Chwarizmi.

7 „Endlich viele“ bezieht sich auf die Beschreibung des Algorithmus, nicht darauf, ob ein Algorithmus nach endlich vielen Schritte zum Halten kommt. Ein grundsätzliches Problem der theoretischen Informatik ist das Halteproblem: Es kann nachgewiesen werden, dass es keinen Algorithmus gibt, der für alle Algorithmen und beliebige Eingaben entscheiden kann, ob ihre Ausführung an ein Ende kommt.

8 Ein einfaches Beispiel für einen Algorithmus in der Offline-Lebenswelt wäre ein parametrisiertes Kochrezept, in dem die Zutaten (also i. w. S. die „Daten“) und die Verarbeitungsschritte beschrieben und abhängig von den Eingabevariablen unterschiedliche Ausgaben geliefert werden. Die Wikipedia liefert verschiedene Definitionen für Algorithmen unter: Wikipedia (en.), Stichwort „Algorithm characterizations“, https://en.wikipedia.org/wiki/Algorithm_characterizations.

9 Schinzel B. (2018): Workshop „Algorithmen: schuldig oder unschuldig?“ FIfF-Kommunikation 1/2018, S. 60-61.

10 Ebd.

11 Manovich L. (2018): Media Analytics & Gegenwartskultur, in: Engemann C, Sudmann A Hg. (2018) Machine Learning. Medien, Infrastrukturen und Technologien der Künstlichen Intelligenz. Bielefeld: transcript, S. 269-288.

12 J. McCarthy (1955), zit. n. Ertel W. (2016): Grundkurs Künstliche Intelligenz. 4. Auflage. Wiesbaden: Springer Vieweg.

13 Turing A. M. (1992 [1950]): Maschinelle Rechner und Intelligenz, in: Hofstadter DR, Dennett DC (1992 [1981]) Einsicht ins Ich. Fantasien und Reflexionen über Selbst und Seele. Stuttgart: Klett-Cotta im Deutschen Taschenbuch-Verlag, S. 59-72.

14 Wikipedia, Stichwort „Künstliche Intelligenz“, https://de.wikipedia.org/wiki/Künstliche_Intelligenz.

15 Searle J. R. (1992 [1980]): Geist, Gehirn, Programm, in: Hofstadter DR, Dennett DC (1992 [1981]) a.a.O., S. 337-356.

16 Eine frühe Implementierung dieses Konzepts ist das Sprach-Analyse-Programm ELIZA, mit dem auf diese Weise „Gespräche“ simuliert werden können, s. Weizenbaum J. (1987 [1976]): a.a.O., S. 14ff.

17 Polemisch-überspitzt könnte man sagen: Wenn es funktioniert, ist es keine Künstliche Intelligenz mehr. Es ist natürlich letztlich nur eine Frage der Wahrnehmung.

18 Kritisch zur Vermenschlichung der Computer: Rehak, R. (2016), Die Macht der Vermenschlichung und die Ohnmacht der Begriffe. FIfF-Kommunikation 2/2016, S. 45-46. Ich verwende den allgemein gebräuchlichen Begriff des maschinellen Lernens hier dennoch im Bewusstsein, dass maschinelles „Lernen“ von menschlichem Lernen abgegrenzt werden muss.

19 Nicht-berechenbare Aufgaben können durch ein Computersystem mathematisch beweisbar nicht erfüllt werden (vgl. z. B. Kfoury A. J., Moll R. N., Arbib M. A. (1986): A Programming Approach to Computability, 2nd printing, New York, Heidelberg, Berlin: Springer-Verlag). Hohe Komplexität der Berechnung kann dazu führen, dass die technische Leistungsfähigkeit von (heutigen) Systemen nicht dazu ausreicht. (Dies macht man sich z. B. bei Verschlüsselungsverfahren zu nutze.)

20 Eine gut verständliche Einführung gibt es auch als Video eines Vortrags beim 35. Chaos Communication Congress (35c3): teubi (2018): Introduction to Deep Learning, https://media.ccc.de/v/35c3-9386-introduction_to_deep_learning.

21 Gesellschaft für Informatik (2018a): Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren. Studien und Gutachten im Auftrag des Sachverständigenrats für Verbraucherfragen. Berlin: Sachverständigenrat für Verbraucherfragen, http://www.svr-verbraucherfragen.de/wp-content/uploads/GI_Studie_Algorithmenregulierung.pdf.

22 Darum führt der Vorschlag eines „Algorithmen-TÜV“ in die Irre. Er könnte lediglich prüfen, ob der Lernalgorithmus korrekt arbeitet, also die vorgefundenen Daten korrekt klassifiziert.

23 Ng A., Soo K. (2017): Data Science – Was ist das eigentlich? Algorithmen des maschinellen Lernens verständlich erklärt. Berlin: Springer-Verlag.

24 Beispielsweise könnte sich während der Lernschritte ein Zusammenhang zwischen der Haarfarbe und der Parteipräferenz herausstellen – offensichtlich kein inhaltlich sinnvolles Merkmal für die Klassifizierung. Solche Klassifizierungen sind i. d. R. durch die Einschränkungen des zum Lernen verwendeten Datenbestands verursacht. Das führt dazu, dass die Klassifikation nicht mehr nachvollziehbar ist und die korrekte Einordnung auch nicht mehr überprüft werden kann.

25 Kühl E. (2015): Gesichtserkennung: „Meine Freundin ist kein Gorilla“, Zeit Online, https://www.zeit.de/digital/internet/2015-07/google-fotos-algorithmus-rassismus/komplettansicht.

26 Auf diese Problematik weist O‘Neil anhand von Beispielen hin: O‘Neil C. (2017): Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden. München: Carl-Hanser-Verlag.

27 Dies musste Bettina Wulff, die Frau des ehemaligen Bundespräsidenten, feststellen, als ihr Verbindungen zum Rotlichtmilieu unterstellt wurden. Nachdem die Google-Suche im Eingabefeld entsprechende Vervollständigungen anbot, erhöhte sich auch die Klickrate, was wiederum – zusammen mit der öffentlichen Berichterstattung – diese Vervollständigung weiter förderte. Abhilfe kann dadurch geschaffen werden, dass bestimmte „unerwünschte“ Ergänzungen eliminiert werden – was in der Praxis nicht immer möglich sein wird und strenggenommen die Lernergebnisse verfälscht.

28 Wolfangel E. (2018): Programmierter Rassismus, Zeit Online, https://www.zeit.de/digital/internet/ 2018-05/algorithmen-rassismus-diskriminierung-daten-vorurteile-alltagsrassismus/komplettansicht.

29 Kühl E. (2015), a.a.O.

30 Angwin J., Larson J., Mattu S., Kirchner L. (2016): Machine Bias, ProPublica, https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing; vgl. auch Krafft T. D. (2018): Qualitätsmaße algorithmischer Entscheidungssysteme in der Kriminalprognostik, FIfF-Kommunikation 1/2018, S. 50-55.

31 Wolfangel E. (2018), a.a.O.

32 Schinzel B. (2018), a.a.O.

33 Schinzel B. (2017): Algorithmen sind nicht schuld, aber wer oder was ist es dann? FIfF-Kommunikation 2/2017, S. 5-9.

34 z. B. Gesellschaft für Informatik (2018b): Unsere ethischen Leitlinien. Verabschiedet vom Präsidium der GI am 29. Juni 2018, https://gi.de/fileadmin/GI/Allgemein/PDF/GI_Ethische_Leitlinien_ 2018.pdf.

35 Europäische Kommission (2018): Ethics Guidelines for Trustworthy AI. High-Level Expert Group on Artificial Intelligence, Draft, https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=57112

36 Rost M. (2017): Bob, es ist Bob! FIfF-Kommunikation 4/2017, S. 63-66.

37 Scott B., Heumann S., Lorenz P. (2018): Artificial Intelligence and Foreign Policy. Policy Brief. Berlin: Stiftung neue Verantwortung, https://www.stiftung-nv.de/sites/default/files/ai_foreign_policy.pdf.

38 Scott B., Heumann S., Lorenz P. (2018), a.a.O., S. 2f.

39 Gesellschaft für Informatik (2018a), a.a.O., S. 13.

40 Suder K. (2018): „Es geht um den Kern von Sicherheit“. Interview, IP Internationale Politik 4/2018, S. 14-19.

41 Koch B., Schörnig N. (2017): Autonome Drohnen – die besseren Waffen? In: vorgänge Nr. 218 (2/2017), S. 43-53.

42 Department of Defense (2012): Autonomy in Weapon Systems. Directive No. 3000.09, https://www.esd.whs.mil/Portals/54/Documents/DD/issuances/dodd/300009p.pdf.

43 Koch B., Schörnig N. (2017), a.a.O., S. 45.

44 Ramge T. (2018), a.a.O.

45 Neben der hier thematisierten Manipulation haben Monopole natürlich auch wirtschaftliche Auswirkungen, s. o.

46 Im Dezember 2018 wurde über Pläne der Bundesregierung berichtet, eine Kennzeichnungspflicht für Social Bots einzuführen: Wittenhorst T. (2018): Bundesregierung erwägt Kennzeichnungspflicht für Social Bots, heise.de, https://www.heise.de/newsticker/meldung/Bundesregierung-erwaegt-Kennzeichnungspflicht-fuer-Social-Bots-4252095.html. Zu klären ist, wie eine solche Pflicht durchgesetzt werden kann, nachdem es gerade das Ziel bei Social Bots ist, dass sie nicht als solche erkannt werden.

47 Bertelsmann-Stiftung (Hg.) (2009): Lernen von Obama? Das Internet als Ressource und Risiko für die Politik. Gütersloh: Verlag Bertelsmann-Stiftung.

48 Eine positive Sicht auf Nudging vertreten Thaler R. H., Sunstein C. (2015 [2008]): Nudge. Wie man kluge Entscheidungen anstößt. 5. Auflage, Berlin: Ullstein.

49 Schieren S. (2016): Die Macht der Algorithmen. Politikum 1/2016, S. 4-12.

50 Thaler R. H., Sunstein C. (2015 [2008]), a.a.O.

51 Dachwitz I., Rudl T., Rebiger S. (2018): FAQ: Was wir über den Skandal um Facebook und Cambridge Analytica wissen. netzpolitik.org, https://netzpolitik.org/2018/cambridge-analytica-was-wir-ueber-das-groesste-datenleck-in-der-geschichte-von-facebook-wissen/.

52 O‘Neil C. (2017), a.a.O.

53 S. Pariser E. (2012): Filter Bubble. Wie wir im Internet entmündigt werden. München: Carl-Hanser-Verlag; Zweig K. A., Deussen O., Krafft T. D. (2017): Algorithmen und Meinungsbildung. Eine Grundlegende Einführung, in: Deussen O., Zweig K. A. (2017): Algorithmen und Meinungsbildung. Schwerpunktheft. Informatik-Spektrum 40(4), S. 318-326.

54 Holland M. (2018): Facebook-Datenskandal: Kaum Antworten von Zuckerberg im Europaparlament, Heise.de, https://www.heise.de/newsticker/meldung/Facebook-Datenskandal-Zuckerberg-entschuldigt-sich-im-Europaparlament-4055074.html.

55 Fowler G. A., Esteban C. (2018): 14 years of Mark Zuckerberg saying sorry, not sorry. https://www. washingtonpost.com/graphics/2018/business/facebook-zuckerberg-apologies/.

56 Holland M. (2018), a.a.O.

57 Rieger F. (2018): Facebook muss zerschlagen werden! https://www.br.de/radio/bayern2/sendungen/zuendfunk/frank-rieger-facebook-muss-zerschlagen-werden-100.html.

58 Zuboff S. (2018): Der dressierte Mensch. Die Tyrannei des Überwachungskapitalismus, Blätter für deutsche und internationale Politik 11‘18, S. 101-111. Der Text basiert auf Zuboff S. (2018): Das Zeitalter des Überwachungskapitalismus. Frankfurt, New York: Campus-Verlag.

59 Entschließung der 95. Datenschutz-Konferenz am 25./26. April 2018 in Düsseldorf: Facebook-Datenskandal – Neues Europäisches Datenschutzrecht bei Sozialen Netzwerken durchsetzen! DuD 7/2018, S. 447.

60 Rost M. (2018): Künstliche Intelligenz – Normative und operative Anforderungen des Datenschutzes, DuD 9/2018, S. 558–565.

61 Ein Beispiel, das von einigen Wochen durch die Medien ging beschäftigte sich mit der Frage, ob die EU-Datenschutz-Grundverordnung das Anbringen von Namensschildern an Türklingeln verbiete: dazu z. B. https://www.faz.net/aktuell/wirtschaft/datenschutz-verstossen-klingelschilder-gegen-die-dsgvo-15844615.html.

62 Roßnagel A. (2018): Datenschutz-Grundverordnung – was bewirkt sie für den Datenschutz? In: vorgänge Nr. 221/222 (1-2/2018), S. 17-29.

63 Das Standard-Datenschutzmodell wurde von den Datenschutzbehörden erarbeitet und ist hier zu finden: https://www.datenschutzzentrum.de/uploads/sdm/SDM-Methode_V1.1.pdf. Eine speziell auf die Problematik der KI ausgerichtete Darstellung findet sich in Rost M. (2018): a.a.O., S. 558–565. Eine leichtverständliche Einführung gab es beim 35. Chaos Communication Congress: Rehak R. (2018): Was schützt eigentlich der Datenschutz? Warum DatenschützerInnen aufhören müssen, von individueller Privatheit zu sprechen, https://media.ccc.de/v/35c3-9733-was_schutzt_eigentlich_ der_datenschutz.

Der Beitrag Künstliche Intelligenz und Politik* erschien zuerst auf Humanistische Union.

Wenn um das Recht auf Anonymität gestritten wird, geht es meist um digitale Kontexte. Michael Kuhn zeigt im folgenden Beitrag, dass der mit Anonymität verbundene Schutz keineswegs neu ist. Auch der grundrechtliche Schutz in der analogen Welt enthalte Vorkehrungen gegen die Identifizierung der/des Einzelnen, etwa bei Versammlungen oder politischen Meinungsäußerungen – ohne dass bisher ein Konzept der Anonymität explizit formuliert oder ihre Bedeutung für den grundrechtlichen Datenschutz voll erkannt wurde. Beim Anspruch auf Anonymität geht es nach Kuhn jedoch weniger um eine ja/nein-Entscheidung, sondern um unterschiedliche Intensitätsgrade ihrer Ausprägung, die dem jeweiligen grundrechtlichen Gefahrenpotenzial entsprechen. Vor diesem Hintergrund beschreibt der Beitrag die Bedeutung und die zu erwartende künftige Entwicklung der Anonymität im digitalen Raum. Nach Kuhns Einschätzung wird das Austarieren von Anonymität und Identifizierbarkeit entscheidend dafür sein, um die grundrechtlichen Werte in den digitalen Raum übertragen zu können.

Kaum ein Begriff steht für die Debatte um die Chancen und Risiken des digitalen Raums[1] so sehr wie Anonymität – Namenlosigkeit oder Nicht-Identifizierbarkeit. Er ist zum „ambivalenten Schlüsselbegriff unserer Zeit“[2] geworden.

Bereits im Ansatz scheinen sich dabei zwei konträre Sichtweisen gegenüberzustehen. Für die einen ist Anonymität eine Eigenart des digitalen Raums, die in der physischen Welt so nicht existiert. Sie wird verantwortlich gemacht für die Gefahr rechtsfreier Räume und eine Verrohung der Kommunikation, für die die Bezeichnung „Hasskommentar“ verwendet wird. Für andere ist Anonymität dagegen ein in der physischen Welt alltägliches Phänomen, das im digitalen Raum bedroht ist. Mehr noch, Anonymität wird als Grundrecht und zentraler Baustein des liberalen Verfassungsstaates angesehen.[3]

Dieses unterschiedliche Verständnis weist darauf hin, dass es sich bei Anonymität um mehr als um ein Schlagwort handelt. Die Fragen nach dem Umgang mit Anonymität im digitalen Raum erweisen sich vielmehr als die Zuspitzung der grundlegenden rechtlichen und sozialen Herausforderung, wie ein in der physischen Welt gewachsenes Verständnis von Freiheit in den digitalen Raum transformiert werden kann. Ist der digitale Raum ein Raum, in dem aufgrund seiner Andersartigkeit gefestigte Grundannahmen nicht mehr gelten können?

Das soll in vier Schritten diskutiert werden. Im ersten Teil „Das Recht auf Anonymität in der physischen Welt“ wird argumentiert, dass ein Recht auf Anonymität im Sinne eines ausreichenden Maßes an Anonymität als eine zentrale Komponente des grundrechtlichen Datenschutzes angesehen werden kann – auch wenn, zumindest im deutschen Rechtskreis, kein Recht auf Anonymität als eigenständige dogmatische Kategorie entwickelt wurde. Im zweiten Teil „Bedingungen für Anonymität im digitalen Raum“ wird skizziert, warum es erforderlich ist, einen Grundkonsens über ein ausreichendes Maß an Anonymität für den digitalen Raum neu zu entwickeln. Im dritten Teil „Das Recht auf Anonymität im digitalen Raum“ soll schlaglichtartig gezeigt werden, dass dies bisher nicht in ausreichendem Maß gelungen ist und es sollen die Gründe hierfür gesucht werden. Im abschließenden vierten Teil „Zukunft der Anonymität im digitalen Raum“ soll dargelegt werden, dass sich die Relevanz der gesamtgesellschaftlichen Aufgabe, einen solchen Grundkonsens zu entwickeln, zukünftig weiter erhöhen wird.

Das Recht auf Anonymität in der physischen Welt

Die politische und rechtliche Debatte um die Bedeutung von Anonymität als Recht ist erst mit der Entstehung und massenhaften Nutzung des digitalen Raums als Ort der Persönlichkeitsentfaltung in den Vordergrund gerückt und hat daher auch erst in den letzten gut zehn Jahren in der höchstrichterlichen Rechtsprechung Beachtung gefunden.[4] Dabei hat sich aber – zumindest in der bisherigen deutschen und europäischen Rechtsprechung – kein Grundrecht auf Anonymität als eigenständige dogmatische Kategorie herausgebildet. Zudem wird Anonymität im einfachen Recht nur vereinzelt explizit geschützt. Prominentestes Beispiel ist § 13 Absatz 6 Satz 1 TMG. Danach hat ein Anbieter von Telemediendiensten ihre Nutzung und ihre Bezahlung anonym oder unter Pseudonym zu ermöglichen, soweit dies technisch möglich und zumutbar ist.

Es würde aber zu kurz greifen, aus dieser oberflächlichen Betrachtung den Schluss zu ziehen, dass sich die Frage nach einem Recht auf Anonymität nur im digitalen Raum stellen würde oder sie gar generell nebensächlich wäre. Vielmehr kann man ein Recht auf Anonymität als zentrale Komponente des grundrechtlichen Datenschutzes ansehen.

In diese Richtung lässt sich bereits der Anknüpfungspunkt des Datenschutzes deuten – die Verarbeitung personenbezogener Daten. Das sind gemäß Artikel 4 Nr. 1 DSGVO alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen.[5] Die (mögliche) Identifizierung – d.h. Deanonymisierung – einer Person ist damit der Auslöser für das datenschutzrechtliche Regelungsregime. Sein Gegenstand kann damit auch und gerade als die Frage formuliert werden, gegenüber wem und unter welchen Bedingungen Anonymität gewährt, aufgehoben oder (wieder)hergestellt wird.

Bereits im Volkszählungsurteil, in dem das Bundesverfassungsgericht das Datenschutz-Grundrecht auf informelle Selbstbestimmung vor dem Hintergrund der Bedingungen moderner Datenverarbeitung entwickelt hat, finden sich weitere Hinweise auf die rechtliche Bedeutung von Anonymität für die Einzelnen und die Gesellschaft. Darin heißt es:

„Individuelle Selbstbestimmung setzt […] voraus, daß dem Einzelnen Entscheidungsfreiheit über vorzunehmende oder zu unterlassende Handlungen einschließlich der Möglichkeit gegeben ist, sich auch entsprechend dieser Entscheidung tatsächlich zu verhalten. […] Mit dem Recht auf informationelle Selbstbestimmung wären eine Gesellschaftsordnung und eine diese ermöglichende Rechtsordnung nicht vereinbar, in der Bürger nicht mehr wissen können, wer was wann und bei welcher Gelegenheit über sie weiß. Wer unsicher ist, ob abweichende Verhaltensweisen jederzeit notiert und als Information dauerhaft gespeichert, verwendet oder weitergegeben werden, wird versuchen, nicht durch solche Verhaltensweisen aufzufallen. Wer damit rechnet, daß etwa die Teilnahme an einer Versammlung oder einer Bürgerinitiative behördlich registriert wird und daß ihm dadurch Risiken entstehen können, wird möglicherweise auf eine Ausübung seiner entsprechenden Grundrechte (Art. 8, 9 GG) verzichten. Dies würde nicht nur die individuellen Entfaltungschancen des Einzelnen beeinträchtigen, sondern auch das Gemeinwohl, weil Selbstbestimmung eine elementare Funktionsbedingung eines auf Handlungsfähigkeit und Mitwirkungsfähigkeit seiner Bürger begründeten freiheitlichen demokratischen Gemeinwesens ist.“[6]

Betrachtet man diese Aussage vor der Folie eines Rechts auf Anonymität, lassen sich daraus zwei Schlussfolgerungen ziehen. Erstens ist es ein zentrales Anliegen des Rechts auf informationelle Selbstbestimmung, dass Menschen ihre Meinung kundtun dürfen, ohne dafür ihre Identität gegenüber dem Staat offenlegen zu müssen. Anders gewendet: es gibt ein legitimes Interesse, gegenüber dem Staat anonym zu bleiben, und dies selbst dann wenn man sich im öffentlichen Raum äußert. Zweitens wird der/die sich Äußernde darin geschützt, „Risiken“ vermeiden zu wollen, die mit der Meinungskundgabe verbunden sind. Ansonsten entsteht – nach später entwickelter Terminologie – ein Einschüchterungs- oder Abschreckungseffekt durch das Gefühl ständiger Beobachtung. Dieser betrifft nicht nur den einzelnen Menschen, sondern gefährdet mit Blick auf die Bedeutung freier Kommunikation auch das demokratische Gemeinwesen.

Allerdings wird Anonymität vom Bundesverfassungsgericht nicht direkt als individuelles Recht genannt. Ein Hinweis auf eine Erklärung warum das nicht geschehen ist, könnte darin liegen, dass das Gericht als Beispiel die unbeobachtete Teilnahme an einer Versammlung und nicht etwa ganz allgemein die unbeobachtete Meinungskundgabe wählte. So wurde in den USA die Ableitung eines expliziten Rechts auf Anonymität aus der Redefreiheit durch einen Fall angestoßen, der Meinungskundgabe in Form von anonymen Flugblättern betraf.[7] Im Gegensatz zu Flugblättern kann aber auf einer Versammlung von Vornherein keine absolute Anonymität hergestellt werden. Gesehen und erkannt werden können die Teilnehmenden an einer Versammlung im Regelfall grundsätzlich jederzeit. Die Möglichkeit, diese einer Identitätsfeststellung zu unterziehen, ist zudem durch das Vermummungsverbot der Versammlungsgesetze abgesichert. Die Anonymität, die als Grundbedingung eines freiheitlichen öffentlichen Raums vorausgesetzt wird, ist damit zunächst ein alltägliches Maß an faktischer, relativer Anonymität. Dieses Maß an Anonymität begrifflich als Anonymität zu fassen, mag vielleicht nicht naheliegend erscheinen, da der Begriff der Namenlosigkeit einen absoluten Schutz vor Identifizierung impliziert. Der Wirklichkeit entspricht es aber eher davon auszugehen, dass es stets nur abgestufte Grade von Anonymität geben kann. Das gilt sowohl bezüglich der Frage, gegenüber wem Anonymität besteht, als auch unter welchen rechtlichen Bedingungen oder mit wie viel technischem Aufwand diese Anonymität aufgedeckt werden kann. Unter dieser Prämisse ist ein Recht auf Anonymität auch grundsätzlich der Abwägung mit anderen Rechtsgütern zugänglich. Es erlangt erst durch eine solche Abwägbarkeit eine größere Bedeutungstiefe.

In späteren Entscheidungen hat das Gericht weiter herausgearbeitet, dass die Voraussetzungen einer jederzeitigen Identifizierbarkeit im öffentlichen Raum nicht geschaffen werden dürfen. Das gilt nicht nur für eine vorherige Registrierung, sondern auch und gerade für den Einsatz technischer Überwachung.[8] Jüngst hat das Gericht seine Rechtsprechung mit Blick auf die automatisierten Kennzeichenkontrollen noch verschärft. Dabei hat es festgestellt, dass diese auch dann in das Recht auf informationelle Selbstbestimmung eingreifen, wenn das Ergebnis zu einem „Nichttreffer“ führt und die Daten sogleich gelöscht werden. Dazu hat es ausgeführt:

„Zur Freiheitlichkeit des Gemeinwesens gehört es, dass sich die Bürgerinnen und Bürger grundsätzlich fortbewegen können, ohne dabei beliebig staatlich registriert zu werden, hinsichtlich ihrer Rechtschaffenheit Rechenschaft ablegen zu müssen und dem Gefühl eines ständigen Überwachtwerdens ausgesetzt zu sein (…). Jederzeit an jeder Stelle unbemerkt registriert und darauf überprüft werden zu können, ob man auf irgendeiner Fahndungsliste steht oder sonst in einem Datenbestand erfasst ist, wäre damit unvereinbar.“[9]

Vor diesem Hintergrund greift die mit Blick auf den digitalen Raum gelegentlich vertretenen Auffassung, nur die passiv-konsumtive Nutzung des Internets könne von einem Recht auf Anonymität gedeckt sein[10), zu kurz. Es ist gerade auch die freie Bewegung und Entfaltung im öffentlichen Raum, die nicht Gegenstand ständiger Beobachtung sein darf. Auch wenn grundsätzlich ein starkes Interesse an Identifizierung ein größeres Maß an Überwachung bedingen kann, so darf dieses Überwachungsinteresse nie zur ständigen Beobachtung führen. In Konsequenz heißt das auch, dass das Recht zwar einerseits eine effektive Gefahrenabwehr und Rechtsverfolgung durch die Möglichkeiten der Identifizierung gebietet, andererseits aber auch eine Identifizierung um jeden Preis verbietet. Anders gewendet: Ein Maß an Anonymität im öffentlichen Raum muss immer gewährleistet sein.

Bedingungen für Anonymität im digitalen Raum

Diese Grundsätze eines Rechts auf Anonymität gewinnen besondere Bedeutung im digitalen Raum. Auch dort kann es abgestufte Grade von Anonymität geben, die Rahmenbedingungen dafür sind aber andere als in der physischen Welt. Zwar ist im digitalen Raum einerseits die Kommunikation unter Nutzung von Pseudonymen alltäglich, anderseits ist Anonymität dort trotzdem keine faktische Selbstverständlichkeit. Jede Bewegung hinterlässt dort Datenspuren, die durch den technischen Fortschritt immer einfacher in noch größeren Mengen erfasst, gespeichert und ausgewertet werden können. Durch technische Maßnahmen können diese Spuren verringert oder verschleiert, aber nie ganz umgangen werden. Damit besteht im Grundsatz ein Umfeld der technischen Identifizierbarkeit.

Da das Internet privatrechtlich organisiert ist, fallen diese Spuren zunächst vor allem[11] bei den privaten Intermediären an, die den Zugang zum digitalen Raum und den dort angebotenen Diensten bereitstellen. Bei den Internetzugangsprovidern sind das Bestands- und Verkehrsdaten, bei genutzten Diensten Bestands- und Nutzungsdaten, die auch auf technischen Nachverfolgungsmechanismen („tracking„) basieren können.

Die privaten Intermediäre ermöglichen also die Bewegung im digitalen Raum, haben aber dadurch auch einen potentiell weitreichenden Einblick in diese Bewegungen. Nur wenige Intermediäre haben dabei das Ziel bzw. das Geschäftsmodell, diese Spuren zu minimieren. Insbesondere die Geschäftsmodelle der massenhaft genutzten Dienste wie Facebook oder Google beruhen vielmehr auch darauf, möglichst viele Daten zu einer Person zu sammeln, um wirtschaftlich verwertbare Aussagen zu deren Interessen treffen zu können. Staatliche Stellen können sich wiederum auf diese Daten zu Zwecken der Strafverfolgung oder Gefahrenabwehr Zugriffsmöglichkeiten schaffen.

Aber auch für Dritte ist Verhalten im Internet grundsätzlich identifizierbar. Das gilt auch, wenn keine Pflicht besteht, Klarnamen zu verwenden. Das zeigt sich besonders deutlich an den Internetprotokoll-Adressen (IP-Adressen). Das sind Nummern, anhand derer die Netzwerkanschlüsse der beteiligten Kommunikationspartner_innen identifiziert werden, um die Datenpakete bei der Übertagung zwischen diesen Beteiligten adressieren zu können. Bereits aus diesem Grund bietet jede Internetkommunikation grundsätzlich einen Anhaltspunkt für die Identifizierung des beteiligten Netzwerkanschlusses und damit der diesen Anschluss nutzenden Person.[12] Im Bereich der privaten Nutzung werden diese Adressen bisher häufig bei jeder neuen Verbindung mit dem Internet neu zugeteilt (dynamische IP-Adressen). Die Zuordnung einer IP-Adresse zu einem Anschluss ist damit grundsätzlich nur so lange möglich, wie der Internetzugangsprovider speichert, welchem Anschluss er zu einer bestimmten Zeit eine bestimmte IP-Adresse zugewiesen hat. Diese Art der Vergabe war allerdings dem beschränkten Adressraum nach dem Standard IPv4 geschuldet. Der neuere Standard IPv6 bietet einen so großen Adressraum, dass theoretisch jedem netzwerkfähigen Gerät zukünftig dauerhaft eine weltweit eindeutige IP-Adresse zugewiesen werden könnte.[13]

Das Recht auf Anonymität im digitalen Raum

Unter diesen knapp skizzierten Bedingungen der technischen Identifizierbarkeit im digitalen Raum kann die Grundannahme alltäglicher faktischer Anonymität in der physischen Welt dort nicht unverändert fortgelten. Daher muss für den digitalen Raum ein Grundkonsens von einem ausreichenden Maß an Anonymität neu entwickelt werden. Dabei kommt der Frage nach einem Recht auf Anonymität eine besondere Bedeutung zu, wenn es um das Austarieren von Anonymität und Identifizierbarkeit geht. Der in den Grundrechten zum Ausdruck kommende gesellschaftlichen Grundkonsens muss dabei der Maßstab für die konkret zu entscheidenden Fragen sein.

Anhand zweier kurzer Schlaglichter soll hier deutlich gemacht werden, dass eine Grundvorstellung von einem notwendigen Maß an Anonymität bisher nicht in ausreichenden Umfang entwickelt werden konnte. Dabei sollen Beispiele aus zwei unterschiedlichen Problemkreisen gewählt werden. Zum einen die Deanonymisierung direkt auf Betreiben Dritter zur zivilrechtlichen Rechtsverfolgung – zum anderen die Deanonymisierung auf Betreiben des Staates zu Strafverfolgung und Gefahrenabwehr.

Ein Beispiel aus dem ersten Problemkreis, der Deanonymisierung auf Betreiben Dritter, ist die Rechtsprechung des Bundesgerichtshofs zu Online-Bewertungsportalen. In diesem Rahmen hat sich der BGH explizit mit dem Schutz anonymer Meinungsäußerung beschäftigt. Dabei hat er ausgeführt, dass anonyme Bewertungen nicht nur der Meinungsfreiheit unterfallen, sondern auch keinen geringeren Schutz erfahren dürfen als nicht-anonyme Bewertungen. Ohne Anonymität bestünde nämlich die Gefahr, dass Menschen gerade im sensiblen Bereich der medizinischen Versorgung von einer Bewertung absehen könnten.[14] Um unter den beschriebenen Bedingungen der technischen Identifizierbarkeit eine Abwägung der schutzwürdigen Interessen der bewerteten Person mit der Anonymität der bewertenden Personen zu ermöglichen, hat der BGH dem Intermediär, also dem Bewertungsportal, eine zentrale Rolle zugewiesen. Wird etwa das Bestehen eines Behandlungskontaktes von der bewerteten Person bestritten, müsse sich das Portal an die bewertende Person wenden, um das Bestehen eines Behandlungskontakts zu überprüfen und dazu ggf. Nachweise anfordern.[15] 2014 hat der BGH noch entschieden, dass aufgrund fehlender Rechtsgrundlage – selbst bei persönlichkeitsrechtsverletzenden Bewertungen – kein direkter zivilrechtlicher Auskunftsanspruch der bewerteten Person über die Identität der bewertenden Person bestehen könne. Über eine solche Möglichkeit müsse der Gesetzgeber entscheiden.[16] Möglich war damit nur ein Unterlassungsanspruch gegenüber dem Bewertungsportal oder eine Strafanzeige gegen die bewertende Person.

Im Ergebnis lässt sich diese Argumentation als Drittwirkung des oben skizzierten Rechts auf Anonymität deuten, in deren Rahmen die Bedeutung und der Schutz von anonymer Kommunikation im digitalen Raum in bemerkenswerter Weise akzentuiert wurde. Allerdings hat der Gesetzgeber – in Reaktion auf diese Rechtsprechung – mit der Einführung des Netzwerkdurchsetzungsgesetzes einen zivilrechtlichen Auskunftsanspruch gegenüber Anbietern von Telemediendiensten geschaffen.[17] Gemäß § 14 Absatz 3 und 4 sowie § 15 Absatz 5 Satz 4 TMG kann nunmehr ein Diensteanbieter allgemein – also nicht nur soziale Netzwerke – verpflichtet werden, über Bestands- und Nutzungsdaten Auskunft an Dritte zu erteilen, um die Identität von nutzenden Personen offenzulegen. Notwendig ist die (behauptete) Verletzung absolut geschützter Rechte aufgrund rechtswidriger Inhalte, die von § 1 Absatz 3 des NetzDG erfasst werden. Mit dem Begriff der absolut geschützten Rechte verweist das Gesetz im Ergebnis auf § 823 Absatz 1 BGB und damit grundsätzlich auch auf eine mögliche Verletzung der kommerziellen Reputation des eingerichteten und ausgeübten Gewerbebetriebes.[18]

Zwar wurden im Gesetzgebungsverfahren noch die Beschränkung auf die durch das NetzDG erfassten Tatbestände und ein Richtervorbehalt eingeführt.[19] Dennoch bleibt der Eindruck, dass die vom BGH herausgearbeiteten Maßstäbe zu Bedeutung und Absicherung anonymer Meinungskundgabe nur unterkomplex diskutiert wurden. Das wird umso deutlicher, wenn man berücksichtigt, dass gleichzeitig einerseits die bereits erwähnte Verpflichtung eines Dienstanbieters besteht, die anonyme Nutzung zu ermöglichen (§ 13 Absatz 6 TMG)[20] und anderseits grundsätzlich keine rechtliche Verpflichtung für Diensteanbieter existiert, überhaupt Nutzerdaten zu erfassen.[21] Der Auskunftsanspruch richten sich damit auf Daten, die etwa für technische Kontrollzwecke gespeichert werden dürfen, aber eigentlich gelöscht werden müssen, sobald dieser Zweck erfüllt ist.[22]Eine Speicherpflicht entsteht – solange keine Vorratsdatenspeicherung Anwendung findet – erst mit der Anordnung einer Telekommunikationsüberwachung.[23] Zudem ist an dem gerichtlichen Auskunftsverfahren nur der Diensteanbieter beteiligt. Die eigentlich betroffenen Nutzer der Dienste, um deren Anonymität es geht, dürfen lediglich vom Diensteanbieter über die Einleitung des Verfahrens unterrichtet werden, § 14 Absatz 5 TMG.

Zu dem zweiten Problemkreis, der Deanonymisierung auf Betreiben des Staates, gehören die Urteile des Bundesverfassungsgerichts zur Vorratsdatenspeicherung und zur Bestandsdatenauskunft. Auch hier zeigt sich, dass die Rechtsprechung für die Gewichtung anonymer Kommunikation vor allem auf den Gesetzgeber verweist. Von diesem fordert das Gericht zwar eine klare Entscheidung über die Voraussetzungen der Aufhebung von Anonymität, macht aber ihm darüber hinaus dafür nur spärliche materielle Vorgaben. Während das Gericht für eine anlasslose Vorratsdatenspeicherung von Telekommunikationsverkehrsdaten noch besondere Voraussetzungen fordert, entschärft es diese für die „bloße“ Deanonymisierung von IP-Adressen – die es als „Aufhebung der Anonymität im Internet“[24] bezeichnet – deutlich. Für diesen Fall verlangt das Gericht lediglich eine ausdrückliche gesetzliche Regelung, die zumindest auf die Verfolgung „besonders gewichtiger Ordnungswidrigkeiten“ gerichtet sein müsse.[25] Schließlich sei die für eine Deanonymisierung notwendige Datenspeicherung weniger umfangreich und habe daher ein erheblich weniger belastendes Gewicht – im Übrigen dürfe in einem Rechtsstaat auch das Internet keinen rechtsfreien Raum bilden. Die Qualifikation der Verfolgung „besonders gewichtiger Ordnungswidrigkeiten“ zeigt zwar, dass auch das Bundesverfassungsgericht im Grundsatz die Bedeutung von Anonymität im digitalen Raum anerkennt. Mit ihrem geringen materiellen Gehalt wirkt sie dabei aber als wenig mehr als ein bloßes Feigenblatt.

Dieser Eindruck verfestigt sich mit Blick auf die Rechtsprechung des Bundesverfassungsgerichts zur Bestandsdatenauskunft. Wie bereits angesprochen fallen auch ohne Vorratsdatenspeicherung Daten wie IP-Adressen bzw. deren Zuordnung zu Internetanschlüssen bei den privaten Intermediären an und können aufgrund von Auskunftsansprüchen abgefragt werden – grundsätzlich unabhängig von der Frage, ob sie dort zu anderen Zwecken – ggf. nur vorübergehend – gespeichert werden durften. Dazu wurden die Instrumente der Bestandsdatenauskunft gegenüber Telekommunikationsdienstleistern – wie Internetzugangsprovidern – gemäß § 113 TKG und gegenüber Anbietern von Telemediendiensten gemäß § 14 Absatz 2 TMG geschaffen. In seinem Urteil zur Bestandsdatendatenauskunft hat das Gericht zwei Aussagen zur Anonymität getroffen, die hier relevant sind. Zum einen hat es für die Möglichkeit der Identifizierung von dynamischen IP-Adressen eine normenklare gesetzgeberische Entscheidung gefordert, ob und unter welchen Voraussetzungen eine solche Identifizierung vorgenommen werden könne – sie erlaube nämlich in weitem Umfang eine Deanonymisierung von Kommunikationsvorgängen im Internet.[26] Zum anderen hat es darauf hingewiesen, dass sich die Bewertung ändern könne, wenn auch Privaten regelmäßig statische IP-Adressen zugeteilt würden, da dadurch zumindest in weitem Umfang die Identität von Internetnutzern ermittelt und Kommunikationsvorgänge im Netz nicht nur für eine begrenzte Zeit, sondern auch dauerhaft deanonymisiert werden könnten. Den Gesetzgeber treffe insoweit eine Beobachtungs- und gegebenenfalls Nachbesserungspflicht.[27] Der Gesetzgeber hat auf dieses Urteil mittlerweile lediglich mit der Klarstellung reagiert, dass auch dynamische IP-Adressen mit dem Mittel der Bestandsdatenauskunft deanonymisiert werden können, vgl. § 113 Absatz 1 Satz 3 TKG. Eine Reaktion auf den potentiellen Einfluss statischer IP-Adressen – etwa durch eine rechtliche Verpflichtung der Vergabe dynamischer IP-Adressen – ist dagegen nicht erfolgt.

Diese beiden Schlaglichter zeigen, dass die Bedeutung anonymer Kommunikation zwar in der deutschen Rechtsprechung grundsätzlich gewürdigt wird, eine Grundvorstellung über ein ausreichendes Maß an Anonymität aber nur in Ansätzen entwickelt wurde. Insbesondere fällt auf, dass die Anonymität im Internet nicht so stark gewichtet wird wie die oben beschriebene faktische Anonymität in der physischen Welt. Vielmehr wird häufig auf den Gesetzgeber verwiesen, dem über eine klare Regelung der Voraussetzungen für eine Deanonymisierung hinaus aber kaum materielle Vorgaben gemacht werden. Der Gesetzgeber sieht darin regelmäßig eher Aufträge, Überwachungs- und Auskunftslücken zu schließen, als differenziert das notwendige Maß an Anonymität im digitalen Raum zu bewerten.

Diese unterschiedliche Wertung ist umso bemerkenswerter, als für Überwachung im digitalen Raum und in der physischen Welt die gleichen dogmatischen Grundüberlegungen gelten, die an die oben angesprochene Rechtsfigur des Abschreckungseffekts auf die Grundrechtsausübung anknüpfen. Als dogmatisches Werkzeug scheint diese aber starken Limitationen ausgesetzt zu sein. Der Abschreckungseffekt ist zwar eine plausible Überlegung, mit der die Eröffnung des Schutzbereichs von Grundrechten wie der Meinungsfreiheit, der informationellen Selbstbestimmung und der Telekommunikationsfreiheit begründet werden kann. Auf Abwägungsebene lassen sich damit aber nur die äußeren Grenzen scharf zeichnen: auf der einen Seite die ständige Überwachung und Identifizierbarkeit, auf der anderen Seite unbedingte Anonymität, die den Schutz von Rechten Dritter und Interessen der Allgemeinheit ausschließt. Diese beiden Extreme sind aber bereits aus faktischen Gründen wenig relvant. Zur Herausarbeitung eines notwendigen Maßes an Anonymität auf Abwägungsebene in alltäglichen Einzelfällen hat der Abschreckungseffekt aber keine befriedigende Operationalisierung erfahren. Das kann etwa am Beispiel der Rechtsprechung des Bundesverfassungsgerichts zur Vorratsdatenspeicherung verdeutlicht werden. Dort wird zwar ein schwerwiegender Eingriff angenommen, weil die Vorratsdatenspeicherung ein „Gefühl des ständigen Überwachtwerdens“ und eine „diffuse Bedrohlichkeit“ hervorrufen könne.[28] Warum dann aber etwa eine Speicherdauer von sechs Monaten die Obergrenze des rechtfertigbaren nicht überschreiten soll,[29] wäre mit Blick auf ein geringeres Maß an Einschüchterung zumindest erläuterungsbedürftig gewesen. Das gilt erst recht für die Annahme, die „bloße“ Aufdeckung von Anonymität anhand der Identifizierung von IP-Adressen unter Zuhilfenahme von Vorratsdaten sei weniger streng zu bewerten.[30)

Im Gegenteil liegt es eher nahe, dass – wie bei einer Bewegung im öffentlichen Raum – ein für die Freiheitsausübung erforderliches Maß an Anonymität nur gegeben sein kann, wenn Überwachung in einer Weise begrenzt wird, dass sie tatsächlich nicht oder nicht ständig bzw. nicht überall stattfindet. Und das gilt selbst und gerade dann, wenn es nur um Deanonymisierung von Verhalten geht. In diese Richtung weisen auch die Urteile des Europäischen Gerichtshofs zur Vorratsdatenspeicherung[31], in denen sich keine Einschränkung des Verbots der anlasslosen Überwachung findet, wenn es um die „bloße“ Deanonymisierung von Bewegung im digitalen Raum geht. Auch der Europäische Gerichtshof für Menschenrechte tendiert zu einer stärkeren Gewichtung von Anonymität in diesem Sinne. Er hat kürzlich mit Verweis auf die Bedeutung von Anonymität entschieden, dass auch für die Identifizierung eines/einer Nutzer_in anhand einer dynamischen IP-Adresse ein Richtervorbehalt vorzusehen sei[32], was das Bundesverfassungsgericht ohne weitere Begründung noch ausdrücklich verneint hatte.[33] Besonders verkürzt wirkt im Vergleich zu den für die physische Welt geltenden Grundsätzen die apodiktische Aussage des Bundesverfassungsgerichts, dass es in einem Rechtsstaat keine rechtsfreien Räume geben dürfe. Schließlich wäre vor dem Hintergrund der Rechtsstaatlichkeit die jederzeitige Identifizierbarkeit von Verhalten grundsätzlich – wie dargelegt – ebenfalls zu problematisieren. Zudem zeigt gerade das Beispiel der Vorratsdatenspeicherung, dass intensive Überwachungsinstrumente mit der Notwendigkeit der Abwehr schwerster Gefahren wie Terrorismus begründet werden können, bei dieser Gelegenheit, quasi nebenbei, aber auch der „bloßen“ Aufdeckung von Anonymität dienen dürfen.

Eine unterschiedliche Wertung von Anonymität und Überwachung in der physischen Welt und im digitalen Raum kann unterschiedliche Ursachen haben. So mag aufgrund der beschriebenen Grundbedingung der technischen Identifizierbarkeit die Überwachung im digitalen Raum weniger eingriffsintensiv wirken. Schließlich kann sie auf den notwendigerweise anfallenden Datenspuren aufbauen und Verhalten muss nicht erst aufwendig erstmals technisch erfasst werden. Möglicherweise erscheint der digitale Raum auch im Vergleich zur physischen Welt (noch) als für die aktive Persönlichkeitsentfaltung von untergeordneter Bedeutung. Nicht zuletzt mag auch hinderlich sein, dass für die physische Welt bisher kein explizites Recht auf Anonymität entwickelt wurde, das als Folie zur Bewertung von Überwachung im digitalen Raum dienen könnte. Die für beide Räume gültige Rechtsfigur des Abschreckungseffektes scheint im Ergebnis zu beliebig zu sein, um eine differenzierte Transformation der für die physische Welt entwickelten Maßstäbe leisten zu können. Ob man dieser Beliebigkeit nur mit der Forderung nach dogmatischer Schärfung, Strukturierung und empirischer Unterfütterung der Abschreckungsfigur begegnen kann[34], ohne die Frage nach der spezifischen rechtlichen und gesellschaftlichen Bedeutung von Anonymität zu stellen, erscheint sehr fraglich.

Die bisherige Rechtsentwicklung bietet aber genügend Ansätze, ein Maß an Anonymität im digitalen Raum zu sichern und abwägbar zu halten. Dazu könnte etwa der Verzicht auf anlasslose Vorratsdatenspeicherung und der Ausschluss dauerhafter Deanonymisierungsmöglichkeiten gehören – zugunsten von anlassbezogener Überwachung in Einzelfällen von gewissem Gewicht. Ebenso kann die Einschränkung von Auskunftsrechten zur privaten Rechteverfolgung angedacht werden, etwa durch Beschränkung auf strafrechtlich relevante Fälle. Schließlich könnte die Beteiligung von Nutzer_innen an dem Verfahren ihrer Deanonymisierung erwogen werden, gerade wenn in diesem Verfahren dafür komplexe Wertungen von Aussagen im Lichte der Meinungsfreiheit nötig werden.

Dabei ist auch der Gesetzgeber gefordert. Leider zeigt gerade die Politik nur wenig Ansätze, eine Diskussion über ein ausreichendes Maß an Anonymität zu führen. Das gilt sowohl für Umfang der zur Deanonymisierung notwendigen Überwachung, als auch für die Begrenzung der Zwecke einer Deanonymisierung. Das zeigt z.B. der Katalog des § 1 Absatz 3 NetzDG, der – wie dargelegt – auch für die Deanonymisierung von Meinungsäußerungen im Internet auf Betreiben privater Dritter Anwendung findet. Dieser wenig nachvollziehbare Katalog reicht von einfacher Beleidigung bis zur Bildung terroristischer Vereinigungen und ist damit „letztlich ein Spiegel der völlig durcheinandergeratenen Debatten unserer Zeit“[35], die durch völlig unbestimmte Anglizismen wie „hate speech“ und „fake news“ noch verschärft werden. In diesem Kontext ist auch für den Umgang mit Anonymität nur schwer eine differenzierte Debatte möglich.

Zukunft der Anonymität im digitalen Raum

Trotz dieser Schwierigkeiten wird sich die Relevanz der Aufgabe, eine Grundvorstellung von einem notwendigen Maß an Anonymität im digitalen Raum zu entwickeln, durch die zunehmenden technischen Möglichkeiten der Überwachung weiter erhöhen. Denn mit zunehmender Überwachung steigen auch die bisher vielleicht eher abstrakt wirkenden Überwachungskosten für den/die Einzelnen, aber auch für die Gesellschaft. Wollte man etwa die Anonymität im digitalen Raum tatsächlich aufheben, müsste man nicht nur eine ständige Überwachung etablieren, sondern auch Techniken zur Verschlüsselung und Anonymisierung der Kommunikation effektiv umgehen oder regulieren und sanktionieren. Dafür müsste aber massiv in das Grundrecht auf Vertraulichkeit und Integrität informationstechnischer Systeme eingegriffen und Möglichkeiten des informellen Selbstschutzes beschränkt werden.[36]

Dabei zeigt gerade das weltweite Internet, dass Anonymität im digitalen Raum weder eine technische noch eine rechtliche Selbstverständlichkeit ist. Für autokratische Systeme sind die schwierigen Abwägungsfragen zwischen Anonymität und Identifizierbarkeit wesentlich einfacher zu treffen. Nordkorea gewährt zum Beispiel nur wenigen tausend ausgesuchten Personen Zugang zum weltweiten Internet.[37] Das verdeutlicht, wie verletzlich der digitale Raum selbst gegen rein nationale Regulierung sein kann. Der Fall China zeigt, dass dazu noch nicht einmal die völlige Abschottung vom Internet notwendig ist. Dort wird in großem Umfang versucht, ausländische Internetinhalte zu zensieren und Anonymisierungstechniken zu unterbinden. Das dazu entwickelte Projekt „Goldener Schild“ wird in Anlehnung an die chinesische Mauer auch „Great Firewall of China“ genannt. Im Rahmen der Einführung seines „Sozialkreditsystems“ plant China zudem die technischen Möglichkeiten für eine Überwachung zu nutzen, in der auch in der realen Welt durch weiträumige Videoüberwachung keine Anonymität mehr gewährleistet ist.

Der Blick auf diese Beispiele verdeutlicht, dass der freie Fluss von Informationen, insbesondere von Meinungen und gerade auch von anonymen Meinungen nicht etwas ist, dass Demokratien gefährdet, sondern etwas, dass sie auszeichnet. Die Meinungsfreiheit ist – in den Worten des BVerfG – ein für die Demokratie schlechthin konstitutives Recht. Sie schützt nicht nur die Mehrheitsmeinung oder das wohl abgewogene Argument, sondern gerade auch Ansichten, die manche vielleicht bereits als „hate speech“ oder „fake news“ bezeichnen würden, bis an die Schwelle der Strafbarkeit heran. Es bleibt abzuwarten, inwieweit die mit dem NetzDG eingeführten Auskunftsansprüche gegenüber Dienstanbietern von den Gerichten gehandhabt werden. Die in diesem Rahmen zu treffenden Entscheidungen bieten jedenfalls auch das Potential herauszukristallisieren, dass das Recht kein Mittel dafür ist, für einen sachlich ausgewogenen und irritationsfreien Diskurs im digitalen Raum zu sorgen. Der Umgang mit den negativen Folgen von Anonymität ist daher gerade mit Blick auf die Umgangsformen eine gesamtgesellschaftliche Aufgabe und keine Frage, die sich mit der Beseitigung „rechtsfreier Räume“ durch Überwachung erledigt.  

Zudem ist zweifelhaft, ob sich selbst mit einer Aufhebung der Anonymität im Internet überhaupt alle damit assoziierten Probleme lösen ließen. Viele Probleme – wie Beleidigungen im Internet – könnten vielmehr eine Folge der veränderten, unpersönlichen Kommunikation im digitalen Raum sein und nicht bloß an der Anonymität der Äußerungen festgemacht werden. Das zeigt das Beispiel Südkorea. Dort wurde 2007 beschlossen, dass Bürgerinnen und Bürger Kommentare auf Internetseiten nur abgeben dürfen, wenn sie sich zuvor mit ihrem Namen und ihrer Einwohneridentifikationsnummer registriert haben. Nach einer Untersuchung des Forschers Daegon Cho wurden zwar kurzfristig weniger Schimpfwörter verwendet, langfristig war der Effekt aber geringer, zudem wurden kreativere Formen der Beleidigung gewählt.[38] Nachdem wiederholt die zur Registrierung verwendeten Daten in großem Umfang von Hackern entwendet und verkauft wurden,[39] hat das südkoreanische Verfassungsgericht das Gesetz schließlich für verfassungswidrig erklärt. Dabei hat es auf seine geringe Wirksamkeit und die Benachteiligung inländischer Internetseiten gegenüber ausländischen abgestellt.[40]

So bleibt zu konstatieren, dass dem Recht bei der Frage nach dem Umgang mit Anonymität im digitalen Raum zwar eine bedeutende Rolle zukommt, es dabei aber nur ein Teil einer gesamtgesellschaftlichen Aufgabe einer Neukalibrierung von Alltäglichkeit im digitalen Raum sein kann. Dazu gehört – wie auch in der physischen Welt – nicht zuletzt die Frage nach einem notwendigen Maß an alltäglicher Anonymität in einer freien Gesellschaft.

MICHAEL KUHN   Jahrgang 1981, studierte Rechtswissenschaften an den Universitäten in Passau, Cardiff und der Humboldt-Universität in Berlin. Zu seinen Schwerpunkten gehören Europarecht, Staats- und Verwaltungsrecht sowie Datenschutz- und Internetrecht. Er ist beim Bundeszentralamt für Steuern angestellt und promoviert zum Recht auf Anonymität im Internet.

Anmerkungen:

1 Der Begriff „digitaler Raum“ steht hier zunächst für das Internet und die damit verbundenen informationstechnischen Systeme in ihrer gegenwärtigen Form, auf die sich die zitierte Rechtsentwicklung und Rechtsprechung maßgeblich bezieht. Der Begriff soll verdeutlichen, dass es sich dabei um mehr als ein Kommunikationsmittel handelt, sondern in zunehmenden Maße um einen Raum menschlicher Persönlichkeitsentfaltung, in den sich diese mehr und mehr verlagert. In diesem Sinn soll der Begriff auch als Platzhalter dienen für zukünftige Entwicklungen. Auch ohne diese Entwicklungen genau absehen zu können, ist davon auszugehen, dass sich die Bedeutung vernetzter informationstechnischer Systeme sowohl für das private wie öffentliche Leben und damit auch für die Ausübung von grundrechtlich garantierten Freiheiten weiter erhöhen wird.

2 Kersten, Jens 2017: Anonymität in der liberalen Demokratie, in: JuS 2017, S. 193 (193).

3 Vgl. Kersten, Jens 2017: Anonymität in der liberalen Demokratie, in: JuS 2017, S. 193 (194).

4 Vgl. Teil „Das Recht auf Anonymität im digitalen Raum“

5 Anonyme Daten sind damit nicht geschützt, vgl. Erwägungsgrund 26 der DSGVO – dies aber gerade deshalb, weil sie die Anonymität der Person nicht gefährden.

6 BVerfG, Urteil vom 15.12.1983, BVerfGE 65, 1 – Volkszählung, S. 42 f.

7 Vgl. US Supreme Court, McIntyre v. Ohio Elections Commission, 514 U.S. 334 (1995); vgl. auch Froomkin, A. Michael 2008: Anonymity and the Law in the United States, in: Kerr u.a. (Hrsg.), Lessons from the Identity Trail: Anonymity, Privacy and Identity in a Networked Society.

8 Vgl. BVerfG, Beschluss vom 23.02.2007 – 1 BvR 2368/06 – Städtische Videoüberwachung; BVerfG, Urteil vom 20.11.2007, BVerfGE 120, 378 – Automatisierte Kennzeichenerfassung I.

9 BVerfG, Beschluss vom 18.12.2018 – 1 BvR 142/15 – Automatisierte Kennzeichenerfassung II, Rn. 51 – bverfg.de.

10 In diesem Sinne etwa Kutscha, Martin/Thomé, Sarah 2013: Grundrechtsschutz im Internet, S. 50 m.w.N.

11 Zumindest, wenn man von den durch die Snowden-Leaks bekannt gewordenen Möglichkeiten der Massenüberwachung des Internetverkehrs durch Geheimdienste absieht.

12 Aus diesem Grund hat auch der EuGH zu Recht klargestellt, dass es sich bei IP-Adressen um personenbezogene Daten handelt, soweit grundsätzlich die (rechtliche) Möglichkeit besteht, die Zuordnung einer IP-Adresse zu einer Person vorzunehmen, vgl. EuGH, Urteil vom 19.10.2016 – C-582/14 – Breyer.

13 Vgl. dazu Wegener, Christoph / Heidrich, Joerg 2011: Neuer Standard – Neue Herausforderungen: IPv6 und Datenschutz, in: CR 2011, S.479.

14 Vgl. BGH, Urteil vom 20.02.2018 – VI ZR 30/17- Ärztebewertung III, Urteil vom 23.06.2009 – VI ZR 196/08 – spickmich.de.

15 Vgl. BGH, Urteil vom 01.03.2016 – VI ZR 34/15.

16 Vgl. BGH, Urteil vom 01.07.2014 – VI ZR 345/13 = BGHZ 201, 380 – Ärztebewertung II.

17 Art. 2 des Gesetzes vom 1.9.2017, BGBl. I 3352.

18 Vgl. Spindler, Gerald 2017: Der Regierungsentwurf zum Netzwerkdurchsetzungsgesetz – europarechtswidrig?, in: ZUM 2017, 473 (486).

19 Vgl. Schmitz, Peter in Spindler, Gerald/Schmitz, Peter, Telemediengesetz, 2. Aufl. 2018, § 14, Rn. 53.

20 Siehe dazu Spindler, Gerald 2017: Der Regierungsentwurf zum Netzwerkdurchsetzungsgesetz – europarechtswidrig?, in: ZUM 2017, 473 (484 f.)

21 Vgl. Pille, Jens-Ullrich 2018, Der Grundsatz der Eigenverantwortlichkeit im Internet, in: NJW 2018, 3545 (4546).

22 Siehe dazu mit Blick auf Webseitenbetreiber: BGH, Urteil vom 16.05.2017 – VI ZR 135/13, für Internetzugangsprovider: BGH, Urteil vom 03.07.2014 – III ZR 391/13.

23 Vgl. dazu BVerfG, Beschluss vom 20.12.2018 – 2 BvR 2377/16 – posteo.

24BVerfG, Urteil vom 02.03.2010 – 1 BvR 256/08 – Vorratsdatenspeicherung, Rn. 262 – bverfg.de.

25Vgl. ebd., Rn. 226.

26Vgl. BVerfG, Beschluss vom 24.01.2012 – 1 BvR 1299/05 – Bestandsdatenauskunft, Rn. 174 – bverfg.de.

27Vgl. ebd., Rn. 161.

28 Vgl. BVerfG, Urteil vom 02.03.2010 – 1 BvR 256/08 – Vorratsdatenspeicherung, 241 f. – bverfg.de.

29 Vgl. ebd., Rn. 254 ff, 288 ff.

30 Vgl. ebd., Rn. 257.

31 Vgl. EuGH, Urteil vom 08.04.2015 – C-293/12 und C-594/12 – Vorratsdatenspeicherung; EuGH, Urteil vom 21. 12.2016 – C-203/15; C-698/15 – Tele2 Sverige AB.

32 Vgl. EGMR, Urteil vom 24.04.2018, 62357/14 – Benedik v. Slovenien.

33 Vgl. BVerfG, Urteil vom 02.03.2010 – 1 BvR 256/08 – Vorratsdatenspeicherung, Rn. 261 – bverfg.de.

34 Zu diesen Forderungen vgl. Staben, Julian 2016: Der Abschreckungseffekt auf die Grundrechtsausübung, S. 75 ff.

35 Richter, Philipp 2017: Das NetzDG – Wunderwaffe gegen „Hate Speech“ und „Fake News“ oder ein neues Zensurmittel?, in: ZD-Aktuell 2017, 05623.

36 Vgl. BVerfG, Urteil vom 27. 02.2008 – 1 BvR 370/07 – Rn. 203, 236.

37 Vgl. https://www.wired.de/collection/life/ein-uber-ingenieur-gibt-uns-einblick-nordkoreas-internet

38 Vgl. Brodnig, Ingrid 2014, Der unsichtbare Mensch: Wie die Anonymität im Internet unsere Gesellschaft verändert, zu Fn. 244 f.

39 Vgl. ebd., zu Fn. 247 f.

40 Vgl. ebd., zu Fn. 252 f.

Der Beitrag Das Recht auf Anonymität im digitalen Raum erschien zuerst auf Humanistische Union.

Am 1. Oktober 2017 trat das Netzwerkdurchsetzungsgesetz (NetzDG) in Kraft. Im Kontrast zu den breiten öffentlichen Debatten um das Gesetz steht die Zahl der davon betroffenen Netzwerkanbieter, für die die Vorschriften des Gesetzes gelten: in Deutschland sind es ganze drei! Nach der Definition in § 1 Abs. 2 NetzDG sind davon nämlich nur Anbieter von bestimmten Telemediendiensten betroffen, die hier mindestens 2 Millionen angemeldete Nutzer*innen vorweisen können. Dies gilt derzeit nur für Facebook, Google+ und YouTube.

Nach § 2 Abs. 1 NetzDG sind die unter die Anwendung des Gesetzes fallenden Anbieter von Dienstleistungen verpflichtet, aller sechs Monate einen „Bericht über den Umgang mit Beschwerden über rechtswidrige Inhalte auf ihren Plattformen“ zu veröffentlichen, erstmals zum Ende des ersten Halbjahres 2018. Bis zum Redaktionsschluss dieser Ausgabe der vorgänge lagen von den betroffenen Betreibern – dazu zählen bisher in Deutschland nur Facebook, Google und Youtube – jeweils zwei solcher Berichte vor. Deren wichtigste Angaben über gemeldete bzw. gelöschte Beiträge dokumentieren wir auf den folgenden Seiten.

Die mit dem NetzDG vorgeschriebenen Berichte sollen die Zahl der Beschwerden und der darauf erfolgenden Löschungen dokumentieren, u.a. aufgeschlüsselt nach dem Beschwerdegrund. Das Gesetz selbst benennt in § 1 Abs. 3 eine Liste an Straftatbeständen (s. Übersicht 1), bei deren Vorliegen die Provider zur umgehenden Löschung der Beiträge verpflichtet werden. An dieser Liste ist zunächst einmal auffällig, dass sie nicht nur Schutzgüter aus dem Bereich der Persönlichkeitsrechte enthält, sondern auch eine ganze Reihe von Staatsschutzdelikten (die mit Hate Speech wenig zu tun haben). Auf der anderen Seite fehlen in dieser Liste einige Tatbestände, die für den Persönlichkeitsschutz in der digitalen Sphäre durchaus eine Rolle spielen und die man – den Intentionen des Gesetzes folgend – an dieser Stelle erwartet hätte. Dazu zählen etwa die Anleitung zu Straftaten (§ 130a StGB), die falsche Verdächtigung (§ 164 StGB) oder das Cybergrooming (§ 176 Abs. 4 Nr. 3).

Der Vergleich der Transparenzdaten der drei Anbieter ist trotz der ausführlichen gesetzlichen Vorgaben zu den Berichten leider nicht einfach. Im Gegensatz zu Facebook, das die Beschwerden und Löschvorgänge nach dem Katalog des NetzDG aufschlüsselt, werden die Daten für Google und YouTube nur in aggregierter Form (für verschiedene Deliktsgruppen) veröffentlicht. Deshalb wurde in der Übersicht versucht, die Facebook-Zahlen in vergleichbarer Weise zu aggregieren. Dies ist jedoch nur eingeschränkt möglich, da Google auf Nachfrage keine Angaben dazu machen konnte, welche der Normen unter welcher Kategorie zusammengefasst wurden: Angeblich erfasse / wisse die Firma nicht, nach welchen Regeln die Zuordnung in den Beschwerdezentren vorgenommen wird.[1] Das wirft nebenbei ein bezeichnendes Licht auf das Beschwerdeverfahren bei Google, denn es stellt sich die Frage, wie Google sicher stellen kann, dass eine Beschwerde zu den im NetzDG geregelten Fälle gehört, wenn sie sich eindeutig unter einen der im Gesetz genannten Straftatbestand subsummiert wird.

Übersicht 1: Rechts­wid­rige Inhalte gemäß § 1 Abs. 3 NetzDG

§ 86 Verbreiten von Propagandamitteln verfassungswidriger Organisationen

§ 86a Verwenden von Kennzeichen verfassungswidriger Organisationen

§ 89a Vorbereitung einer schweren staatsgefährdenden Gewalttat

§ 91 Anleitung zur Begehung einer schweren staatsgefährdenden Gewalttat

§ 100a Landesverräterische Fälschung

§ 111 Öffentliche Aufforderung zu Straftaten

§ 126 Störung des öffentlichen Friedens durch Androhung von Straftaten

§ 129 Bildung krimineller Vereinigungen

§ 129a Bildung terroristischer Vereinigungen

§ 129b Kriminelle und terroristische Vereinigungen im Ausland; Einziehung

§ 130 Volksverhetzung

§ 131 Gewaltdarstellung

§ 140 Belohnung und Billigung von Straftaten

§ 166 Beschimpfung von Bekenntnissen, Religionsgesellschaften und Weltanschauungsvereinigungen

§ 184b Verbreitung, Erwerb und Besitz kinderpornographischer Schriften i.V.m. § 184d Zugänglichmachen pornographischer Inhalte mittels Rundfunk oder Telemedien; Abruf kinder- und jugendpornographischer Inhalte mittels Telemedien

§ 185 Beleidigung

§ 186 Üble Nachrede

§ 187 Verleumdung

§ 201a Verletzung d. höchstpersönlichen Lebensbereichs durch Bildaufnahmen

§ 241 Bedrohung

§ 269 Fälschung beweiserheblicher Daten

Was lässt sich aus den dokumentierten Zahlen nun ablesen? Auf den ersten Blick zumindest folgende Erkenntnisse:

• Es werden sehr viele Hinweise auf vermeintlich rechtswidrige Inhalte an die Anbieter gemeldet (vor allem wenn man berücksichtigt, dass es sich um eine neue gesetzliche Vorgabe handelt).
• Die Netzwerkanbieter löschen aufgrund dieser Hinweise zahlreiche Inhalte, jedoch variiert die Löschquote (bezogen auf die Zahl der Meldungen) sehr stark je nach Anbieter und Thema zwischen einem Minimum von 7 % (Pornografische Inhalte bei Facebook) und einem Maximum von 61 % (Terroristische/verfassungswidrige Inhalte bei Google). Bei den Extremwerten handelt es sich um Bereiche mit vergleichsweise niedrigen Fallzahlen – die durchschnittliche Löschquote variiert bei den Anbietern zwischen 24 % (Facebook) und 50 % (Google).
  •In nahezu allen Bereichen ist der Anteil der Löschungen, bei denen ein Beitrag als Verstoß gegen Community-Standards gewertet wird, deutlich höher als die Zahl der Löschungen, die als Verstoß gegen das NetzDG (d.h. mit Bezug auf eine der darin genannten Straftaten) gewertet werden. Die einzige Ausnahme: die Meldung bzw. Löschung terroristischer bzw. verfassungswidriger Inhalte.
• Es ist keineswegs so, dass die Hinweise offizieller Beschwerdestellen von den Netzwerken in jedem Fall als stichhaltiger angesehen werden als jene Hinweise, die von „einfachen“ Nutzer*innen der Plattformen kommen. Bei YouTube etwa liegt die Löschquote für Beschwerdestellen unter der Löschquote für einfache Nutzer*innen – in beiden Berichtszeiträumen.
• Für die beiden Netzwerke Google+ bzw. YouTube wurden ganze 21 Meldungen auch an die Urheber*innen der inkriminierten Nachrichten weiter geleitet (was ihnen die Möglichkeit zur Stellungnahme gibt).
• Bisher haben die Anbieter die im Gesetz vorgesehene Möglichkeit einer Überweisung der Beschwerden an anerkannte Einrichtungen der Selbstregulierung nicht genutzt (auch wenn das für die Zukunft z.T. angekündigt wird) – weil entsprechende Stellen noch nicht eingerichtet wurden.

Dokumentation: Sven Lüders.

Anmerkungen:

1 Telefonische Auskunft v. Lutz Mache, Google Germany GmbH vom 7. Juni 2019. Zudem würden die strafrechtlichen Tatbestände mitunter in verschiedenen bzw. mehreren Kategorien erfasst.

Der Beitrag Zahlen zur Anwendungspraxis des Netzwerk­durchsetzungs­gesetzes erschien zuerst auf Humanistische Union.

in: vorgänge Nr. 225/226 (1/2/2019), S. 61- 75

DR. ULF BUERMEYER,   LL.M. (Columbia), ist Richter am Landgericht Berlin und derzeit als wissenschaftlicher Mitarbeiter an den Berliner Verfassungsgerichtshof abgeordnet. Daneben ist er ehrenamtlicher Vorsitzender der Gesellschaft für Freiheitsrechte e.V., die sich nach dem Vorbild der American Civil Liberties Union (ACLU) mit strategischen Klagen für Grund- und Menschenrechte einsetzt. Nach Studium und Referendariat wurde er   2007 in Berlin zum Richter ernannt und war vorwiegend im Strafrecht tätig. Im Zuge einer früheren Abordnung arbeitete er als wissenschaftlicher Mitarbeiter für den Präsidenten des Bundesverfassungsgerichts, Prof. Dr. Andreas Voßkuhle.

PROF. DR. MARTIN EIFERT,   LL.M. (Berkeley), ist seit 2012 Inhaber des Lehrstuhls für Öffentliches Recht, insbesondere Verwaltungsrecht an der Humboldt-Universität zu Berlin. Nach dem Studium in Hamburg, Genf und Berkeley folgten Promotion und Habilitation an der Universität Hamburg bei Prof. Dr. Hoffmann-Riem. Eifert war wissenschaftlicher Mitarbeiter Hoffmann-Riems, Referent am Hans-Bredow-Institut für Medienforschung sowie an der Forschungsstelle Recht und Innovation der Universität Hamburg. Von 2005 bis 2012 hatte er eine Professur für Öffentliches Recht an der Universität Gießen inne.

RW: Was sind Internetplattformen beziehungsweise Intermediäre? Was unterscheidet sie von den in Artikel 5 Grundgesetz geschützten Medien?

ME: Internetplattformen – der Begriff des Intermediärs bringt das gut zum Ausdruck –sind Plattformen, die vermitteln. Es geht zentral um die Vermittlungsleistung zwischen Kommunikatoren und Rezipienten. Dadurch unterscheiden sie sich von den klassischen „Artikel 5-geschützten“ Medien, die ja als Kommunikatoren auftreten, also eigene Inhalte verbreiten. Die Vermittlung zwischen Kommunikatoren und Rezipienten ist die zentrale Grundeigenschaft von Intermediären.

UB: Ich finde richtig, was Herr Eifert gesagt hat. Vielleicht kann man noch ergänzen, dass es bereits eine Zwischenform gibt, die man zwischen denjenigen ansiedeln kann, die im Internet ihre eigenen Inhalte verbreiten – dazu würde ich zum Beispiel klassische Medien rechnen – und denjenigen, die im Internet nur Speicherplatz bereitstellen – das sind die klassischen Hostprovider. Da sind die Plattformen irgendwo in der Mitte anzusiedeln, weil sie auf der einen Seite zwar Inhalte von ihren Nutzerinnen und Nutzern ins Netz stellen, auf der anderen Seite aber diese Inhalte in einer gewissen Weise kuratieren. Denken wir an den „Klassiker“ Facebook: Der stellt zwar nur wenige eigene Inhalte ins Netz, aber er priorisiert natürlich bestimmte Inhalte der Nutzerinnen und Nutzer. Zudem werden die Erscheinungsformen immer bunter, was Internetplattformen angeht.

SL: Inwiefern spielt dabei eine Rolle, dass bei den Intermediären die Anzahl der Produzenten quasi ansteigt und dass wir es nicht mehr mit klassischen Journalisten zu tun haben?

ME: Der zentrale Unterschied scheint mir, dass die Produzenten eine andere Art von Produzenten sind. Während es klassischerweise bei den Produzenten um Journalisten ging, die an ein bestimmtes Berufsethos gebunden waren und bestimmte professionelle Standards verinnerlicht hatten, haben wir es hier mit Laien-Journalismus zu tun, mit einer breiten Menge an Inhalten, die ohne diese innere Bindung an die Gesetzmäßigkeiten des Mediums oder sogar in bewusster Abkehr davon vorgenommen werden. Das ist zunächst ein emanzipatorisches Potenzial. Es verschiebt aber natürlich auch vieles, weil etwa die Inhalte sehr viel stärker subjektiv geprägt, sehr viel stärker emotionalisiert sind und in vielfältiger Weise einen anderen Charakter gewinnen und andere Dynamiken auslösen können als die klassischen medialen Inhalte, die aus Redaktionen hervorgehen.

RW: Wie sind der Austausch oder die Informationen auf den Plattformen derzeit grundrechtlich geschützt? Braucht es einen besonderen grundrechtlichen Schutz der Plattform als Medium? Und wenn ja, welchen?

UB: Wir haben es da mit einem relativ bunten Geflecht von verschiedenen Schutzbereichen zu tun, die sich zum Teil auch überlappen. Zum einen können sich die Nutzerinnen und Nutzer der Internetplattformen in aller Regel auf die Meinungsfreiheit berufen, mitunter können sie aber auch die Pressefreiheit für sich reklamieren – denken wir zum Beispiel an Tweets von Rundfunkanstalten. Natürlich gehört der Bereich der Vermittlung eigener Inhalte auch zum klassischen Schutzbereich der Rundfunkfreiheit. Und dann haben wir es mit den Plattformbetreibern selber zu tun. Ob die sich tatsächlich auf die Meinungsfreiheit berufen können, ist sehr umstritten. In den Vereinigten Staaten gibt es eine vordringende Ansicht, die das vertritt. Für den deutschen Diskurs habe ich das bislang in dieser Deutlichkeit noch nicht gesehen. Ich denke, dass sich die Plattformen eher nicht auf eine eigene Meinungsfreiheit berufen können. Aber für sie ist natürlich die Berufsfreiheit, in diesem Fall der Aspekt der Berufsausübungsfreiheit, relevant, wenn man ihnen staatlicherseits Vorgaben macht, wie sie beispielsweise das Kuratieren von Inhalten auszuüben haben.

ME: Ich stimme grundsätzlich zu. Für die Intermediäre wird schon länger diskutiert, ob sie in den Schutzbereich von Artikel 5 Grundgesetz unter Gesichtspunkten der Ausgestaltung der Medienordnung einzubeziehen sind. Das müsste dann konsequenterweise mit einer Grundrechtsberechtigung verknüpft sein. Diese Einbeziehung wird typischerweise mit Blick darauf, was Herr Buermeyer zurecht als Kuratierungsleistung ansieht, vorgenommen. Hier entscheidet sich dann, ob und inwieweit sie sich neben Artikel 12 Grundgesetz auch auf Artikel 5 berufen können. Ich glaube, letztlich macht es aber keinen großen Unterschied, weil in den Abwägungen, die wir mit Blick auf eine staatliche Regulierung vornehmen müssen, ohnehin auch die Meinungsbildung und Informationsfreiheit Berücksichtigung finden und es dann auf den konkreten Ausgangspunkt nicht zentral ankommt.

RW: Das kann man so sehen. Aber trotzdem noch einmal die Frage: Das, was Sie als Kuratieren bezeichnen, ist ja eine Filter- und Steuerungsfunktion. Wenn man die nicht unter Artikel 5 Grundgesetz einordnet, wo gehört sie dann hin, in welchen Schutzbereich?

ME: Soweit Artikel 5 nicht greift, bleibt Artikel 12 Grundgesetz, wie Herr Buermeyer schon sagte.

RW: Das Kuratieren wäre dann Berufsausübungsfreiheit.

SL: Habe ich Sie beide richtig verstanden, dass Sie sagen, die vorhandenen grundrechtlichen Schutzbereiche reichen aus, um die Intermediäre ausreichend zu schützen in ihrer Tätigkeit. Es braucht also keine neue Ausprägung eines Grundrechts?

UB: Das würde ich genauso unterschreiben. Ich denke, die entstehenden Konflikte zwischen den verschiedenen Grundrechtspositionen lassen sich wunderbar auf der Ebene der Abwägung und der Verhältnismäßigkeit etwaiger Eingriffe abbilden. Dazu braucht es keine Diskussion über weitergehende Schutzbereiche.

RW: Jetzt zu der anderen Seite: Sind die Internetplattformen selber grundrechtsgebunden?

ME: Ganz bestimmt, klassisch seit der Lüth-Entscheidung des Bundesverfassungsgerichts[1], mittelbar und zwar konkret über die AGB-Kontrolle. Diese wird ja auch von den Gerichten zunehmend offensiv wahrgenommen. Man kann dann darüber diskutieren, ob man andere Ansätze verfolgen sollte. Beispielsweise könnte man mit der aus dem angloamerikanischen Raum kommenden Public Forum Doctrine fragen, inwieweit man bei für die Öffentlichkeit zur Verfügung stehenden Infrastrukturleistungen, hier: Kommunikationsinfrastrukturleistungen, zu einer unmittelbaren Grundrechtsbindung gelangen möchte. Aber ich halte das für überhaupt nicht notwendig, weil ich glaube, dass wir mit dem Instrument der mittelbaren Grundrechtsbindung über die AGB-Kontrolle dogmatisch eine sehr gute Konstruktion haben, die leistungsfähig und differenziert ist.

SL: Können Sie noch einmal kurz erklären, was Sie mit AGB-Kontrolle meinen?

ME: Die Nutzer haben ja in der Regel einen Nutzungsvertrag mit Facebook usw. Dafür gibt es dann Allgemeine Geschäftsbedingungen – „Standard terms and conditions“ o.ä. Diese formulieren allgemeine Bedingungen der Nutzung und können als solche einer gerichtlichen Nachprüfung unterworfen werden. Hierbei wird überprüft, ob die AGBs angemessen die Grundwertungen der Rechtsordnung berücksichtigen. Bei der Frage, was gelöscht werden darf, muss deshalb auch die Meinungsfreiheit der Nutzer berücksichtigt werden.

RW: Worin besteht die besondere Macht, also das grundrechtliche Gefährdungspotenzial der Plattformen?

UB: Ich würde denken, dass ihre besondere Macht darin liegt, dass sie zu einer neuen Konzentration führen, was die Foren für den Austausch von Meinungen, insbesondere auch für den politischen Diskurs angeht. Als das Internet in Deutschland in den späten 1990er, frühen 2000er Jahren relevant wurde, gab es eine ziemliche Euphorie, was die Zukunft des Diskurses anging. Man dachte, wenn einfach nur jeder bloggen und irgendwas ins Netz stellen kann, dann wird alles gut werden in unseren demokratischen Systemen. Ich weiß nicht, ob das jemals wirklich funktioniert hat. Aber heute stellen wir zumindest fest, dass diese Kultur sich so nicht durchgesetzt hat. Natürlich kann heute weiterhin jeder ins Netz schreiben, was er gerne möchte. Nur ist das für den Diskurs erst dann relevant, wenn es auch tatsächlich gefunden wird. Und dieses Auffinden im Netz ist inzwischen sehr, sehr schwierig geworden, wenn man nicht in sozialen Netzwerken prominent vertreten ist. Ich denke, die relevantesten Dienste dafür sind wahrscheinlich Twitter und Facebook. Das heißt also, wenn man irgendetwas bloggt, dann muss man das auch über Facebook verbreiten, wenn man wirklich eine relevante Zahl von Leserinnen und Lesern finden will. Twitter ist eine zweite Möglichkeit, aber jedenfalls in Deutschland bedient Twitter eher ein spezielles Marktsegment.

Unter Politikern, Journalisten und Aktivisten ist es natürlich sehr verbreitet, aber in der allgemeinen Bevölkerung noch nicht. Das macht Twitter und Facebook im Grunde zu neuen Gatekeepern. Die spielen über ihre Algorithmen eine ganz zentrale Rolle bei der Frage, welche Inhalte im Netz eigentlich gefunden werden und welche Inhalte sich buchstäblich versenden.

ME: Ich stimme völlig zu. Es gibt meines Erachtens drei zentrale Machttreiber: Der erste ist Monopolisierung, der zweite ist Aufmerksamkeitslenkung und der dritte ist die Dynamisierung der Verbreitung. Die Monopolisierung und Aufmerksamkeitslenkung hat Herr Buermeyer gerade schon erläutert. Ich würde gerne noch die starke Dynamisierung hinzufügen, die mit diesen Medien verbunden und in der negativen Form unter dem Begriff „Shitstorm“ bekannt ist. Es kann aufgrund des Teilens und der Vernetzung eine unglaubliche Dynamik in einer Kommunikation ausgelöst werden, die eine ganz spezifische Kampagnenfähigkeit mit sich bringt – etwas, das in den bisherigen Medien in der Form noch nicht zu beobachten war. Das verschafft nicht unmittelbar den Plattformbetreibern eine Macht, ist aber eine Macht, die gewissermaßen mit ihrer Struktur verbunden ist. Dies ist nichts, was die Plattformbetreiber selbst auslösen, aber etwas, wofür die Plattformbetreiber die zentralen „Ermöglicher“ sind.

RW: Sollte diese Art von Macht gesetzlich oder sogar verfassungsrechtlich reguliert werden?

ME: Verfassungsrechtlich sind wir wahrscheinlich beide dagegen. Jedes soziale Problem mit Verfassungsänderungen anzugehen, würde zu einer Entwertung der Verfassung führen, die ja aus guten Gründen abstrakter, allgemeiner, aber dafür auch funktional ausgerichtet ist und deshalb die meisten Dinge auch adressieren kann, ohne dass wir sie gleich ändern müssen. Gesetzlich wäre ich ganz unbedingt dafür, die Verantwortung, die mit diesen Gefährdungspotenzialen verbunden ist, genauer zu fassen. Ich halte etwa das NetzDG grundsätzlich für einen richtigen Ansatz und denke, dass wir auch die Dynamisierung der Kommunikation auf der gesetzgeberischen Ebene angehen sollten. Bisher gibt es noch keine Adressierung dieser sehr spezifischen Gefahren. Verantwortung sollte gesetzlich ausgestaltet werden, weil Macht mit Verantwortung korreliert. Diese Verantwortung sollte in unserem Rechtsstaat – wenn sie dann politisch erst mal erfasst ist – auch rechtlich umgesetzt werden.

UB: Da kann ich Herrn Eifert wiederum weitgehend zustimmen. Ich würde allerdings einen besonderen Schwerpunkt bei der Ausgestaltung auf die Prozeduralisierung legen. Was das materielle Recht angeht – also die Frage, was darf tatsächlich im Netz gesagt werden und was nicht – sind wir in Deutschland schon relativ gut aufgestellt. Ich sehe jedenfalls spontan keinen großen Reformbedarf, und sehe da auch nur ganz geringe gesetzgeberische Spielräume, einfach weil das Äußerungsrecht in Deutschland schon sehr weitgehend verfassungsrechtlich vorgeprägt ist. Das, was wir heute im Strafgesetzbuch finden, ist sehr weitgehend ausgestaltet und in Teilen auch überformt durch die Rechtsprechung des Bundesverfassungsgerichts. Daher könnte derGesetzgeber bei der Frage, was gesagt werden darf, höchstens noch in Nuancen eingreifen.

Die wirklich spannende Frage ist deswegen aus meiner Sicht, wie man diese Entscheidungen, die die Plattformen aufgrund ihrer Verantwortung für den Diskurs treffen müssen, organisatorisch und prozedural ausgestaltet. Und da sehe ich auch die zentralen Defizite beim NetzDG, denn das Gesetz geht zentral davon aus, dass bestimmte Inhalte aus dem Netz verschwinden müssen. Es lässt dabei aber zwei wichtige Punkte außer Betracht: Es adressiert zum einen nicht, wie man möglicherweise verhindern kann, dass rechtswidrige Inhalte überhaupt erst ins Netz gestellt werden. Wir haben beim NetzDG so eine Art Hydra-Effekt: Selbst wenn alles effektiv gelöscht wird, dann können die Äußernden ihre Inhalte ja einfach weiter ins Netz stellen. Ganz plastisch formuliert: Was hindert eigentlich den rechtsradikalen Hassprediger aus Sachsen daran, seine fremdenfeindlichen Äußerungen im 5-Minuten-Takt bei Facebook einzustellen? Gar nichts! Selbst wenn diese Inhalte alle relativ bald gelöscht werden, werden sie trotzdem eine gewisse Verbreitung erreichen. Die zentrale Frage ist also: Wie kann man Menschen davon abhalten, überhaupt solche Inhalte ins Netz zu stellen? Und da denke ich, sollte die Antwort unserer Gesellschaft eher das Strafrecht sein als das Löschen von Inhalten – einfach weil das Strafrecht eine spezial-, aber auch eine generalpräventive Wirkung entfalten kann. Und diese Chancen nutzen wir bislang leider überhaupt nicht. Strafverfolgung im Internet ist nach wie vor extrem defizitär! Und das liegt wiederum – nochmal ganz deutlich – nicht an der Rechtslage, sondern das liegt im Wesentlichen daran, dass die Länder hier nicht die entsprechenden Ressourcen einsetzen, um tatsächlich effektiv vorzugehen gegen beispielsweise „Hassprediger“. Der zweite wichtige Aspekt ist: Wie gehen Netzwerke eigentlich mit Beschwerden um?

RW: Ich habe noch eine Nachfrage an Herrn Eifert. Wie wollen Sie denn diese Dynamisierung, die in den sozialen Medien stattfindet, regulieren? Das kann ich mir noch nicht vorstellen.

ME: Das ist nicht einfach. Und deshalb müssen wir darüber überhaupt erst einmal anfangen nachzudenken. Ich stimme Herrn Buermeyer grundsätzlich zu, dass wir im Äußerungsrecht gut aufgestellt sind. Ich denke allerdings, dass wir durchaus darüber nachdenken könnten, ob das nicht etwas stärker medienspezifisch differenziert werden kann und vielleicht im Internet doch an der einen oder anderen Stelle die Balance neu gefasst werden müsste. Aber darum geht es mir im Kern gar nicht. Mir geht es darum, dass man die Technik auch auf das anwenden kann, was die Gefährdung erst hervorgebracht hat. Wenn sich in Foren etwa Diskussionsverläufe entwickeln, die typischerweise zu Rechtsverletzungen führen, dann wäre es durchaus denkbar, dass beim Auftreten eines solchen Musters ein Moderator eingeschaltet werden muss, der dann darauf hinwirkt, dass die Diskussionskultur unterhalb dessen bleibt, was aus Erfahrung in massiven Rechtsverletzungen mündet. Ich kann mir durchaus vorstellen, dass man die abstrakte Beobachtung solcher Kommunikationsverläufe nutzt, um an den Gefahrenpunkten, an denen typischerweise die Rechtsverletzung erfolgt, solche prozeduralen Mechanismen zum Tragen zu bringen. Oder wenn man feststellt, dass in großem Maße automatisch generierte Inhalte für Attacken genutzt werden, die zu Rechtsverletzungen führen, man die automatisch generierten Inhalte nicht zulässt, sondern nur noch personalisierte Inhalte. Ich habe keine fertige Lösung, glaube aber, dass wir zu wenig auf dieses spezifische Dynamisierungsmoment geachtet haben. Herr Buermeyer weist zu Recht auf den Hydra-Effekt hin; es ist aber wahrscheinlich oft erkennbar, dass eine konzertierte, personalisierte Attacke stattfindet, die in einer großen Menge an Hassbotschaften mündet und frühzeitig gebremst werden kann.

RW: Gehen wir jetzt zur Regelungsstruktur des NetzDG. Wir haben mit dem Gesetz die Legaldefinition der Plattformen bekommen. Erfasst das die Realität von Plattformen ausreichend oder muss sie ergänzt werden?

UB: Das halte ich persönlich nicht für das zentrale Problem beim NetzDG. Natürlich sind Nutzerzahlen in Deutschland keine trennscharfe Definition, aber nach allem, was wir bislang sehen, scheint das die Verwaltung relativ pragmatisch zu handhaben, und es gibt auch keine nennenswerten Konflikte um diese Frage. Die Schwelle für das doch sehr anspruchsvolle Regelungsregime des NetzDG bei der hohen Zahl von Nutzern[2] anzusetzen, halte ich persönlich für einen sinnvollen Ansatz. Das Forum eines kleineren Vereins oder eines Berufsverbands ist einfach typischerweise nicht der Ort, wo wirklich gesellschaftlich relevante illegale Inhalte veröffentlicht werden.

RW: Die Legaldefinition fordert für eine Plattform, damit sie unter das Gesetz fällt, eine Gewinnerzielungsabsicht. Haben wir bei Non-profit-Plattformen nicht die gleichen Probleme?

UB: Ich muss gestehen, mir fällt jetzt spontan gar keine für den Meinungsaustausch wirklich relevante Non-profit-Plattform ein. Haben Sie ein Beispiel?

RW: Nein, das fällt mir auch nicht ein. Ich höre nur meinen Bekannten aus dem Chaos Computer Club öfter zu und da geht es immer um die Schaffung eines Gegenmodells zu den derzeit existierenden Plattformen und als erstes wird die Gewinnerzielung gestrichen. Es geht um Plattformen, die kein Geschäftsmodell sind, das Gewinn generiert. Hätten wir die Probleme damit erledigt?

UB: Na ganz ehrlich, wenn wir dieses Haftungsregime, oder sagen wir zunächst mal dieses Inhalte-Bearbeitungs-Regime, das das NetzDG vorsieht, auf nichtkommerzielle Plattformen erstrecken, kommt das de facto einem Verbot nichtkommerzieller Plattformen gleich. Denn solche Systeme, wie sie jetzt eben zum Beispiel Facebook mit dem Dienstleister Arvato ins Werk gesetzt hat, kosten mindestens sechsstellige Beträge, wenn nicht noch mehr. Das ist letztlich eine Einschränkung des Anwendungsbereichs.

ME: Der Gesetzgeber setzt ja auf einer konkreten sozialen Realität auf und will nicht universal gültige Definitionen liefern. Und für die gegenwärtige Kommunikationslandschaft ist das eine hinreichend passgerechte Definition. Wenn jetzt die Kommunikation auf einer nichtkommerziellen Plattform stattfände und dort die gleichen Phänomene, also Rechtsgutsverletzungen o.ä. zu beobachten wären, dann würde ich auch darüber nachdenken, ob man dort vielleicht in irgendeiner anderen Form nachregulieren muss. Das haben wir aber alles nicht. Deshalb glaube ich, sind das eher theoretische Fragen.

SL: Sie meinen in der Größenordnung, in der heute die Intermediäre auftreten, die unter das NetzDG fallen, lässt sich so etwas nur kommerziell betreiben?

ME: Das Problem aller alternativen Netzwerke sind ja die positiven Externalitäten, die Netzwerkeffekte, die immer die großen Anbieter begünstigen. Deshalb streben alle im Internet nach schnellen Monopolen und nach schnellen Reichweiten. Je mehr Leute teilnehmen, mit umso mehr Leuten sind sie dann auch über dieses Netzwerk verbunden. Deshalb haben es Neueinsteiger sehr, sehr schwer, überhaupt in diese Märkte hinein zu kommen. Man weiß aber auch: Solche Monopole haben letztlich begrenzte Haltbarkeiten. Aber gegenwärtig spricht alles dagegen, dass jemand, der nichtkommerziell ohne massivsten Ressourceneinsatz versuchte anzugreifen, Erfolg haben könnte.

UB: Ich würde immer vorschlagen, dass man mit solchen Regelungsregimes erst dann ansetzt, wenn sich tatsächlich irgendein Regelungsbedürfnis zeigt. Im Zweifel ist der Gesetzgeber ohnehin mit der Regulierung von Internetphänomenen ein bisschen überfordert. Und jetzt quasi proaktiv eine Regelung zu erstrecken auf einen Markt, bevor er überhaupt entstanden ist, das würde ich für extrem ungeschickt halten.

RW: Ist der Rechtsgüterschutz durch das NetzDG ausreichend? Vielleicht können Sie für Nichtjuristen erst einmal erläutern, welche Rechtsgüter durch das Gesetz geschützt werden?

UB: Da muss man ketzerisch antworten: Das NetzDG schützt überhaupt keine Rechtsgüter, sondern das NetzDG knüpft an den bereits existierenden Rechtsgüterschutz im Strafgesetzbuch an, greift dann einige Straftatbestände heraus und versucht da tatbestandsmäßig anzuknüpfen. Aber es ist ganz wichtig festzuhalten: Das NetzDG selbst verbietet nichts, was nicht schon vorher verboten war. Es zwingt lediglich die Plattformen dazu, eine Entscheidung zu treffen, ob bestimmte Inhalte nach dem Maßstab dieses sehr speziellen Rechtswidrigkeitsbegriffs zulässig sind oder nicht. Es dient dem Rechtsgüterschutz quasi mittelbar, indem es die Anwendung des Strafrechts effektuieren will, dadurch, dass die Netzwerke selber dieses Strafrecht zugrunde legen sollen. Es dient dabei zentral dem Schutz der persönlichen Ehre. Das scheint mir das wesentliche Anliegen zu sein. Aber es gibt natürlich noch eine ganze Reihe anderer Straftaten, die teilweise sogar etwas unscharfe Rechtsgutsbegriffe haben, wo alsonicht ganz klar ist, was die eigentlich schützen sollen. Denken wir an den Straftatbestand der Volksverhetzung, der eine große Rolle spielte bei der Diskussion um das NetzDG. Was der eigentlich schützt, ist auch in der strafrechtlichen Diskussion gar nicht ganz klar.

ME: Genau so sehe ich es auch. Man könnte sagen: Zu diesem mittelbaren Schutz – mittelbar unterstrichen – gehören die persönliche Ehre (das würde ich weiter fassen, als Persönlichkeitsschutz, sonst hört sich das so antiquiert nach 19. Jahrhundert an); Kinderpornographie-Paragraphen und der Bereich Staat und allgemeine öffentliche Sicherheit – das wären vielleicht ganz grob die Blöcke. Aber in der Tat: das franst aus. Ob der Katalog jetzt sauber gefasst und konsequent durchdacht ist; ob die Rechtsgüter, die jeweils geschützt werden, hinreichend konturiert sind – da kann man sicherlich in Einzelfällen darüber sprechen.

SL: Mir scheint gerade in Bezug auf die von Ihnen angesprochenen Gefährdungen durch die Monopolisierung der Meinungsbildung und die Dynamisierungseffekte, dass der Straftatenkatalog des NetzDGi nicht ganz dazu passt. Da sind Delikte dabei, wo ich nicht sehe, dass es eine große Rolle spielt, die möglichst schnell aus dem Netz entfernt zu bekommen. Sollte der Katalog nicht beschränkt werden auf spezielle Straftaten, wo es eine dynamisierende Wirkung gibt bei den Betroffenen?

UB: Ich sehe da nicht den richtigen Ansatz für die Kritik am NetzDG, denn das hat letztlich auch etwas damit zu tun, ob sich der Rechtsstaat mit seiner eigenen Normierung ernst nimmt. Wenn wir schon bestimmtes Verhalten strafrechtlich sanktionieren, dann wäre es doch schizophren zu sagen, dass die Netze bei der Durchsetzung dieses Strafrechts – das sie ja als Intermediäre ohnehin umsetzen müssen – nur bestimmte Straftatbestände zugrunde legen müssen und andere nicht. Ich finde es eigentlich eher ein Problem, dass das NetzDG einen ganz speziellen Rechtswidrigkeitsbegriff verwendet; eigentlich wäre es viel plausibler, die Netzwerke zu verpflichten, generell zu prüfen, ob ein bestimmter Inhalt gegen Strafrechtsnormen verstößt. Insofern finde ich, wenn überhaupt die Diskussion um diesen Straftatenkatalog kreist, dann würde ich ihn eher abschaffen, anstatt darüber zu diskutieren, welche Tatbestände daraus möglicherweise gestrichen werden könnten. Das hätte auch den großen Vorteil, dass man dann wieder zu dem zurückkommt, was eigentlich als Einheit der Rechtsordnung heilig war: Dass nämlich der Rechtswidrigkeitsbegriff in der Rechtsordnung immer derselbe ist und nicht in bestimmten Rechtsgebieten andere Vorstellungen von Rechtswidrigkeit herrschen als in anderen.

ME: Das NetzDG ist ja nur ein regulatorischer Baustein, ein Ansatz, der gewählt wurde. Da hat der Gesetzgeber eben einen Teilbereich herausgeschnitten. Deshalb kann man jetzt nicht kurzschließen von dem, was wir zum Grundsätzlichen gesagt haben, auf die Regelungsstruktur des NetzDG.

RW: Nun noch zur Diskussion über die Verfassungsmäßigkeit des NetzDG. Es wird als erstes bestritten, dass der Bund eine Regelungskompetenz dazu hatte.

ME: Der Bund hat das Gesetz auf das Recht der Wirtschaft gestützt – und das, glaube ich, auch zurecht. Reguliert werden spezifische Gefahren, die mit einem Wirtschaftszweig verbunden sind. Der regulatorische Ansatz des NetzDG sind Organisationsvorgaben an die Unternehmen, um ein Compliance-System einzurichten, das die Einhaltung der rechtlichen Vorgaben hinreichend sicherstellt. Insoweit geht es zwar im Ergebnis um kommunikative Inhalte, aber das ist relevant für den Grundrechtsschutz, nicht die Kompetenz.

UB: Kein Widerspruch, das sehe ich genauso, und das ist ja letztlich auch schon der Regelungsansatz des Telemediengesetzes. Sonst wäre der Bund auch nicht für die Umsetzung der E-Commerce-Richtlinie zuständig gewesen. Da sehe ich überhaupt kein Problem.

RW: Die Gefahr des Overblocking ist einer der großen Einwände gegen das NetzDG.

ME: Ich glaube, dass diese Vorstellung des Overblocking mit der Gesetzesgenese zu tun hat. Ein verbreitetes Missverständnis ist, dass die Bußgeldbewehrung, die ja als das drohende Schwert den maßgeblichen Auslöser für ein mögliches Overblocking bildet, weil die Unternehmen zur Vermeidung der Bußgelder im Zweifel lieber gleich löschen könnten, dass diese Bußgeldbewehrung eben nicht an dem einzelnen Löschvorgang ansetzt, sondern ein systemisches Versagen voraussetzt. Sie betrifft nur den Fall, dass der vorgeschriebene Umgang mit den Beschwerden über rechtswidrige Inhalte systematisch verfehlt wird. Das heißt, dass es zunächst zu einer Kommunikation kommen dürfte darüber, ob jetzt diese Verfahren grundlegend verfehlt sind oder nicht. Deshalb glaube ich nicht, dass die Unternehmen eine große Angst davor haben, aus dem Nichts mit einem hohen Bußgeld überzogen zu werden. Zweitens wird bei der Kritik an der Anreizstruktur zu sehr einseitig  auf das Nicht-Löschen rechtswidriger Inhalte geblickt. Wenn man den § 3 Abs. 1 NetzDG aber genau nimmt, dann sagt er nur: Es muss ein wirksames und transparentes Verfahren für den Umgang mit Beschwerden über rechtswidrige Inhalte vorgehalten werden. Wenn man das verfassungskonform auslegt, heißt das letztlich, dass dieser angemessene Umgang bedeutet, dass die Unternehmen sowohl das Overblocking als auch das Underblocking vermeiden müssen und dass eine systematische Verletzung in beide Richtungen bußgeldbewehrt ist; was bedeutet, dass sich die Bußgeldbewehrung gewissermaßen in einem Gleichgewicht des Schreckens zwischen den verschiedenen betroffenen Interessen befindet und deshalb kein systematischer Anreiz zum Overblocking ist.

UB: Da, glaube ich, haben wir tatsächlich den ersten Dissens. Ich sehe durchaus – jedenfalls abstrakt – ein großes Problem darin, dass das NetzDG grundsätzlich nur am systemischen Versagen ansetzt. Man könnte sicherlich auch ein System, das systematisch legale Inhalte löschen lässt, als in diesem Sinne defizitär ansehen. Ich würde aber Herrn Eifert nicht zustimmen, wenn er sagt, dass man deswegen die starken Anreize des NetzDG völlig ausgleichen kann. Sicher könnte man das Gesetz verfassungskonform so auslegen, aber es ist gerade bei einer Bußgeldbewehrung schwer, den Anwendungsbereich zu erstrecken auf ein Verhalten, das nach der Norm nicht eindeutig bußgeldbewehrt sein soll. Und wir kommen doch nicht um den Befund herum, dass die vorgesehenen Löschfristen ausschließlich den Fall regeln, dass Inhalte nicht innerhalb dieser Löschfristen gelöscht werden. Und das ist mittelbar ein Problem, wenn Inhalte gelöscht werden, die legal sind. Was Herr Eifert aufzeigt, ist quasi eine Hintertür, um diesen Befund abzuschwächen. Aber diesen Weg würde ich so ohne Weiteres nicht mitgehen.

Andererseits stimmt es natürlich, dass die Anreizwirkung dieses doch sehr mittelbar wirkenden Bußgeldtatbestands ausgesprochen schwach ist. Und in der Praxis – auch das muss man sagen – können wir bislang nicht feststellen, dass es aufgrund des NetzDG zu einem erheblichen Overblocking gekommen ist.[4] Wenn überhaupt, scheinen wir doch momentan Overblocking in dem Sinne zu sehen, dass Netzwerke ganze Accounts sperren – teilweise aufgrund algorithmischer Fehlentscheidungen, teilweise aufgrund menschlicher Missverständnisse. Aber Accountsperren sind überhaupt keine Sanktionen, die das NetzDG vorsieht. Das heißt also, dieses Overblocking, soweit wir es tatsächlich erleben, beruht heute nicht auf dem NetzDG, sondern auf allzu weit gehenden Vorstellungen der Netzwerke selber, also auf ihren eigenen Netzwerkregeln.

ME: Für das Stichwort bin ich sehr dankbar, denn die Transparenzberichte der Netzwerkbetreiber haben ja gezeigt, dass der allergrößte Teil aufgrund von Community Standards gelöscht wurde und dass die Community Standards die entscheidenden Regeln sind, nach denen zulässige Aussagen von den Plattformen gelöscht werden.[5] Deshalb glaube ich, liegt der Kern des Overblockings, wenn man es definiert als eine Differenz zwischen dem, was man nach der allgemeinen Rechtsordnung sagen darf und dem, was auf einer Plattform veröffentlicht wird, eher bei der Kontrolle der Community Standards als im NetzDG.

RW: Deswegen jetzt nochmal zurück zu der Frage, wie sich überhaupt das Netzwerkdurchsetzungsgesetz zu den AGBs verhält. Ich finde eigentlich: gar nicht! Und hätte es sich nicht verhalten müssen?

ME: Ich glaube, es muss sich nicht dazu verhalten, weil die AGBs eine Frage des Vertragsrechts sind und es hier im Bereich der Störerhaftung um eine deliktsrechtliche Frage geht. Deshalb sind wir in unterschiedlichen Rechtsbereichen. Das Compliance-System des NetzDG nimmt auf die Störerhaftung Bezug, möchte aber in keiner Weise in die Vertragsnetzwerke eingreifen, dafür sind einfach andere rechtliche Regeln vorgesehen. Und die treten auch nicht in Widerspruch zueinander. Was man sich allerdings fragen kann: Der BGH hat ja mit der Blog-Entscheidung[6] begonnen, prozedurale Komponenten in die Störerhaftung einzubauen. Er hat insoweit  ein Verfahren der jeweiligen Kenntnisgabe an die Kommunikatoren etabliert, bevor man löscht. Es fragt sich, wie diese prozeduralen Komponenten, die der BGH entwickelt hat, sich zu den gesetzlichen Komponenten des NetzDG verhalten. Aber das sind sozusagen Fragen der dogmatischen Feinheiten. Auch da würde ich nicht sagen, es sei furchtbar, dass der Gesetzgeber sich nicht zu den richterrechtlichen Entwicklungen geäußert hat.

Darf ich noch einen Nachtrag zum Overblocking machen; da haben Herr Buermeyer und ich vielleicht auch noch einen kleinen Dissens. Es sollte darauf hingewiesen werden, dass natürlich die Verfahrenskomponente vor der Löschung, die zum Beispiel auch in der BGH-Blog-Entscheidung angesprochen wird, auch wichtig ist für die Frage, wie hoch die Gefahr eines Overblockings ist. Sinnvollerweise hört man diejenigen an, deren Beiträge gelöscht werden sollen. Hier ist das unmittelbare Wording des NetzDG sehr eng gefasst. Auch da kommen wir dann – parallel zu den Anreizstrukturen beim Bußgeld – zu der Frage, ob man über eine verfassungskonforme Auslegung nicht die Verfahrensbeteiligung weiter fassen muss, sodass sie jetzt schon gegeben ist. Die gegenwärtigen Bestrebungen zur Verbesserung des NetzDG zielen auch genau darauf ab, über eine stärkere Verfahrensbeteiligung die Interessenberücksichtigung gleichmäßig vorzunehmen.

RW: Dann zur letzten Frage der Verfassungswidrigkeit des NetzDG: Führt die private Durchsetzung des NetzDG zur Verfassungswidrigkeit, Herr Eifert?

ME: Ich tue mich sehr schwer mit dem Begriff. Das ist nicht private Rechtsdurchsetzung, sondern das ist rechtliche Pflichterfüllung, weil es ja darum geht, dass die Netzwerkbetreiber ihre eigene rechtliche Pflicht aus der Störerhaftung einhalten. Dieses Compliance-Regime ist zunächst einmal die organisatorische und prozedurale Überformung der eigenen materiellen Pflicht. Was sie erfüllen, ist eine eigene bestehende Rechtspflicht. Das hat nichts zu tun mit einer Durchsetzung von Rechten, die sonst von anderen durchgesetzt werden müssen.

RW: Herr Buermeyer, sehen Sie das auch so?

UB: Ich sage es mal so: Das NetzDG verpflichtet im Grunde die privaten Betreiber nur dazu, die rechtlichen Pflichten zu erfüllen, die sie eigentlich längst hätten erfüllen müssen. Insofern kann ich darin auch nicht das ganz große Problem sehen. Ich denke, das Problem bei der Prozeduralisierung ist tatsächlich eher, dass das NetzDG an dieser Stelle weitgehend Leerstellen enthält. Es gibt zwar Reaktionsfristen, bis wann bestimmte Inhalte gelöscht werden müssen, aber es gibt insbesondere keine Verpflichtung, den Urheber einer möglicherweise problematischen Äußerung überhaupt damit zu konfrontieren. Und es gibt auch keine Verpflichtung, quasi die andere Seite zu hören. Das macht die Sache so problematisch, weil das Netzwerk verpflichtet wird, einerseits schnell zu entscheiden, aber nicht dazu verpflichtet wird, gut zu entscheiden. Ich denke, dass der Gesetzgeber wesentliche Potenziale ungenutzt lässt, darauf hinzuwirken, dass die Entscheidung der Netzwerke sich tatsächlich am geltenden Recht orientiert.

SL: Noch eine Rückfrage des Nichtjuristen: Ist nicht ein Problem in der Anwendung des NetzDG, dass die Zuordnung zu den Rechtsgütern nicht so einfach vorzunehmen ist, dass es etwa Unsicherheiten gibt, was zum Beispiel unter das Verbot der Volksverhetzung fällt und was nicht? In den Transparenzberichten wird ja unterschieden, von woher die Aufforderungen zum Löschen kommen, ob von einzelnen BenutzerInnen oder von Beschwerdestellen. Ich würde denken, die Beschwerdestellen haben eine größere Professionalisierung und eine höhere Erfolgsquote mit ihren Löschanträgen. Das ist aber nicht so. Bei YouTube beispielsweise ist die Löschquote der Nutzermeldungen deutlich höher als die der Beschwerdestellen. Ist das nicht ein Problem der Rechtsdurchsetzung, dass da Private entscheiden sollen, welche Inhalte die Tatbestände verwirklichen und welche nicht?

UB: Ich sehe hier nicht notwendigerweise ein Problem, denn es gäbe ja parallel dazu die Möglichkeit, staatliche Instanzen einzuschalten. Als Betroffener könnte man auch zivilrechtlich eine Unterlassungsverfügung gegen ein soziales Netzwerk erwirken. Man ist ja nicht gezwungen, sich ausschließlich darauf zu verlassen, was ein Netzwerk quasi freiwillig tut. Nur die Rechtswirklichkeit zeigt, dass kaum jemand zum Beispiel versucht, Facebook dazu zu zwingen, bestimmte Inhalte aus dem Netz zu entfernen – jedenfalls gerichtlich nicht, sondern man beschwert sich eben bei Facebook. Aber das ist eine autonome Entscheidung der Betroffenen. Das kann man dem Gesetzgeber nicht vorhalten. Das Einzige, was man dem Gesetzgeber an dieser Stelle vorhalten könnte, ist, dass er kein Verfahren vorgesehen hat, in dem die Netzwerke entscheiden müssen. Insbesondere hat er es versäumt, einen sogenannten put-back-Anspruch zu etablieren, das heißt ein Recht darauf, von einem Netzwerk die Wiedereinstellung eines einmal gelöschten Inhalts zu verlangen. Zwar lässt sich so ein put-back-Anspruch in vielen Situationen auch schon nach allgemeinem Zivilrecht konstruieren – Herr Eifert hat schon das Stichwort AGB-Kontrolle angesprochen. Da gibt es inzwischen erste Gerichtsentscheidungen, die Netzwerke verpflichten, bestimmte Dinge wieder einzustellen. Aber das hätte der Gesetzgeber im Bereich des materiellen Rechts klarstellen müssen, und zwar mit einem minimalinvasiven Eingriff. Ich hätte große Bedenken, ein allgemeines Recht auf Publikation festzulegen, denn das würde doch sehr stark eingreifen in unser geltendes Äußerungsrecht. Aber das Fehlen eines spiegelbildlichen Anspruchs auf Wiedereinstellen eines einmal gelöschten Inhalts, wenn dieser Inhalt in Wirklichkeit nicht rechtswidrig ist – das ist eine Leerstelle im NetzDG.

RW: Gut, also Sie sprechen jetzt von einer Leerstelle. Ich hatte Sie ursprünglich so verstanden, dass Sie durchaus auch eine Verfassungswidrigkeit im NetzDG sehen. Ich versuche jetzt zu begreifen, wo die eigentlich geblieben ist.

UB: Ich glaube nicht, dass ich das NetzDG jemals für materiell verfassungswidrig erklärt habe. Ich halte es nur für ein rechtspolitisch in Teilen ausgesprochen ungeschickten Ansatz. Und da würde ich nochmal auf dieses Schlagwort Hydra verweisen. Ich glaube, dass dieses Löschregime nicht besonders effizient ist. Das zeigen ja auch die ersten Transparenzberichte. Anders herum hätte man durch eine effektive Strafrechtsdurchsetzung eine ganze Menge mehr erreichen können. Diese Chance hat der Gesetzgeber weitgehend verstreichen lassen. Zunächst einmal enthielt das NetzDG keine Regelung, die irgendwie die Strafrechtsdurchsetzung effektiviert hätte. Dann ist im Gesetzgebungsverfahren immerhin noch § 5 Absatz 2 ergänzt worden, also die Verpflichtung binnen 48 Stunden auf berechtigte Anfragen von Strafverfolgungsbehörden zu reagieren. Aber generell zeichnet sich das NetzDG durch eine extreme Geringschätzung der strafrechtlichen Verfolgung illegaler Äußerungen aus. Ich halte das rechtspolitisch für ein großes Problem, weil man niemals alle rechtswidrigen Inhalte wird rechtzeitig löschen können. Und – wie gesagt – bis heute hindert nichts bestimmte Nutzerinnen und Nutzer daran, illegale Inhalte immer wieder erneut einzustellen. Ich glaube, da wird man gesetzgeberisch nachsteuern müssen.

ME: Ich stimme auch mit Herrn Buermeyer darin überein, dass man strafrechtlich durchaus deutlich vorgehen muss. Allerdings wäre das jetzt auch im NetzDG nicht der regelungssystematisch richtige Ort gewesen. Das müssen die Strafverfolgungsbehörden entscheiden und dafür müssen sie hinreichend ausgestattet werden. Das sind alles Probleme, die aber ja auch bekannt sind und die im Justizapparat zu verorten sind.

RW: Wenn man Herrn Buermeyer folgt, dann ist es so: Man hätte sich auf das Strafrecht verlassen können und die Durchsetzungsbedingungen des Strafrechts im Internet einfach stärken müssen. Man braucht das NetzDG dazu im Zweifel nicht. Wir wissen aber, dass es Grundrechtsgefährdung durch die Intermediäre gibt. Das ist dann zwar rechtssystematisch ein anderes Gesetz, aber wie sollte das aussehen?

ME: Ich würde sagen, das sind verschiedene Ansätze, die parallel liegen. Ich sehe nicht, dass es zu einem Kumulationseffekt kommt, der zu einer Grundrechtswidrigkeit führt. Man muss die zivilrechtliche Haftung der Plattformbetreiber selber effektivieren. Und der Punkt von Herrn Buermeyer, wenn ich ihn richtig verstanden habe, ist ja im Prinzip nur derjenige, dass natürlich davor erst mal der Kommunikator oder die Kommunikatorin steht! Und dass man deshalb nicht nur an verbreiteten Inhalten ansetzen muss, sondern auch darauf zielen muss, dass dieses gedankenlose Rechtsüberschreitungsposting in dieser Form nicht stattfindet. Die Leute müssen aufgrund strafrechtlicher Verfolgung merken, dass auch Posten im Netz eine hohe Relevanz hat und entsprechend die normalen Strafbarkeitsgrenzen gelten.

UB: Zum Thema Strafrecht habe ich ja schon Stichworte geliefert. Da ist natürlich das große Problem, dass das in der Länderkompetenz liegt und die Länder sich bislang – soweit ich das sehe – kollektiv nicht so engagieren, wie das im Sinne einer effektiven Strafrechtspflege sinnvoll wäre. Wenn wir jetzt auf das NetzDG isoliert schauen, denke ich, dann wäre es sinnvoll, gesetzgeberische Vorgaben zu machen für eine Prozeduralisierung, sodass insbesondere die Äußernden, aber auch die möglicherweise von einer Äußerung Betroffenen wenigstens Gelegenheit bekommen, etwas zu einer Beschwerde zu sagen. Ich denke, für die Äußernden ist das insbesondere dann relevant, wenn es sich zum Beispiel um einen sarkastischen oder ironischen Kommentar handelt und dies möglicherweise von einem Entscheider bei einem Netzwerk nicht ohne weiteres erkannt werden kann. Da sollte es so etwas wie eine Konfrontationspflicht geben. Und zugleich könnte man sich die Frage stellen, ob nicht das NetzDG ganz explizit in dem Sinne verfeinert werden sollte, wie Herr Eifert es im Wege der verfassungskonformen Auslegung schon in das Gesetz hineinlesen wollte; dass also tatsächlich eine Art Optimierungspflicht festgelegt wird, also die Entscheidungen möglichst richtig sein sollen, und nicht nur die Löschfristen für rechtswidrige Inhalte eingehalten werden müssen.

RW: Wir bedanken uns bei Ihnen ganz herzlich für das Gespräch.

Das Gespräch führten Rosemarie Will und Sven Lüders.

Anmerkungen:

1 BVerfG, Urteil des Ersten Senats vom 15.1.1958, Az. 1 BvR 400/51 (BVerfGE 7,198).

2 Nach § 1 Abs. 2 NetzDG gelten dessen Regelungen nur für Firmen, die mindestens 2 Millionen Nutzer*innen im Inland haben.

3 S. Dokumentation auf S. 58 dieser Ausgabe.

4 S. Dokumentation auf S. 60 dieser Ausgabe.

5 Ebd.

6 BGH: Prüfpflichten für Hostprovider – Blogspot. Urteil v. 25.10.2011, Az. VI ZR 93/10.

Der Beitrag ‚Die besondere Macht sozialer Netzwerke liegt in ihrer Dynamisierung von Kommunikation.‘ erschien zuerst auf Humanistische Union.

Seit dem 1. Januar 2018 müssen soziale Netzwerke mit mehr als zwei Millionen Nutzer*innen nach dem deutschen Netzwerkdurchsetzungsgesetz (NetzDG) offensichtlich rechtswidrige Inhalte wie Volksverhetzung, Bedrohung, Beleidigung oder üble Nachrede innerhalb von 24 Stunden nach Eingang einer Beschwerde entfernen. Die Digitalpolitiker und FDP-Bundesvorstandsmitglieder Jimmy Schulz und Manuel Höferlin haben am 12. Juni 2018 eine Feststellungsklage gegen das NetzDG beim Verwaltungsgericht Köln eingereicht. Das Gericht soll feststellen, dass das NetzDG formell und materiell verfassungswidrig ist, weil es die in Art. 5 Abs. 1 GG garantierte Meinungs- und Medienfreiheit verletzt.

Nach Ansicht der Kläger obliegt die Regulierung sozialer Netzwerke und damit auch die Wahrung der öffentlichen Sicherheit und Ordnung in den Netzwerken nicht dem Bund, sondern den Ländern. Die Länder seien nicht nur für die traditionellen Medien zuständig, sondern auch für soziale Netzwerke wegen ihrer meinungsbildenden Funktion. Wegen der hohen Bußgeldandrohungen werden Anbieter sozialer Netzwerke Inhalte auch ohne eingehende Prüfung ihrer Rechtmäßigkeit im Zweifel löschen. „Das birgt die Gefahr eines verfassungswidrigen Overblockings. Algorithmen etwa erkennen keine Satire, löschen sie aber im Zweifel„, so der Prozessbevollmächtigte Prof. Dr. Hubertus Gersdorf. Durch die fehlende Anhörungspflicht werde das Risiko eines unzureichend ermittelten Sachverhalts und damit das Risiko nicht gerechtfertigter Löschungen durch Anbieter sozialer Netzwerk erhöht.

I. Von einer Verfassungsbeschwerde gegen das Netzwerkdurchsetzungsgesetz (NetzDG) wurde abgesehen, weil dieser (wohl) der Grundsatz der Subsidiarität der Rechtssatzverfassungsbeschwerde entgegenstünde; der Rechtsstreit ist in tatsächlicher und einfachgesetzlicher Hinsicht aufklärungsbedürftig, sodass eine fachgerichtliche Vorprüfung erforderlich ist. Gleichwohl ist das Klageziel ein Vorlagebeschluss des Verwaltungsgerichts Köln zum Bundesverfassungsgericht. Das Bundesverfassungsgericht soll im Verfahren nach Art. 100 Abs. 1 GG das NetzDG für verfassungswidrig erklären.

II. Obgleich die Kläger (bislang) keinen konkreten Löschungsfall vorweisen können, ist ihre Klage zulässig, da es ihnen nicht zuzumuten ist, rechtswidrige, d.h. strafbare Inhalte im Sinne des § 1 Abs. 3 NetzDG zu verbreiten und deren Löschung durch Facebook abzuwarten, um dann hiergegen zivil- oder verwaltungsgerichtlich vorzugehen. Nach der sog. „Damokles-Rechtsprechung“ ist es unzumutbar, das Risiko eines derart sanktionsbewehrten Pflichtenverstoßes einzugehen und den Rechtsstreit über dessen Vorliegen erst im Nachhinein „von der Anklagebank herab“ (Bundesverwaltungsgericht) führen zu müssen. Deshalb ist hier eine vorbeugende Feststellungsklage zulässig.

III. Das NetzDG ist nach (nahezu) einhelliger Literatur formell verfassungswidrig, weil dem Bund hierfür eine Gesetzgebungskompetenz fehlt: Regelungsgegenstand des NetzDG ist die Verhinderung der Verbreitung rechtswidriger Inhalte, die einen der in § 1 Abs. 3 NetzDG genannten Straftatbestände erfüllt. Die Aufrechterhaltung der öffentlichen Sicherheit und Ordnung begründet keinen eigenständigen Kompetenztitel. Vielmehr ist sie kompetenziell dem Sachgebiet zuzuordnen, zu dem sie in einem notwendigen Sachzusammenhang steht. Die Gewährleistung der Rechtsordnung (im Sinne des § 1 Abs. 3 NetzDG) obliegt kraft Sachzusammenhangs dem Kompetenzträger, dem die Regelung der Tätigkeit sozialer Netzwerke obliegt. Wegen des engen Zusammenhangs zwischen Grundrechten und Kompetenznormen kommt es für die Kompetenzabgrenzung maßgeblich auf die grundrechtliche Einordnung des zu regelnden Sachbereichs an.

Dementsprechend liegt die Gewährleistung der allgemeinen Gesetze in den Medien bei den für die Medien zuständigen Ländern. Im Hinblick auf die vom NetzDG erfassten sozialen Netzwerke gilt nichts anderes, und zwar unabhängig davon, ob man insoweit an die Tätigkeit der Nutzer sozialer Netzwerke oder an die Anbieter solcher Plattformen anknüpft. Die Tätigkeit der Nutzer sozialer Plattformen stellt sich als Ausübung der durch Art. 5 Abs. 1 GG geschützten Kommunikationsgrundrechte dar. Im Sinnzentrum der Kommunikationsgrundrechte des Art. 5 Abs. 1 GG stehen nicht wirtschaftliche Interessen, die eine Bundeskompetenz nach Art. 74 Abs. 1 Nr. 11 GG begründen könnten, sondern der freiheits- und demokratiefördernde Kommunikationsprozess. Der Schutz dieses Kommunikationsprozesses unterfällt nicht dem Sachgebiet des Art. 74 Abs. 1 Nr. 11 GG, sondern der Länderkompetenz nach Art. 70 Abs. 1 GG. Die Gewährleistung der verfassungsmäßigen Ordnung bei sämtlichen durch Art. 5 Abs. 1 GG geschützten Kommunikationsformen steht in einem engen Zusammenhang mit dieser Kompetenz und unterliegt deshalb ebenfalls der Länderkompetenz nach Art. 70 Abs. 1 GG.

Das Gleiche gilt, wenn man in Bezug auf die kompetenzielle Verortung des NetzDG auf die Anbieter sozialer Netzwerke abstellt. Die Tätigkeit sozialer Netzwerke unterfällt wegen ihrer (algorithmengesteuerten) meinungsbildenden Funktion („Filterblasen“, „Echokammer“) dem Schutz der Mediengrundrechte des Art. 5 Abs. 1 Satz 2 GG, deren Regulierung einschließlich der Gewährleistung der öffentlichen Sicherheit und Ordnung den Ländern obliegt. Das würde auch dann gelten, wenn Anbieter sozialer Netzwerke (allein) Träger der Wirtschaftsgrundrechte (Art. 12, 14 GG) wären. Auch (strikt inhaltsneutrale) Plattformbetreiber (Kabelnetzbetreiber etc.) sind kraft Landesrechts an die verfassungsmäßige Ordnung gebunden (§ 52a Abs. 1 Rundfunkstaatsvertrag – RstV) und können unter den Voraussetzungen der Nichtstörerhaftung (§ 52a Abs. 2 Satz 3 RStV) durch die zuständige Aufsichtsbehörde in Anspruch genommen werden. Für Anbieter sozialer Netzwerke, die wegen des Inhaltsbezugs ihrer Tätigkeit den rechtswidrigen Inhalten näherstehen, gilt nichts Anderes. Auch sie unterfallen der Länderkompetenz, selbst wenn man ihre Tätigkeit als eine rein wirtschaftlicher Art qualifizierte.

IV. Nicht zuletzt ist das NetzDG auch materiell verfassungswidrig. Das NetzDG enthält im Vergleich zum ursprünglichen Gesetzentwurf zwar deutliche Verbesserungen. Gleichwohl verstößt das NetzDG in mehrfacher Hinsicht gegen die Grundrechte aus Art. 5 Abs. 1 GG der Nutzer und der Anbieter sozialer Netzwerke:

1. Mit Blick auf die Bußgeldandrohung nach § 4 NetzDG werden Anbieter sozialer Netzwerke Inhalte auch ohne eingehende Prüfung ihrer Rechtmäßigkeit im Zweifel löschen. Eine Löschung ohne eingehende Rechtmäßigkeitsprüfung ist mit dem besonderen Schutz der Kommunikationsgrundrechte des Art. 5 Abs. 1 Satz 1 und 2 GG unvereinbar. Dieser Gefahr eines verfassungswidrigen Overblockings wirkt das NetzDG nicht entgegen. Im Gegenteil: Es begründet diese Gefahr nachgerade:

a) Der Gesetzgeber berücksichtigt zwar durch § 3 Abs. 2 Nr. 3 Halbsatz 2 Buchstabe a Halbsatz 1 NetzDG, dass die Entscheidung der Anbieter sozialer Netzwerke über die Rechtswidrigkeit des Inhalts wegen tatsächlicher Schwierigkeiten innerhalb von 7 Tagen nicht möglich ist. Eine entsprechende Regelung für den Fall, dass die Entscheidung wegen rechtlicher Schwierigkeiten länger als 7 Tage beansprucht, fehlt jedoch. Damit ist die vom Gesetzgeber erkannte Gefahr, dass Inhalte wegen des zu knappen Zeitfensters für eine eingehende Prüfung gelöscht werden, nicht gebannt. Um dieser Gefahr wirksam zu begegnen, hätte es einer Ausnahme von der 7 Tage-Regelung nicht nur bei tatsächlich rechtswidrigen, sondern auch bei rechtlich schwierigen Fällen bedurft.

b) Dieser Fehler des Gesetzgebers setzt sich bezogen auf die Einrichtung der Regulierten Selbstregulierung fort und wird noch verstärkt. Für die Entscheidung über die Rechtswidrigkeit des Inhalts durch eine solche Einrichtung fehlt eine § 3 Abs. 2 Nr. 3 Halbsatz 2 Buchstabe a Halbsatz 1 NetzDG entsprechende Regelung. Die Möglichkeit einer Überschreitung der 7 Tage-Regelung ist nicht einmal – wie für Anbieter sozialer Netzwerke – für den Fall vorgesehen, dass die Entscheidung in tatsächlicher Hinsicht Schwierigkeiten aufwirft. Erst recht fehlt eine Dispensmöglichkeit für den Fall, dass die Entscheidung rechtlich schwierig ist. Der Gesetzgeber ist daher der von ihm erkannten Gefahr, dass Inhalte wegen des zu knappen Zeitkorridors für eine eingehende Prüfung gelöscht werden, doppelt nicht entgegengetreten.

c) Die Gefahr des Overblockings besteht umso mehr, als Anbieter sozialer Netzwerke nach dem NetzDG keine Möglichkeit haben, eine gerichtliche Entscheidung über die Rechtswidrigkeit des Inhalts herbeizuführen. Eine solche Möglichkeit der gerichtlichen Vorabentscheidung räumt das NetzDG nur dem Bundesamt für Justiz als Bußgeldbehörde (§ 4 Abs. 4 Satz 1 NetzDG) ein (§ 4 Abs. 5 NetzDG).

d) Schließlich wird die Gefahr des Overblockings dadurch verstärkt, dass Anbieter sozialer Netzwerke nicht verpflichtet sind, den betroffenen Nutzer vor der Entscheidung über die Löschung seines Inhalts anzuhören. Damit weicht der Gesetzgeber von der gefestigten Rechtsprechung des Bundesgerichtshofes zur Störerhaftung ab. Danach „ist“ dem Urheber einer Äußerung nach einer Beschwerde Gelegenheit zur Stellungnahme zu geben, bevor der Plattformbetreiber die Äußerung löscht. Durch die fehlende Anhörungspflicht wird das Risiko eines unzureichend ermittelten Sachverhalts und damit das Risiko nicht gerechtfertigter Löschungen durch Anbieter sozialer Netzwerke erhöht.

2. Ausweislich der Gesetzesbegründung soll „nicht schon die fehlerhafte Nichtlöschung eines einzelnen Inhaltes“, sondern nur „ein systemisches Versagen“ eines Anbieters die Grundlage für die Verwirklichung eines Bußgeldtatbestandes nach § 4 Abs. 1 Nr. 2 NetzDG sein. Dies kommt im Bußgeldtatbestand des § 4 Abs. 1 Nr. 2 NetzDG jedoch nicht zum Ausdruck. Diese Bußgeldvorschrift ist daher wegen Verstoßes gegen das Bestimmtheitsgebot des Art. 103 Abs. 2 GG verfassungswidrig.

3. Das NetzDG räumt dem nicht staatsfrei organisierten Bundesamt für Justiz eine Reihe von inhaltsbezogenen Handlungs- und Beurteilungsspielräumen ein, die es ermöglichen, dass sachfremde Erwägungen Einfluss auf die Entscheidung des Bundesamtes für Justiz über die Verhängung von Bußgeldern und deshalb mittelbar auf die Entscheidung der Anbieter sozialer Netzwerke über die Löschung von Inhalten gewinnen können. Das verstößt gegen den Grundsatz der Staatsfreiheit des Kommunikationsprozesses und der Medien (Art. 5 Abs. 1 Satz 1 und 2 GG).

HUBERTUS GERSDORF Jahrgang 1962, studierte Rechtswissenschaften an der Universität Hamburg, wo er 1988 sein erstes Staatsexamen ablegte. 1991 promovierte er in Hamburg und war anschließend wissenschaftlicher Assistent bei Peter Selmer. Nach seiner Habilitation (1998) wurde ihm die venia legendi für Staatsrecht, Verwaltungsrecht und Recht der Europäischen Gemeinschaften verliehen. Ab 1999 hatte Gersdorf die Gerd-Bucerius-Stiftungsprofessur für Kommunikationsrecht an der Universität Rostock inne, daneben war er zeitweise Dozent in Saarbrücken, an der Hamburg Media School, der Universität Bonn und der Bucerius Law School. 2016 wurde er als Nachfolger von Christoph Degenhart auf den Lehrstuhl für Staats- und Verwaltungsrecht sowie Medien- und Informationsrecht an der Universität Leipzig berufen.

Der Beitrag Hintergrundinformationen zur Klage gegen das Netzwerkdurchsetzungsgesetz erschien zuerst auf Humanistische Union.

Das deutsche Netzwerkdurchsetzungsgesetz hat weltweit Aufsehen erregt. Obwohl in Deutschland nahezu einhellig und zum Teil sehr scharf kritisiert, weckt es in anderen Ländern die Hoffnung, man könne große Informationsintermediäre wie Facebook, Google/Youtube und Twitter mithilfe strengerer Gesetze endlich „in die Schranken weisen“. Das ist durchaus verständlich in Ländern, die mit wesentlich schlimmeren Auswirkungen koordinierter Desinformationskampagnen zu kämpfen haben als Deutschland. Andererseits ist es wenig aussichtsreich und offenbart ein Dilemma, das nahezu ausweglos erscheint: auf grenzübergreifenden Plattformen landesspezifische Kulturen der Informationsfreiheit durchzusetzen, ohne zugleich die Informationsfreiheit weltweit einzuschränken.

Den so genannten Informationsintermediären[1] wie Facebook, Twitter und Youtube (Google) weht weltweit der Wind ins Gesicht. In Deutschland wurde das höchst umstrittene Netzwerkdurchsetzungsgesetz eingeführt (s. Diskussionen in diesem Band), das von autokratischen und autoritären Regimes wie in Russland[2], den Philippinen[3] oder Malaysia[4] als Vorbild genommen wird, aber auch in anderen demokratischen Ländern Hoffnungen weckt, mithilfe gesetzlicher Regulierung koordinierte Desinformationskampagnen und „Hassrede“ eindämmen zu können. Das französische Parlament hat ein so genanntes „Fake-News-Gesetz“ erlassen, wonach Richter_innen in Wahlkampfzeiten von Anbietern verlangen können, Falschnachrichten augenblicklich aus dem Netz zu nehmen.[5] Eine EU-Regulierung verpflichtet Informationsintermediäre dazu, „terroristische“ Inhalte innerhalb einer Stunde zu löschen. Auch in den USA, die traditionell eine libertäre Auffassung von Informationsfreiheit vertreten, mehren sich Forderungen danach, die „Social Networks“ stärker zu beschränken.

Vermutlich als Reaktion auf diesen weltweit zunehmenden Druck hat Facebook als erster großer Akteur nun einen auf den ersten Blick geradezu revolutionären Vorschlag vorgelegt: Das Unternehmen werde eine Art externen, unabhängigen Beirat einberufen, der in kontroversen Fällen letztendlich die Entscheidung darüber treffen soll, ob ein Beitrag gelöscht werden oder bestehen bleiben soll. Bei näherer Betrachtung sorgt dieser Vorschlag dafür, ein Dilemma herauszuarbeiten, das unauflösbar anmutet: auf grenzübergreifenden Plattformen landesspezifische Kulturen der Informationsfreiheit durchzusetzen, ohne zugleich die Informationsfreiheit weltweit einzuschränken.

Community Standards + KI + Beirat = Infor­ma­ti­ons­frei­heit weltweit?

In einem fast 5.000 Worte langen „Blogbeitrag“[6] hat das Unternehmen[7] seine Vorstellungen davon dargelegt, wie es mit der Herausforderung umgehen kann, dass es zugleich möglichst viele Beiträge seiner Nutzer_innen auf der Plattform veröffentlichen kann, und zugleich in möglichst vielen Ländern operieren darf. Die Überschrift lautet „Eine Blaupause für Governance und Durchsetzung„; der Beitrag legt dar, wie auf der Basis von Facebooks „Community Standards“ so genannte „schädliche Inhalte“ identifiziert und „grenzwertige“ Inhalte abgewendet werden können. Nutzer_innen sollen mehr Kontrolle darüber bekommen, welche Inhalte ihnen angezeigt werden. Da die Identifizierung der schädlichen Inhalte mithilfe von Techniken der so genannten „Künstlichen Intelligenz“ erfolgen soll, die anfällig dafür sind, Vorurteile zu enthalten und zu verstärken, sollen die Technologien besonders auf diese Vorurteile („algorithmic bias„) hin überprüft werden. Zudem will das Unternehmen ein Berufungsverfahren aufbauen, mit dem Nutzer_innen gegen ungerechtfertigte Löschungen vorgehen können. Dieses Verfahren soll von dem oben genannten unabhängigen Aufsichtsgremium kontrolliert werden, dessen Entscheidungen sich das Unternehmen unterwerfen will. Zudem sollen Transparenz über das Verfahren her- und Daten zu Verfügung gestellt werden, um Forschung dazu zu ermöglichen. Schließlich kündigt Zuckerberg an, bei der Frage nach effektiverer Regulierung mit Regierungen zusammenzuarbeiten.[8]

Facebook steckt schon lange in einer Klemme. Das Unternehmen wird gleichzeitig dafür kritisiert, dass es nicht genug „hate speech“ und „Fehlinformationen“ löscht. Diese Kritik kommt vorwiegend von betroffenen Bürger_innen, Regierungen und einigen Aktivist_innen. Andere Bürger_innen und Aktivist_innen (aber keine Regierungen) hingegen kritisieren das Unternehmen dafür, dass zu viele legale Inhalte entfernt werden.

Die erste Fraktion geht so weit zu behaupten, Facebook sei eine Gefahr für die Demokratie, weil das Unternehmen Menschen erlaube, Hass zu sähen, die öffentliche Debatte und sogar Wahlen manipuliere. Die zweite argumentiert, Facebook sei eine Bedrohung für die Redefreiheit, weil es auf Grundlage seiner „Community Standards“ Inhalte blockiere, die in den jeweiligen Ländern eigentlich legal seien. Weil Facebook so dominant sei, dass Menschen nicht einfach eine andere Plattform wählen könnten – und Facebook damit einen Teil der Öffentlichkeit selbst darstelle -, bedeute das, die Debatte als solche sei in Gefahr.
Um die Gültigkeit der These „Facebook ist eine Gefahr für die Demokratie“ soll es in diesem Beitrag nicht gehen. Ich denke, dass diese Behauptung übertrieben ist, weil sie Facebook zu viel Macht zuschreibt und dabei von wichtigen Diskussionen über die Gründe ablenkt, warum Demokratien in der Tat gefährdet sind. Aber die These ist da und wird überall auf der Welt aufgestellt; und sie hat genug Wirkung, um das Unternehmen zum Handeln zu zwingen – wie eben durch das deutsche Netzwerkdurchsetzungsgesetz, das Strafgelder von bis zu 50 Millionen Euro vorsieht, wenn die Intermediäre illegale Inhalte systematisch nicht schnell genug löschen.

Das Gesetz wurde von vielen Interessenvertreter_innen scharf dafür kritisiert, Anreize zum „übermäßigen Blockieren“ zu setzen. Anders gesagt: Netzwerke werden dazu veranlasst, vorschnell vermeintlich problematische Inhalte zu löschen, um Geldstrafen zu vermeiden. Verteidiger_innen der Redefreiheit kritisieren Facebook allerdings ohnehin seit Jahren dafür, unliebsame Beiträge zu löschen, die in den jeweiligen Ländern völlig legal sind.

Die Gründe: Zum einen muss sich Facebook als US-Firma an die Gesetze der USA halten, also Inhalte löschen, die in den USA rechtswidrig sind – oder auch nur politisch problematisch und daher dazu führen könnten, dass die US-Gesetze verschärft werden. Zum anderen will das Unternehmen Inhalte verbreiten, die zwar kontrovers sind, weil diese Inhalte zu besonders viel Interaktion anspornen, was wiederum durch die Logik der Plattform zu mehr Werbeeinnahmen führt. Zum anderen sollen diese Inhalte aber nicht so kontrovers sein, dass sie Nutzer_innen davon abhalten, Facebook zu nutzen. Diese Balance soll mithilfe von Facebooks so genannten „Community Standards“ erreicht werden – die keine Standards sind, die eine Gemeinschaft entwickelt hat, sondern als Standards des Unternehmens dazu dienen, „die Gemeinschaft“, also die Nutzer_innen, zu kontrollieren.

Der grenzüberschreitende Charakter des Netzes bringt Anbieter wie Facebook, Twitter und Youtube in ein Dilemma. Wenn sie das Gesetz eines Landes (z. B. der USA) zur alleinigen Grundlage dafür machten, was zulässig ist, dann könnten sie als Konsequenz in vielen anderen Staaten der Welt nicht tätig sein – das gilt nicht nur für Saudi-Arabien, China oder Vietnam, sondern auch für Deutschland oder Frankreich. Macht man aber die Gesetze aller Staaten, in denen die Firma operiert, zur Grundlage, dann würde das entweder dazu führen, dass nahezu gar keine Inhalte mehr zu sehen wären oder es kein grenzüberschreitendes Netzwerk gäbe. Warum?

Grenzen­loses Internet vs. kulturelle Kontex­tu­a­lität

Selbst zwischen demokratischen Rechtsstaaten sind die kulturellen Auffassungen davon, was zu äußern erlaubt ist, so unterschiedlich, dass es in vielen Fällen keinen gemeinsamen Nenner gibt. Beispiele dafür sind die Darstellungen von Nacktheit und der Umgang mit dem Völkermord an den Juden, aber auch die Privatsphäre: Was in den USA und Großbritannien erlaubte Berichterstattung ist, in der etwa der Name von Verdächtigen genannt wird, kann in Deutschland bereits eine Persönlichkeitsrechtsverletzung sein. Würde man nun in Zweifelsfällen das jeweils restriktivere Gesetz anwenden, würden auf Plattformen wie Facebook, Youtube und Twitter wohl Milliarden von Beiträgen verschwinden.

Ein möglicher Ausweg: Der Intermediär gestaltet sein Angebot so, dass Menschen in einem bestimmten Land immer nur „die Inhalte dieses Landes„[9] zu sehen bekommen, die dadurch auch konform mit den Gesetzen des jeweiligen Landes sein könnten. Dieses Verfahren wird – mit Einschränkungen – von China verwendet, das versucht, durch ein hochentwickeltes Zensursystem dafür zu sorgen, dass im Land nahezu nur Inhalte zu sehen sind, die mit den Ansichten der Obrigkeit vereinbar sind. Aber auch Unternehmen setzen das so genannte Geoblocking ein, etwa um kommerzielle Interessen durchzusetzen. So ist es nicht möglich, als Kundin von Video-Streaming-Plattformen alle Filme zu sehen, die das Unternehmen im Angebot hat, weil die Rechteinhaber Inhalte unterschiedlich lizenzieren. Beispiel: Eine Produktionsfirma verkauft die Rechte eines von ihr produzierten Films in Deutschland an Sky, in den USA an Netflix. Dann kann die Netflix-Kundin den Film in Deutschland nicht sehen, weil Netflix ihren Standort technisch erkennt und technisch den Zugang verhindert. Reist sie in die USA, kann sie den Film über ihren Netflix-Zugang sehen. Dieses Verfahren ist vor allem innerhalb der EU höchst umstritten, weil die EU-Kommission davon ausgeht, dass ein gemeinsamer Binnenmarkt auch für digitale Güter gelten muss und EU-Bürger_innen daher in allen Ländern Zugriff auf das Repertoire an Inhalten von Musik-, Video und anderen Inhaltsangeboten verfügen können müssen, auf das sie in ihrem Heimatland Zugriff haben.

Mit Geolokalisierung und dem darauf aufbauenden Geoblocking könnten also Intermediäre wie Facebook, Youtube oder Twitter dafür sorgen, dass die meisten Menschen in einem bestimmten Land auch nur Inhalte sehen, die in diesem Land legal sind. Verteidiger_innen der Informationsfreiheit kritisieren am Geoblocking jedoch, dass es das Internet in ein so genanntes „Splinternet“ (von Splinter, engl. für Splitter) verwandelt: weg von einem globalen Kommunikationsnetz, hin zu einem Flickenteppich verschiedenster Netze, über die nur noch sehr eingeschränkt grenzübergreifend kommuniziert werden könnte.
Auch Staaten mit einem hohen Maß an Informationsfreiheit kritisieren den Ansatz, da damit unter anderem verhindert würde, dass global verfügbare Netzwerke einen – von ihnen gewünschten – Effekt haben können: staatliche Zensur in autoritären und diktatorischen Staaten zu umgehen und damit möglicherweise demokratisierend zu wirken. Denn die meisten dieser Länder sind technisch nicht in der Lage, den Zugang zu ausgewählten, von ihnen unerwünschten Inhalten auf Facebook, Twitter oder Youtube zu verhindern, schrecken aber davor zurück, den Zugang zu den Plattformen vollständig zu sperren (was technisch leichter möglich wäre), da diese von sehr vielen Bürger_innen und Unternehmen der Länder genutzt werden – und nicht zuletzt auch oft von den Regierungen für deren eigene Zwecke.
Angleichung nach unten oder ein zerrissenes Internet
Deshalb sind beide Optionen – also der „kleinste gemeinsame Nenner“ und das Splinternet – sowohl für Facebook, als auch für die Verfechter_innen der Redefreiheit unerwünscht.

Vor diesem Hintergrund ist es verständlich, dass Facebook ein großes eigenes Interesse daran hat, eine Lösung der Probleme nicht den Regierungen zu überlassen. Wenn man sich (mehr oder weniger) an die Gesetze aller Länder halten muss, in denen man als Unternehmen operiert, aber möglichst viele Inhalte auf der Plattform belassen möchte, muss man Kompromisse machen. Bisher wendet die Firma ihr berüchtigtes ehemaliges Motto „Move fast and break things“ („handle schnell und zerschlage Dinge“) auf Gesellschaften überall auf der Welt an. Sie veröffentlicht Milliarden Posts, die in vielen Ländern gegen das Gesetz verstoßen, und verweist dabei darauf, dass sich der Gerichtsstand für Facebook in Kalifornien befindet. Jetzt, wo der Druck aus Ländern wächst, in denen Facebook sehr viel Geld verdient (das es auch weiter verdienen möchte), muss es sich etwas Besseres einfallen lassen. Dieses „etwas Bessere“, das Facebook nun vorschlägt, ist eine Kombination aus Technik und Governance-Strukturen.

Der Vorschlag in Kürze: Es werden eine Menge Inhalte auf Facebook veröffentlicht, mit denen Menschen (und Regierungen) ein Problem haben, weil sie entweder klar rechtswidrig sind oder als Verstoß gegen die guten Sitten empfunden werden. Daher schränkt Facebook ein, wie viel davon zu sehen ist, indem Künstliche Intelligenz dazu genutzt wird, Inhalte entweder komplett zu blockieren oder ihre Sichtbarkeit zu reduzieren. Das Kriterium dafür sind Facebooks „Community Standards“. Um dem Eindruck vorzubeugen, Facebook zensiere Inhalte, muss sichergestellt sein, dass die KI „das Richtige tut“, also fehlerfrei funktioniert; zudem bekommen die Nutzer_innen die Wahl, wie sie ihren Newsfeed einstellen – also ob sie lieber mehr oder weniger Inhalte sehen wollen, die sie als anstößig empfinden könnten. Für den Fall, dass trotzdem Fehler passieren oder es Uneinigkeit gibt, richtet Facebook ein Berufungsverfahren mit einem Beirat unabhängiger Expert_innen ein, um die Fälle zu entscheiden, die die Firma selbst nicht entscheiden will.

Der erhoffte Effekt: Gesetzeswidrige Inhalte werden effektiver aussortiert. Nutzer_ innen bekommen die Möglichkeit, per Menü-Einstellung selber darüber zu entscheiden, weniger Inhalte in ihrer Timeline angezeigt zu bekommen, die sie anstößig finden könnten. Dadurch entstehen weniger Kontroversen, denn die eine Gruppe sieht weniger Inhalte, die sie inakzeptabel findet, die andere Gruppe sieht die Informationsfreiheit nicht beschränkt.

Künstliche Intelligenz ist kein Wunder­mittel

„KI“ meint in diesem Fall Techniken selbstlernender Programme, die auf die Identifikation von Inhalten trainiert werden, die in bestimmte Kategorien fallen – so genannte automatisierte Filter. Zwar ist Facebook einer der größten Technologiekonzerne der Welt mit einem der höchsten Budgets für die Erforschung und Entwicklung von Künstlicher Intelligenz. Aber die Klassifikation von Sprache – im Sinne der Bedeutung von Worten in einem spezifischen Kontext – ist eine der komplexesten Aufgaben, die es gibt, und momentan scheitern automatisierte Inhaltsfilter noch kläglich daran. Es wird hitzig diskutiert, ob sie dazu jemals in der Lage sein werden, aber das ist eine philosophische Frage. Aktuell können sie jedenfalls nicht zuverlässig identifizieren, was „schädlich“ ist. Aber wenn sie nicht zuverlässig identifizieren können, was „schädlich“ ist, folgt daraus zwangsläufig, dass sie auch keine Inhalte zuverlässig als „grenzwertig“ einstufen können.

Wenn Zuckerberg also sagt: „Wir machen Fortschritte bei Hassrede, 52 % der Posts werden schon proaktiv identifiziert„, dann sollten wir den Satz so verstehen: „Unsere Systeme klassifizieren eine Menge Posts als ‚Hassrede‘, die dann nie veröffentlicht und deshalb auch nie von einem Menschen beurteilt werden; das bedeutet, dass wir keine Ahnung haben, wie viele davon Fehleinschätzungen sind, wie viele Inhalte demnach fälschlicherweise entfernt werden und inwieweit wir damit die freie Meinungsäußerung beeinträchtigen.“

Das ist lediglich ein wenig vereinfacht, denn es gibt zwar Methoden, Anwendungen auf Fehleinschätzungen und Bias hin zu testen. Die Entwickler_innen bei Facebook sind nicht dumm und ich bin sicher, viele von ihnen wollen das Richtige tun – doch Zuckerberg schreibt selber, dass „im großen Ganzen diese Arbeit wichtig und noch am Anfang ist. Wir werden Sie auf dem Laufenden halten, wenn es Fortschritte gibt„. Das kann man nur so lesen: „Wir wissen nicht, was wir tun, aber das ist in Ordnung, weil es derzeit niemand weiß.“ Solange es keine unabhängige Forschung dazu gibt (siehe unten), sollten wir einem Unternehmen, das alle zwei Monate beim Lügen erwischt wird, an der Stelle erst einmal nichts glauben.

Was bleibt also übrig vom Versprechen, Facebook werde „Nutzern mehr Kontrolle geben und mehr Inhalte erlauben„? Nicht viel, meine ich, obwohl man die zugrunde liegende Idee zunächst sehr charmant finden kann. Denn wenn es um Sprache geht, ist Kontext alles. Des Einen Lüge ist des Anderen Parodie; des Einen Freiheitskämpfer ist des Anderen Terrorist. Das wird sich nie ändern – und sollte es wahrscheinlich auch nicht. Es ist also eine gute Idee, Menschen die Kontrolle darüber zu geben, was sie sehen möchten. Aber wenn die Auswahl, die die Nutzer_innen bekommen, auf einer mangelhaften Definition von schädlichem und grenzwertigem Inhalt basiert (den „Community Standards„), gefolgt von einer fehlerhaften Klassifikation von schädlichem und grenzwertigem Inhalt (durch „KI“), dann werden die Nutzer_innen eine ziemlich schlechte Auswahl dessen bekommen, über das sie „Kontrolle“ ausüben dürfen.

Zudem hat Facebook angekündigt, dass die Filter grundsätzlich restriktiv eingestellt sind, also mehr potenziell anstößige Inhalte unterdrücken. Nur, wenn sich Nutzer_innen aktiv dazu entschließen, mehr dieser Inhalte sehen zu wollen, können sie das entsprechend einstellen. Sie müssen also die Filterung bewusst abschalten oder verringern.

Facebook bleibt der „Entscheider“ in nahezu allen Fällen

Sehr wahrscheinlich führt all das also zu einem System, das nur theoretisch besser ist als das, das wir jetzt haben, aber nicht in der Praxis. Denn am Ende führt die Kombination der beschriebenen Faktoren dazu, dass in erster Linie Facebook entscheiden wird, was die Nutzer_innen zu sehen bekommen, und was nicht. Denn Facebook legt die Kriterien fest, nach denen algorithmische Systeme filtern und sorgt durch das Design der Plattform dafür, dass nahezu alle Nutzer_innen sich diesen Kriterien unterwerfen werden, da sie nicht bemerken, dass sie eine Wahl haben.

Bleibt das Berufungsverfahren mit „unabhängiger Governance und Aufsicht„. Genau wie beim Vorschlag, den „Nutzern die Kontrolle darüber zu geben, was sie sehen„, ist das im Grunde eine gute Idee. Denn zum einen sollten Intermediäre nicht über Rede- und Äußerungsfreiheit richten. Genau das tun sie aber schon immer, und Gesetze wie das NetzDG geben ihnen Anreize dazu, es noch aggressiver zu tun als bisher. Gleichzeitig können Gerichte aber auch nicht über Tausende umstrittener Facebook-Posts, Youtube-Videos und Tweets urteilen. Es muss ein abgestuftes System geben, das aber eben nicht innerhalb eines Unternehmens enden darf.

Solange Intermediäre klar rechtswidrige Inhalte nicht entfernen, ist in den meisten Ländern das Verfahren zumindest im Prinzip klar: Dann können Menschen Anzeige erstatten und im Zweifel vor Gericht ziehen, um sie entfernen zu lassen. „Im Prinzip“ bedeutet aber, dass die Praxis oft anders aussieht. Die Unternehmen selbst legen die Hürden dafür so hoch wie möglich, etwa indem sie dafür sorgen, dass allein die Zustellung eines anwaltlichen Schreibens mit abschreckend hohem Aufwand und Kosten verbunden ist. Dass das NetzDG den Unternehmen vorschreibt, in Deutschland einen Zustellungsbevollmächtigten zu ernennen und dafür zu sorgen, dass Auskunftsersuchen von inländischen Strafverfolgungsbehörden innerhalb von 48 Stunden beantwortet werden müssen, ist einer der wenigen Aspekte des Gesetzes, der durchweg positiv zu werten ist. „im Prinzip“ heißt eben auch, dass es für Betroffene eine Handhabe gibt zu erzwingen, dass Inhalte aus dem Netz verschwinden: die äußerungsrechtlichen Vorgaben des jeweiligen Landes.

Anders sieht es aus mit Inhalten, die nicht gegen diese äußerungsrechtlichen Vorgaben verstoßen. Wenn Nutzer_innen gelöschte Inhalte wiederhergestellt sehen möchten, weil sie der Ansicht sind, dass diese nicht gegen geltendes Recht verstoßen, können sie in den meisten Fällen nichts weiter tun als an das Unternehmen zu appellieren. Dann haben die „Entscheider“ bei Facebook (oder Youtube oder Twitter) das letzte Wort. Warum? Weil Firmen wie Facebook Privatunternehmen sind und erst einmal keine direkte (rechtliche) Verpflichtung haben, die Meinungsfreiheit zu schützen – Artikel 5 des Grundgesetzes schützt die Bürger_innen vor Übergriffen des Staats, nicht vor den Handlungen anderer Privater. Das ist grundsätzlich eine gute Idee, weil Meinungsfreiheit auch das Recht für Unternehmen einschließt, auszuwählen, was sie auf der eigenen Plattform veröffentlichen möchten.

Dieses Argument wird aber dann sehr problematisch, wenn eine Plattform so dominant geworden ist, dass sie eine wichtige Teilöffentlichkeit (wenn auch nicht gleich die Öffentlichkeit) darstellt. Man muss sie sich vorstellen wie einen öffentlichen Raum oder eine Infrastruktur für Sprache. Ich gehe davon aus, dass wir mit Facebook (wie auch mit Googles Suchmaschine und Youtube) diesen Punkt erreicht haben.

Auch Intermediäre müssen die Informationsfreiheit schützen
In Deutschland entwickelt sich zu dieser Situation derzeit eine differenzierte Rechtsprechung. Einerseits hat das Oberlandesgericht (OLG) Dresden 2018 entschieden[10], dass Facebook das Recht habe, „Meinungsäußerungen unterhalb der Schwelle zur Schmähkritik und außerhalb von § 1 Abs. 2 NetzDG“ zu löschen, da eine entsprechende Klausel in den Nutzungsbedingungen nicht überraschend sei und damit rechtmäßig. Sowohl das OLG Dresden (ebd.), als auch das OLG Karlsruhe[11] sahen es auch nicht als Problem an, dass die Nutzungsbedingungen auf Facebooks „Gemeinschaftsstandards“ verweisen, obwohl diese jederzeit geändert werden könnten, ohne dass die Nutzer_innen zustimmen müssen. Maßgeblich war für die Richter_innen allein, dass es nicht (mehr) nurauf die subjektive Ansicht der Betreiber ankommt, sondern in Form der Dokumente „objektive“ Sachverhalte vorliegen, nach denen die Entscheidungen getroffen werden. Damit übe der/die Anbieter_in nach Ansicht der OLGs kein unbeschränktes einseitiges Bestimmungsrecht mehr aus, so dass Willkür oder Unverhältnismäßigkeit nicht vorlägen und damit der Meinungsfreiheit ausreichend Rechnung getragen werde.

Andererseits haben Gerichte zugleich entschieden, dass Nutzer_innen einen Anspruch darauf haben, dass Facebook es unterlässt, zulässige Äußerungen zu löschen. Sie leiten diesen Anspruch daraus her, dass auch Facebook aus dem mit den Nutzer_ innen geschlossenen Vertrag Pflichten entstehen. Dazu gehört, im Wege der mittelbaren Drittwirkung der Grundrechte, die Meinungs- und Äußerungsfreiheit des Vertragspartners zu berücksichtigen und zu schützen. Auf dieser Basis hat etwa das Landgericht Frankfurt/Main entschieden[12], dass Facebook die Äußerung „Die pseudo-linke TAZ ist ein Kriegstreiber erster Klasse! War es nicht dieses Hetzblättchen, was kürzlich rum flennte, dass sie vor der Pleite stünden? KEIN VERLUST! ist meine Meinung!“ wiederherstellen musste.

Es sieht also derzeit danach aus, als könnte die Rechtsentwicklung in Deutschland zu dem führen, was Verfechter_innen der Informationsfreiheit fordern: Dass Intermediäre in Bezug auf Meinungs- und Äußerungsfreiheit nicht einfach tun und lassen können, was sie wollen, sondern sehr wohl auch dafür sorgen müssen, dass gesetzeskonforme Äußerungen auch veröffentlicht bleiben.

Doch selbst wenn diese Entwicklung in Deutschland weiterhin positiv verliefe, wäre damit der Konflikt, der durch den grenzübergreifenden Charakter des Netzes entsteht, nicht gelöst: Was in Deutschland rechtens ist, ist es nicht unbedingt in anderen Ländern – und umgekehrt. Die meisten Intermediäre aber machen Inhalte grenzüberschreitend verfügbar. Hören sie damit auf, etwa indem sie strenges Geoblocking verwenden, kann man nicht mehr sinnvollerweise von einem Internet sprechen, wie wir es kennen.

Facebook bietet keine Lösung – aber sonst auch niemand

In dieser Situation hat Mark Zuckerberg also nun vorgeschlagen, einen unabhängigen Beirat für „Governance und Aufsicht“ zu bestellen, „dessen Entscheidungen transparent und bindend“ für die Firma sein sollen. Wenn jemand also eine Entscheidung der Moderator_innen von Facebook anficht, könnte das vor dem Beirat landen, an dessen Entscheidung sich das Unternehmen dann halten muss.
Das ist in jedem Fall ein Schritt in die richtige Richtung: Facebook gibt Macht an Expert_innen ab, die die unternehmenseigenen Kontrolleur_innen kontrollieren können. Damit kann aber keine Lösung für das zugrunde liegende Problem erreicht werden: Dass man unmöglich auf globaler Ebene über Rede- und Äußerungsfreiheit entscheiden und zugleich ihrem kulturellen und kontextuellen Charakter gerecht werden kann.[13] Man stelle sich nur den Fall einer Holocaustleugnung vor, die in Israel, Deutschland, Frankreich und 14 anderen europäischen Ländern illegal ist, aber nicht in den USA und den meisten anderen Staaten der Welt. Oder Fälle von Darstellung von Nacktheit, die in den USA illegal sind, aber nicht in den Niederlanden und Schweden. Selbst zwischen Ländern, die die Meinungsfreiheit anerkennen, herrscht keine Einigkeit darüber, was diese Freiheit umfasst, denn das ist in jedem Land mit seiner jeweiligen Gesellschaft und ihren Normen unterschiedlich. Viele Menschen, ich selbst gehöre dazu, halten nationale Rechtsprechung im Bezug auf Meinungsfreiheit für etwas Gutes, weil sie kulturelle Kontextualität respektiert.

Facebooks Verfehlungen sind Legion. Ein „Datenmissbrauchsskandal“ jagt den nächsten, die Respektlosigkeit der Verantwortlichen gegenüber nationalen Gesetzen und den berechtigten Erwartungen von Nutzer_innen, was den Umgang mit Informationen über sie angeht, ist atemberaubend. Dazu kommt die Skrupellosigkeit beim Einsatz von Lobbying-Methoden, die Waffenherstellern zur Ehre gereichen würden.[14] Viele Kritiker_innen verleitet das zu dem Schluss, dass Facebooks Kritik an Gesetzen wie dem NetzDG ungerechtfertigt ist und nur dazu diene, die Unternehmensinteressen zu schützen. Ich selbst bin mir sicher, dass das ein Teil der Motivation ist.

Allerdings sollte man anerkennen, dass wir von Facebook die Lösung für ein Problem erwarten, für das derzeit niemand eine Lösung hat. Es geht nicht darum, dass das Unternehmen sich weigert, eine bestehende Lösung aufzugreifen und umzusetzen, weil es seinen Interessen widerspricht. Es ist vielmehr so, dass wir Facebooks Vorschlag als das ernstgemeinte Angebot verstehen sollten, weiter darüber nachzudenken, wie wir widerstreitende Rechtsgüter in eine Balance bringen können, so dass wir letztendlich alle, wenn sicherlich auch zähneknirschend, damit leben können. Ob das gelingt, ist offen. Es wird aber nichts nützen, das Angebot aus Gründen, die damit wenig zu tun haben, auszuschlagen.

MATTHIAS SPIELKAMP Jahrgang 1970, M.A. Philosophie, M.A. Journalismus (USA) ist Geschäftsführer von AlgorithmWatch (ausgezeichnet mit der Theodor-Heuss-Medaille) und geschäftsführender Redakteur von mobilsicher.de. Er ist Mitglied des Vorstands von Reporter ohne Grenzen Deutschland, des Kuratoriums der Stiftung Warentest und des Beirats des Whistleblower-Netzwerks und war mehrfach als Sachverständiger im Bundestag geladen. 2004 gehörte er zu den Gründern des Online-Informationsangebots iRights.info (Grimme Online Award), dessen Mit-Herausgeber er heute ist.

Anmerkungen:

1 Ich verwende den Begriff hier in der Definition von Schulz und Dankert: „Dienste des Typs Intermediär zeichnen sich durch eine Vermittlungsleistung zwischen Inhalten oder Inhaltsangeboten und Nutzerinnen und Nutzern aus. Informationsintermediäre bieten also in der Regel keinen eigenen Inhalt an, sondern ihre Leistung liegt etwa in der Bündelung oder besonders geordneten Bereitstellung von digitalen Inhalten.“ In: Schulz, Wolfgang und Dankert, Kevin 2016: Die Macht der Informationsintermediäre. Strukturen und Regulierungsoptionen, Bonn, URL: https://library.fes.de/pdf-files/akademie/12408.pdf (letzter Zugriff: 11. Januar 2019).

2 Vgl. Reporter ohne Grenzen (17. Juli 2017): Russland kopiert Gesetz gegen Hassbotschaften, https://www.reporter-ohne-grenzen.de/presse/pressemitteilungen/meldung/russland-kopiert-gesetz-gegen-hassbotschaften/ (letzter Zugriff: 6. Januar 2019).

3 Vgl. Sventeenth Congress of the Republic of the Philippines (2017): An Act Penalizing the Malicious Distribution of false news and other related violations. URL: https://www.aseanlip.com/philippines/ip/legislation/bill-of-the-antifake-news-act-of– 2017/AL18286 (letzter Zugriff: 6. Januar 2019).

4 Vgl. Deutsche Welle (26. März 2018): Malaysian government calls for 10-year jail sentence ‚fake news‘. URL: http://www.dw.com/en/malaysian-government-calls-for-10– year-jail-sentence-fake-news/a-43130163 (letzter Zugriff: 6. Januar 2019).

5 Assembleée Nationale 2018: Proposition de Loi relative aa la lutte contre la manipulation de l’information. URL: http://www.assemblee-nationale.fr/15/ta/tap0190.pdf (letzter Zugriff: 11. Januar 2019).

6 Mark Zuckerberg (15. November 2018): A Blueprint for Content Governance and Enforcement URL: https://www.facebook.com/notes/mark-zuckerberg/a-blueprint-for-content-governance-and-enforcement/10156443129621634/ (letzter Zugriff: 6. Januar 2019).

7 Der Beitrag ist unter dem Namen des Unternehmensgründers und CEO Mark Zuckerberg erschienen; es ist aber davon auszugehen, dass der Vorschlag von verschiedenen Mitarbeiter_innen des Unternehmens, darunter Anwält_innen und Public-Policy-Berater_innen entstanden ist.

8 Alle wörtlichen Zitate beruhen auf Übersetzungen des Verfassers.

9 Dies in Anführungszeichen, weil mit dem Ausdruck „Inhalte eines Landes“ nicht gemeint ist, dass sie in dem Land produziert sein oder die dortige Kultur repräsentieren müssen, sondern lediglich, dass die Rechteinhaber die Erlaubnis gegeben haben, dass sie dort zugänglich gemacht werden. So wäre es in diesem Sinn kein Widerspruch, dass eine englischsprachige US-Fernsehserie in Deutschland und Österreich zu sehen ist, eine deutsch-österreichische Konzertproduktion aber nur in einem der Länder.

10 OLG Dresden, Beschluss v. 8.8.2018 – Az. 4 W 577/18 (= NJW 2018, 3111), abrufbar unter https://www.online-und-recht.de/urteile/Hassrede-Klausel-in-Facebook-AGB-wirksam-Oberlandesgericht-Dresden-20180808/ (29.05.2019).

11 OLG Karlsruhe, Beschluss vom 25.6.2018 – 15 W 86/18, abrufbar unter https://openjur.de/u/2109 791.html (29.5.2019).

12 LG Frankfurt/M., Beschluss v. 14.5.2018, 2-03 O 182/18 (=JurPC WebDok. 108/2018); vgl. https://www.jura.uni-frankfurt.de/74531373/2018-10-24-Peukert-NetzDG-Meinungsfreiheit-DAV.pdf.

13 Hier lasse ich all die Probleme mit dem Verfahren an sich beiseite, die dadurch entstehen, dass ein Gremium unabhängig von einem Unternehmen sein soll, das für seine Existenz und seine Arbeit bezahlt (und weil es viel Arbeit dort geben wird, kann das niemand ehrenamtlich machen).

14 Vgl. Sheera Frenkel, Nicholas Confessore, Cecilia Kang, Matthew Rosenberg, Jack Nicas (14. November 2018): Delay, Deny and Deflect: How Facebook’s Leaders Fought Through Crisis URL: https://www.nytimes.com/2018/11/14/technology/facebook-data-russia-election-racism.html (letzter Zugriff: 11. Januar 2019).

Der Beitrag Community Standards + KI + Beirat = Informationsfreiheit weltweit? erschien zuerst auf Humanistische Union.

Das Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken (Netzwerkdurchsetzungsgesetz – NetzDG) trat am 1. Oktober 2017 in Kraft. Damit wurden die betroffenen Netzwerkanbieter verpflichtet, ab dem 1. Januar 2018 leicht zugängliche Meldeformulare für mutmaßlich rechtswidrige Beiträge auf ihren Plattformen bereitzustellen sowie ein Verfahren zur kurzfristigen Prüfung und ggf. Sperrung bzw. Löschung rechtswidriger Beiträge zu gewährleisten. Gegen diesen Versuch einer gesetzlichen Regulierung bestimmter Telemediendienstleister gab es von Anfang an viel Kritik aus verschiedenen Richtungen. Deshalb verwundert es nicht, dass bereits wenige Wochen nach dem Inkrafttreten des neuen Gesetzes erste Vorschläge zu seiner Abschaffung bzw. Reform in den Bundestag eingebracht wurden. Die meisten dieser Vorschläge bezogen sich nicht auf Erfahrungen in der Anwendung des Gesetzes (die bis dato gar nicht vorlagen), sondern formulierten grundsätzliche Einwände gegen das im Gesetz gewählte Verfahren der Entscheidung über die Rechtswidrigkeit einzelner Beiträge durch die Anbieter. (Die einzige Ausnahme ist insofern der Reformvorschlag von Bündnis 90/Die Grünen, der erkennbar auf Anwendungsprobleme des NetzDG reagiert.)

Im Einzelnen handelt es sich um folgende Vorschläge, die im Bundestag vorliegen:

• AfD: Entwurf eines Gesetzes zur Aufhebung des Netzwerkdurchsetzungsgesetzes in BT-Drs. 19/81 vom 20.11.2017
• FDP: Entwurf eines Gesetzes zur Stärkung der Bürgerrechte (Bürgerrechtestärkungs-Gesetz) in BT-Drs. 19/204 vom 8.12.2017
• DIE LINKE: Entwurf eines Gesetzes zur Teilaufhebung des Netzwerkdurchsetzungsgesetzes in BT-Drs. 19/218 vom 11.12.2017
• Bündnis 90/Die Grünen: Entschließungsantrag „Netzwerkdurchsetzungsgesetz weiterentwickeln – Nutzerrechte stärken, Meinungsfreiheit in sozialen Netzwerken sicherstellen“ in BT-Drs. 19/5950 vom 22.11.2018.

Unter­schied­liche Wahrneh­mungen

Die Vorschläge der Parteien unterscheiden sich bereits im Ansatz darin, dass sie die gesellschaftliche Realität der sozialen Netzwerke, vor allem aber deren Risiken und Probleme sehr verschieden wahrnehmen:

• Für die AfD sind die Netzwerke vor allem ein Garant der Meinungsfreiheit und der Meinungsvielfalt. Diese würden in den klassischen Medien eingeschränkt, das gelte nicht nur für den gebührenfinanzierten Rundfunk und das Fernsehen, sondern auch für ein parteipolitisch geprägtes Verlagswesen. Die sozialen Netzwerke besäßen dagegen eine vergleichsweise große parteipolitische Unabhängigkeit und Meinungsvielfalt. Zudem verweist die AfD darauf: „Meinungsfreiheit schützt auch unbegründete Meinungen und sogar Vorurteile“ (S. 5). Bei der Frage der Regulierung sozialer Netzwerke steht für die AfD deshalb die Meinungsfreiheit im Vordergrund – in ihrer Perspektive durchaus konsequent, sieht sich die Partei doch durch den öffentlich-rechtlichen Rundfunk sowie große Teile der Presse ungerecht behandelt und hat deshalb einen Schwerpunkt ihrer Öffentlichkeits- und Kampagnenarbeit in die Sozialen Medien verlagert, wo ihre Positionen mehr Resonanz erfahren.
• Ganz anders die LINKE: Für sie ist unstrittig, dass Hate Speech („unter Wahrung der Kommunikationsfreiheit“) bekämpft werden müsse. „Beleidigende, volksverhetzende, rassistische, sexistische und homophobe Äußerungen sind im Internet an der Tagesordnung. … Dies findet oft unter dem Deckmantel der freien Meinungsäußerung statt. Doch auch diese findet dort ihre Grenzen, wo sie beispielsweise in die Persönlichkeitsrechte Dritter eingreift. Die Betreiber der sozialen Netzwerke gehen bisher nur unzureichend gegen solche Äußerungen vor. Aber auch die staatlichen Ermittlungsbehörden sind derzeit zum Teil nicht willens oder in der Lage, selbst bei offensichtlich rechtswidrigen Äußerungen zu handeln. Eine Strafverfolgung findet so gut wie nicht statt.“ (S. 5)
• Die FDP verweist in ihrem Gesetzespaket – mit dem neben dem NetzDG auch die Vorratsdatenspeicherung aufgehoben werden soll – auf die unterstützenswerte Motivation des Gesetzes, gegen Hate Speech vorzugehen (S. 8). Sie sieht durch das Gesetz aber die Gewährleistung der Meinungsfreiheit bedroht, denn die Netzwerke hätten eine „hohe Relevanz für die Meinungsbildung und den Informationsaustausch. Was sie als rechtswidrig oder unerwünscht einstufen, wird nur noch von einer sehr viel geringeren Zahl von Nutzern wahrgenommen.“ (ebd.)
• Bündnis 90/Die Grünen zeichnen ein gemischteres Bild von der Netzwerk-Realität. Sie sehen drei Herausforderungen:              a) für die vielen jüngeren Nutzer*innen der Plattformen (ein Drittel Minderjährige), die „besonders gefährdet [sind], Opfer von Hate Speech, Cybermobbing oder Cybergrooming zu werden und dabei nachhaltig in ihrer Entwicklung gestört zu werden.“ (S. 2)                                                                                        b) in der fehlenden Medienkompetenz vieler Nutzer*innen (um schlecht recherchierte oder Persönlichkeitsrechte verletzende bzw. strafbare Nachrichten/Inhalte zu erkennen)                      c) im zunehmenden Einfluss der Netzwerke auf die politische Willensbildung und „die missbräuchliche Nutzung von ‚social bots‘“: „Dies erfordert unter anderem eine gesetzliche Verpflichtung zur Offenlegung einer automatisch ausgelösten Kommunikation und Verbreitung von Inhalten durch automatisierte Programme. Hierdurch soll eindeutig zu erkennen sein, ob Mensch oder Maschine agiert.“ (S. 2)

Unter­schied­liche Lösungs­vor­schläge

Entsprechend der divergierenden Wahrnehmung der Netzwerk-Realitäten unterscheiden sich auch die Lösungsvorschläge der Parteien sehr stark:

•Die AfD will das NetzDG umstandslos und ohne kompensierende Regulierungen aufheben.

•Die LINKE will zentrale Teile des NetzDG aufheben, um so die Beschränkungen der Meinungsfreiheit zu beenden. In Kraft bleiben sollen allerdings die Regelungen zum Anwendungsbereich des Gesetzes (§ 1) inkl. dem dort zitierten Katalog an Straftaten, auf die sich die Anwendung des NetzDG beschränkt; die Verpflichtung zu halbjährlichen Transparenzberichten (§ 2); eine allgemeine Vorgabe zur Bereitstellung eines leicht zugänglichen Meldeformulars für rechtswidrige Beiträge und zur Gewährleistung eines Sperr-/ Löschverfahrens (§ 3 Abs. 1 und 5) seitens der Anbieter (wobei alle Vorgaben, innerhalb welcher Frist rechtswidrige Beiträge zu löschen sind, entfallen); einige Bußgeldvorschriften (§ 4) sowie die Benennung eines Inländischen Zustellungsbevollmächtigten (§ 5). Darüber hinaus regt die Linke an, gemeinsam mit der Zivilgesellschaft konkrete Vorschläge zur Neugestaltung der Melde-/Löschverfahren zu entwickeln.

•Die Grünen dagegen benennen in ihrem Entschließungsantrag zahlreiche Punkte, in denen das Gesetz weiterentwickelt werden soll: u.a. detailliertere Vorgaben für die Transparenzberichte der Anbieter, damit diese vergleichbarer werden (s. S. 57ff. dieser Ausgabe); die Erweiterung des Meldeverfahrens auf Social Bots und Fake Profile sowie eine kontinuierliche Information der Beteiligten über den Bearbeitungsstand. Darüber hinaus soll der Gesetzgeber zusätzliche Schritte unternehmen, um die Betroffenen von Hate Speech besser zu schützen, etwa durch die Schaffung eines besonderen Gerichtsstandes in der StPO/ZPO oder die Verteilung des Prozesskostenrisikos bei der Durchsetzung zivilrechtlicher Ansprüche.

•Die FDP will das NetzDG ebenfalls komplett streichen. Sie betont aber, dass die Netzwerkbetreiber auch nach dem geltenden Telemediengesetz (TMG) dazu verpflichtet sind, rechtswidrige Beiträge nach einem „Notice-and-Take-down“-Verfahren zu sperren (§ 10 Satz 1 Nr. 2 TMG), sobald sie Kenntnis davon erlangen. Das Verfahren der Meldung/Verarbeitung solcher Hinweise könne in Anlehnung an das TMG konkretisiert werden. Zudem will die FDP die Regelung zur verpflichtenden Benennung eines inländischen Zustellungsberechtigten durch die Netzwerkbetreiber (§ 5 NetzDG) in das TMG übernehmen und derart ausweiten, dass dieser für alle behördlichen und gerichtlichen Anliegen zuständig sein soll (um die Rechtsdurchsetzung gegenüber den Plattformen im Inland zu erleichtern).

Dokumentation: Sven Lüders

Der Beitrag Zwischen Anpassung, Erweiterung und Abschaffung erschien zuerst auf Humanistische Union.