Neue Kriegssysteme werden mit oder ohne KI entwickelt und eingesetzt, sobald sich die Militärs Vorteile und Überlegenheit versprechen. So bedeutet Drohnenkrieg nicht, dass nun Krieg nur noch mit Drohnen geführt wird, sondern dass die Drohnen zu all den Kriegsgeräten, die sonst schon Tod und Zerstörung bringen, als neues Element dazukommen und allenfalls mittelfristig andere Waffensysteme ersetzen. So werden bereits Befürchtungen laut, dass beispielsweise neuartige Bio- und Chemiewaffen möglich werden.

Einleitung

Die Anfänge der Computertechnik in Deutschland, Großbritannien und dann vor allem in den USA am Ende des Zweiten Weltkriegs und in den ersten Jahren danach waren stark bestimmt von den Wünschen und vom Geld des militärischen Komplexes. Die ersten Jahre der Künstlichen Intelligenz (KI) waren dagegen eher zivil geprägt. 1956 trafen sich zwölf junge aufstrebende Wissenschaftler um John McCarthy für einige Wochen im Dartmouth College in New Hampshire zu einem von der Rockefeller-Stiftung geförderten Workshop und begründeten das Fachgebiet der Künstlichen Intelligenz (vgl. McCarthy et al. 1955).

Erklärtes Ziel war, kognitive Fähigkeiten wie Sehen und Erkennen, Hören und Verstehen, Planen und Entscheiden, Lernen sowie Problemlösen mit Hilfe von Computerprogrammen zu simulieren – seit damals kaum verändert. Im gesamten Antrag findet sich kein Bezug zu Rüstung und Krieg. Bis in die 1980er Jahre hinein bleibt die KI zivil ausgerichtet. Nachdem die ersten Versuche, einen General Problem Solver zu kreieren, gescheitert waren, lag der KI-Fokus lange auf der Entwicklung von Expertensystemen, die für spezielle Anwendungen das Wissen von Fachleuten nutzbar machen sollten – teils auch mit Erfolg.

Nachdem Japan mit dem Fifth-Generation-Projekt Anfang der 1980er Jahre einen großangelegten Versuch gestartet hatte, durch geeignete Computertechnik und Programmiersprachen KI anwendbar zu machen, haben die USA mit der Strategic Computing Initiative (SCI) geantwortet, um die technologische Vormachtstellung zu sichern. SCI war gleichzeitig der Einstieg in die militärische Nutzung von KI und soll deshalb im nächsten Abschnitt ausführlicher dargestellt werden. Ein zentrales Projekt von SCI war die Entwicklung autonomer Roboterfahrzeuge. Da solche Systeme – oft Drohnen genannt – bis heute in der weltweiten Rüstung eine prominente Rolle spielen und ihre Entwicklung noch lange nicht ihren Höhepunkt erreicht hat, wird die Thematik in einem eigenen Abschnitt vertieft. Mehr in die Zukunft gerichtet, gehen wir auf die neuesten Entwicklungspläne Deutschlands, Frankreichs und Spaniens für ein Kampfflugzeug ein, bei denen KI insgesamt und Kriegsdrohnen speziell eine übergeordnete Rolle spielen sollen. Der öffentlichen Aufmerksamkeit meist verborgen, aber militärisch mindestens ebenso relevant wie Drohnen sind die Entwicklungen bei Schlachtenmanagementsystemen, die wir als letztes Thema ausführlich behandeln. Der Artikel endet mit einem Ausblick, in dem auch verschiedene Punkte angesprochen werden, die nicht ausgeführt werden konnten.

Strategic Computing Initiative

Bis in die 1980er-Jahre hinein verlief die Entwicklung der KI anders als andere Teilgebiete der Informatik vergleichsweise zivil. Das änderte sich fundamental, nachdem Japan 1982 das Fifth Generation Computer Systems (FGCS) Project ins Leben gerufen hat, um eine Führungsrolle im IT-Sektor zu erreichen (vgl. z.B. Shapiro 1983 und Odagiri et al. 1997). Das Projekt war auf zehn Jahre angelegt mit dem Ziel, eine neuartige Computertechnologie zu entwickeln, die massive Parallelität mit logischer Programmierung verbindet und als Plattform für zukünftige KI-Anwendungen dienen sollte. Datenverarbeitung sollte mit Hilfe logischen Schließens als Programmierparadigma zu Wissensverarbeitung werden. Um die Benutzungsfreundlichkeit zu steigern, sollten Ein- und Ausgabe über Alltagssprache, Graphiken, Bilder und Dokumente möglich sein. Als Grundlagenforschung war das Projekt ein Erfolg, kommerziell ist es eher gescheitert, weil sich die hohen Ansprüche zu der Zeit technisch nur bedingt umsetzen ließen

In den USA wurde das japanische FGCS-Projekt als Angriff auf die eigene technologische Vormachtstellung empfunden und mit der Strategic Computing Initiative (SCI) beantwortet (siehe z.B. Roland & Shiman 2002). Während FGCS zivil angelegt war, gilt für SCI das genaue Gegenteil: Es war durch und durch militärisch ausgerichtet. Das US-Verteidigungsministerium setzte auf das militärische Potenzial der KI und startete 1983 SCI, wobei drei Aufgaben im Zentrum standen: ein Sprachassistent für die Piloten der Luftwaffe, ein Schlachtenmanagementsystem für die Marine und autonome Landfahrzeuge für das Heer. SCI war auf zehn Jahre angelegt und hatte einen für damalige Verhältnisse gigantischen Finanzrahmen von fast einer halbe Milliarde US-Dollar. Da sich keine schnellen Erfolge abzeichneten, wurde das Programm noch vor dem Ende gekürzt. Dennoch muss SCI wohl als Ausgangspunkt einer beispiellosen Entwicklung der KI gesehen werden.

Da die drei Aufgabenstellungen von SCI sowohl von der Art der Anwendungen als auch von den intendierten kognitiven und intelligenten Leistungen her bis heute typische Entwicklungen im militärischen – aber auch zivilen Kontext – darstellen, soll darauf etwas näher eingegangen werden.

SCI war als generisches Forschungsprojekt mit den Schwerpunkten auf Bildverstehen, Spracherkennen und -verstehen sowie Expertensystemen konzipiert. Ziel des Bildverstehens war, Veränderungen in Bildszenen in Echtzeit zu erkennen, Objekte und Ereignisse in Szenen zu identifizieren und graphisch oder mit Hilfe natürlicher Sprache zu charakterisieren. Auf der Basis neuer Chip-Designs, paralleler Rechnerarchitekturen und Algorithmen sollte ein wissensbasiertes Sehen zur Erkennung von Landmarken, Vermeidung von Hindernissen, Geländeverfolgung, Gelände- und Objektmodellierung und zur Zielfindung realisiert werden. Ziel des Spracherkennens und -verstehens war, das gesprochene Wort als Computereingabe zu ermöglichen, wobei Sprache in Telefonqualität selbst in geräuschvoller Umgebung wissensbasiert mit hoher Genauigkeit verstanden werden sollte. Umgekehrt sollte auch natürlichsprachliche Maschinenausgabe in eingeschränkten Kontexten realisiert werden. Als technische Herausforderungen galten die Wissensakquisition, das Textverstehen, die Sprachgeneration, den Redekontext einzuordnen sowie die Entwicklung paralleler Algorithmen für diese Anwendungen. Was die Technologie der Expertensysteme angeht, wurde das Ziel einer neuen Generation zur Unterstützung der Schlachtenmanagementsysteme für das US-Verteidigungsministerium ausgegeben. Dabei sollten mächtige Schluss-, Kontroll- und Erklärungsmechanismen zur Verfügung gestellt, automatische Wissensakquisition und Unsicherheit einbezogen sowie Informationen aus verschiedenen Quellen fusioniert werden. Als computertechnische Basis waren fortgeschrittene LISP-Maschinen vorgesehen, die wesentlich mehr Regeln zu verarbeiten erlauben sollten, als bis dahin machbar war.

Methodisch und technisch unterscheidet sich dieser Ansatz nicht vom damaligen Stand der Entwicklung im zivilen Bereich. Das übergeordnete Ziel und die drei Anwendungsprojekte waren dagegen ganz auf militärische Bedürfnisse zugeschnitten. Angestrebt wurde die Entwicklung einer breiten Basis an Maschinenintelligenztechnologien, um die nationale Sicherheit zu verbessern. Die Sprachassistenz für Kampfpiloten setzte vor allem auf Hören, Verstehen und Sprechen auf, wobei die Verarbeitung natürlicher Sprache mit Hilfe von Expertensystemen bewerkstelligt werden sollte. Das Schlachtenmanagementsystem für die Marine hatte die Expertensystemtechnologie als Mittelpunkt, die regelbasiert für das Datensammeln, Schließen und Planen zuständig waren. Essenziell für die autonomen Roboterfahrzeuge sind Sensoren wie Kameras, 3D-Scanner und Sonare, Bildverarbeitung und -verstehen sowie die Fusion mit anderen Sensordaten, ohne die Navigation in unbekanntem und unwegsamem Gelände, Landmarkenerkennung, Routenplanung, Hindernisvermeidung, visuelle Aufklärung und Zielfindung unmöglich sind. Für die Datenverarbeitung selbst waren wieder Expertensysteme gedacht, wobei mit rund 5000 Regeln gerechnet wurde, die hundertmal schneller ausgeführt werden sollten, als bis dahin möglich.

Am Ende der 1980er Jahre blieb man noch weit hinter dem Erreichen dieser Ziele zurück. Inzwischen hat die Verarbeitung von Sprache und Text ein hohes Niveau erreicht, genauso wie die Verarbeitung von Bildern, wie sie insbesondere für das eigenständige Navigieren von Fahrzeugen benötigt wird. Und Managementsysteme sind inzwischen weit verbreitet. Dabei ist festzuhalten, dass sich die Ziele und auch die Methoden seit den Anfängen der KI gar nicht allzu sehr verändert haben, aber der heute verfügbare Speicherplatz und die Rechengeschwindigkeit erlauben solche Anwendungen. So beruht der Erfolg von Sprachverarbeitungssystemen und Bildverarbeitungssystemen auf maschinellem Lernen mit Hilfe neuronaler Netze, die wahrscheinlichkeitstheoretische Verfahren unter Verwendung riesiger Datenmengen nutzen. Die Idee stammt aus den 1940er Jahren und wurde in vielen Entwicklungsschritten zu heutiger Reife vorangetrieben. SCI war ein Zwischenschritt, aber von großer Schubkraft.

Militä­ri­sche Drohnen

Die Idee unbemannter Fahr- und Flugzeuge für militärische Zwecke reicht weit zurück. Schon vor dem und im Zweiten Weltkrieg gab es mehrere derartige Entwicklungen mit sehr begrenzter Wirkung. Das SCI-Projekt zum Bau autonomer Robotervehikel in Form unbemannter Landfahrzeuge hat dagegen eine breite, bis heute fortgesetzte Entwicklung von Drohnen aller Art eingeläutet. Die USA planen einen erheblichen Teil ihrer Bewaffnung auf unbemannte Systeme umzustellen, wie es in der Unmanned Systems Integrated Roadmap (Department of Defense 2018) dargestellt wird. Andere Nationen folgen diesem Weg.

Im Folgenden soll die Entwicklung unbemannter fliegender Vehikel skizziert werden. Die Entwicklungen bei unbemannten Fahrzeugen, Booten und U-Booten ist etwas anders, darauf wird aber aus Platzgründen verzichtet.

Unbemannte fliegende Systeme sind bereits seit 20 Jahren im Einsatz. Angefangen hat es mit Aufklärungsdrohnen, die feindliches Gebiet überfliegen und ausspionieren können. Es hat dann nicht lange gedauert, bis solche Drohnen mit Raketen ausgestattet wurden. Vorreiter waren Israel mit Einsätzen in Gaza und vor allem auch die USA mit kriegsvölkerrechtswidrigen Einsätzen in Afghanistan, Pakistan, Jemen, Somalia und im Irak im „Krieg gegen den Terror“. Seit einigen Jahren werden Drohnen zunehmend auch in herkömmlichen Kriegen eingesetzt.

Inzwischen sind Aufklärungs- und Killerdrohnen weit verbreitet, und es gibt sie in einer breiten Palette von klein bis groß und von billig bis teuer. Die USA haben ihre Großdrohnen mit erheblicher Reichweite, schwerer Bewaffnung und mit Stückpreis von ein- und zweistelligen Millionenbeträgen nur an Großbritannien und Frankreich verkauft. Deutschland hat eine kleine Zahl von Israel geleast. Zu den Herstellerstaaten gehören inzwischen auch unter anderem China, Iran, Russland und die Türkei. Mehrere Dutzend Staaten haben diese Waffen angeschafft und setzen sie teilweise auch bereits ein. Der Krieg Russlands gegen die Ukraine zeigt, dass bewaffnete Drohnen auch eine Rolle spielen, wenn zwei Armeen gegeneinander kämpfen (Kreowski 2022 und Marischka 2022). Da bewaffnete Drohnen langsam und niedrig fliegen, sind sie relativ gut mit Luftabwehr zu bekämpfen. Greift eine Partei allerdings mit einer größeren Zahl an Drohnen gleichzeitig an, ist die Gefahr groß, dass einzelne Drohnen ihr Ziel erreichen.

Aufklärungs- und Killerdrohnen sind Waffensysteme, die es ohne KI nicht gäbe. Die aktuelle Entwicklung belegt, dass eine gewaltige Rüstungsspirale eingesetzt hat mit einem erheblichen Proliferationsproblem. Es gibt inzwischen ein weitgefächertes Arsenal an Aufklärungs- und Killerdrohnen, das von der Riesendrohne Global Hawk bis zu den nur wenige tausend Dollar teuren tragbaren Switchblades reicht. Kleine (teils umgebaute kommerzielle) Drohnen mit Sprengsätzen und Kampfdrohnen als einfacher Bausatz stellen Waffen dar, die sich jeder Kontrolle entziehen.

Der nächste Entwicklungsschritt, an dem intensiv gearbeitet wird, ist die vollständige Autonomie, bei der dann die Bordsysteme auch über den Waffeneinsatz entscheiden. Technisch handelt es sich um ein Software-Update, das möglicherweise längst in diverse unbemannte Systeme eingebaut ist, aber bisher nicht (oder nur in Einzelfällen) aktiviert wurde. In Politik und Militär sind autonome Waffen aus ethischer und kriegsvölkerrechtlicher Sicht nicht unumstritten, weil die mit dem Waffeneinsatz verbundene Entscheidung über Leben und Tod nicht mehr direkt von Menschen getroffen wird, sondern indirekt schon bei der Programmierung (Williams & Scharre 2015). Ein Verbot ist dennoch nicht absehbar; entsprechende Verhandlungen im Rahmen der Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems der Vereinten Nationen scheitern bisher am „Nein“ Russlands, der USA und vieler anderer Staaten.

Einige autonome KI-Systeme sind seit Jahrzehnten im Einsatz. Die meisten autonomen Systeme, die derzeit von den NATO-Streitkräften eingesetzt werden, sind regelbasierte Expertensysteme, darunter autonome vorprogrammierte Fahrzeuge, Luft- und Raketenabwehrsysteme und autonome Flugkörper. So verfügen beispielsweise sowohl das amerikanische Patriot-Luftabwehrraketensystem als auch das Aegis-Verteidigungssystem, die seit den 1980er beziehungsweise 1990er Jahren im Einsatz sind, über halbautonome und vollautonome Modi, die es Computern ermöglichen, ankommende Bedrohungen ohne menschliche Zustimmung zu erkennen, anzuvisieren und anzugreifen. Darüber hinaus können eine Reihe unbemannter Luftfahrzeuge, darunter die israelische Drohne Harop und die amerikanische RQ-11 Raven, die seit Anfang der 2000er-Jahre im Einsatz sind, autonom fliegen, wobei sie sich oft auf vorprogrammierte Flugrouten und Ziele verlassen (Gray & Ertan 2021).

KI-Au­to­ma­ti­sie­rung des Luftkampfs

Flugkampfassistenzsysteme werden kontinuierlich weiterentwickelt und die Überlegungen, die diesbezüglich in der SCI entstanden, sind weitestgehend überholt. Mehrere aktuelle Flugzeugsysteme enthalten KI-Komponenten. Die F-35 Lightning II von Lockheed Martin hat beispielsweise Systeme zur Entscheidungsunterstützung und Datenanalysesysteme (vgl. Osborn 2017a). In ähnlicher Weise werden zwei europäische Flugzeugprojekte der nächsten Generation, der Next Generation Fighter (NGF) des Future Combat Air System (FCAS) und Tempest von BAE, KI-Komponenten enthalten. BAE Tempest wird über ein KI-gestütztes autonomes Flugsystem verfügen (vgl. Adams 2018). Das Flugkampfassistenzsystem des FCAS-Projekts wird unter dem Acronym ASTARTES entwickelt. ASTARTES steht für Air Superiority Tactical Assistance Real Time Execution System. Die Beschreibung des Ziels für diese Komponente bleibt abstrakt. Bisher ist lediglich die Rede davon, menschliche Erfahrungen zu digitalisieren, um die Operator*innen in Taktik zu unterstützen. Aus anderen KI-unterstützten Feuerkampfsystemen lässt sich aber das eine oder andere als wahrscheinliche Konkretisierung ableiten. Durch das von Rheinmetall entwickelte System Attac, welches für zukünftige Gefechtsfahrzeuge entwickelt wird, soll die „Fahrzeugbesatzung im Bereich der Beobachtung und Zielerfassung sowie in der Entscheidungsfindung und Wirkung entlastet werden“, indem die Fahrzeuge „die Fähigkeit (erlangen) selbstständig aufzuklären, erkannte Objekte zu klassifizieren und in die Bedrohungslage in Echtzeit einzuordnen“ (Marischka 2023).

Allerdings ist derzeit sogar nicht einmal ausgeschlossen, dass der NGF unbemannt sein könnte. Die Wahrscheinlichkeit dafür ist gar nicht so klein. Das zeigen jüngste Entwicklungen: Im August 2020 hat in einer Virtual-Reality-Simulation eines F-16-Luftkampfwettbewerbs eine von DeepMind (Google) entwickelte KI einen menschlichen Piloten mit fünf zu null besiegt (Knight 2020). Nachfolgend wurden in weniger als drei Jahren die KI-Algorithmen, die im Rahmen des Air Combat Evolution-Programms (ACE) der DARPA entwickelt wurden, von der Steuerung simulierter F-16, die Luftkämpfe auf Computerbildschirmen fliegen, zur Steuerung einer tatsächlichen F-16 im Flug weiterentwickelt (DARPA 2023).

Bei FCAS wird mit dem Next Generation Weapon System noch weiter gedacht. Beim FCAS handelt es sich um ein gigantomanisches europäisches Rüstungsprojekt, das seit der Unterzeichnung eines gemeinsamen Investitionsplans im September 2021 von Deutschland, Frankreich und Spanien auf den Weg gebracht wird und dessen Kosten voraussichtlich im dreistelligen Milliardenbereich liegen werden. Das FCAS soll ein Verbundsystem mehrerer Luftkampfeinheiten werden, bei dem die KI eine zentrale Rolle spielen soll. Das FCAS gilt als wichtiger Schritt zur KI-Automatisierung des Krieges (Kreowski/Lye 2022). Die Hauptkomponente des FCAS ist das in Teilen schon oben beschriebene Kampfflugzeug (NGF). Das Projekt umfasst aber weit mehr. Es soll ein System von Systemen werden, ein sogenanntes Next Generation Weapon System bei dem Kampfjets zusammen mit Schwärmen von autonomen Lenkflugkörpern und bewaffneten und unbewaffneten Drohnenschwärmen in einer Weise eingesetzt werden sollen, die Europa dem Plan gemäß in allen Teilen der Welt die Überlegenheit im Luftkampf sichern soll (Renn 2021).

Die Interaktion von Soldat*innen mit Robotern und unbemannten Systemen während des Kampfgeschehens wird als Manned-Unmanned-Teaming (MUM-T) bezeichnet (Department of Defense 2013: 139; Pletsch 2020). Airbus demonstrierte im Jahr 2018 die Möglichkeiten des MUM-T mit fünf von dem Unternehmen gebauten Drohnen des Typs Do-DT 25, die autonom agierten und von einem Piloten befehligt wurden, der sich in einem bemannten Führungsflugzeug (Learjet) in der Luft befand (Airbus 2018). Die Tests beinhalteten Formationsflüge, das Ausweichen vor einer simulierten Bedrohung, simulierte Aufklärung und die Kompensation einer im Flug ausgefallenen Drohne. Autonom handelnde bewaffnete Drohnen sollen sich als Schwärme formieren und gemeinsam operieren können. Letzteres wird als Swarming bezeichnet. Um Teaming und Swarming zu realisieren, sind mehrere Fähigkeiten und Techniken erforderlich, so unter anderem Teaming-/Swarming-Algorithmen, neue Sensoren oder Missionsmanagementsysteme für die Führungsunterstützung durch die Besatzung des bemannten Flugzeugs. Das von Airbus bisher entwickelte Flugmanagementsystem für unbemannte Luftfahrzeuge kombiniert schon heute vollautomatische Lenkung und Navigation mit Schwarmfähigkeiten.

In Zukunft wird die F-35 wahrscheinlich auch KI einsetzen, um unbemannte Drohnen zu steuern, die Waffen tragen, Überwachung und Aufklärung betreiben oder feindliche Luftabwehr testen können (Osborn 2017b). Gleiches gilt für FCAS.

Es deutet sich eine Transformation zu neuen militärischen Taktiken an, die zum einen auf kooperativem Kampf vieler einzelner autonomer Systeme und zum anderen auf dem Einsatz von Täuschung und zahlenmäßiger Überlegenheit beruhen. Ziel scheint es hier zu sein, den Gegner möglichst großflächig zu stören oder durch zahlenmäßige Übermacht zu überwältigen. Wenn die Planungen in die Realität umgesetzt werden, versprechen sie dem Militär vor allem auch eine verbesserte Effizienz, indem sichergestellt wird, dass die für einen bestimmten Einsatz erforderliche Mischung der Fähigkeiten auch zielgenau zur Verfügung steht. Zudem könnte das System die Risiken für den Einsatz menschlicher Kampfeinheiten reduzieren, da die bemannten Einheiten in sicherer Entfernung bleiben könnten, während die Drohnen konkret die Front bilden (Airbus 2020a). In welche Richtung gedacht wird, zeigt das Positionspapier zur Anwendung Künstlicher Intelligenz in den Landstreitkräften der Bundeswehr (Amt für Heeresentwicklung 2019). In einem geschilderten Zukunftsszenario wird eine Situation erdacht, in der bis zu 15.000 autonome unbemannte Luftfahrzeuge unterschiedlicher Bauart und Größe sich zu Schwärmen formieren, um verschiedene Aufgaben auszuführen.

Schlach­ten­ma­na­ge­ment und Combat Clouds

Das in der SCI vorgeschlagene Schlachtenmanagementsystem bestand aus unterschiedlichen Expertensystemen (Roland/Shiman 2002: 194f). Das Force Requirements Expert System (FRESH) würde die Einsatzbereitschaft der Flotte überwachen und bei der Aufteilung der Kräfte entsprechend den Fähigkeiten und dem Status der einzelnen Schiffe helfen. Das Capabilities Assessment Expert System (CASES) würde die relative Stärke der US-amerikanischen und der feindlichen Streitkräfte vergleichen. Das Campaign Simulation Expert System (CAMPSIM) würde das Ergebnis verschiedener Handlungsoptionen simulieren und entsprechende Empfehlungen benennen. Das Operations Plan Generation Expert System (OPGEN) würde Operationspläne nach vorgegebenen Strategien entwickeln. Das Strategy Generation and Evaluation Expert System (STRATUS) schließlich würde bei der Entwicklung von Plänen für die Strategie auf der Ebene des Einsatzgebietes helfen.

Grundsätzlich hat sich an dieser Ratio bis heute wenig geändert und auch prinzi-piell sind die Anforderungen an die Systeme auf andere klassische Militärdomänen übertragbar. Aber es gibt auch wesentliche Weiterentwicklungen. Mittlerweile sind bei vielen Militärs die Systeme, Sensoren und Wirkmittel miteinander in (nahezu) Echtzeit vernetzt. In großangelegten Projekten wird dies aber immer noch weiter vorangetrieben. Ein Projekt der Bundeswehr ist die Digitalisierung landbasierter Operationen (D-LBO) durch das perspektivisch „bis zu 25.000 Fahrzeuge und 155.000 Soldaten“ untereinander vernetzt agieren können sollen (Marischka 2023). Wesentlich hierfür sind Informationsverbünde, für die sich der Begriff Combat Clouds etabliert hat. Die Erfassung von Daten von einem Luftfahrzeug und aus dem Weltraum aus ist wesentlich für militärische Aufklärung und Entscheidungsprozesse. Das FCAS-Projekt umfasst daher die Entwicklung einer vernetzten und verteilten Architektur von Sensoren, den Entwurf zukünftiger Sensorarchitekturen und die Entwicklung der zugehörigen Sensortechnologien. Beim FCAS soll die sogenannte Air Combat Cloud alle Flugsysteme verbinden, um die Verarbeitung und Verteilung von Informationen und Instruktionen nahezu in Echtzeit zu ermöglichen (Airbus 2020b). Die dafür wesentliche Infrastruktur stellen Satelliten im Weltraum dar – insbesondere Satelliten in niedriger Erdumlaufbahn, welche die Hochgeschwindigkeitsdatenübertragung zwischen den Systemen ermöglichen. Des Weiteren wird in den Planungsunterlagen für FCAS der Zugang zu satellitengestütztem Bildmaterial nahezu in Echtzeit für die Lageeinschätzung als Ziel benannt. Dazu passt auch die geplante neue Satellitengeneration für Informationserfassung, Satellitenaufnahmen und Kommunikationsübertragung.

Eine andere Entwicklung ist ebenfalls bemerkenswert. Sie lässt sich allerdings vor allem in den USA nachzeichnen. Seit einer Dekade findet eine gravierende Verlagerung geheimdienstlicher und militärischer Daten in die Cloud kommerzieller Anbieter statt (Schelling 2019; Lye 2021). Die Beziehungen von Big-Tech zu Geheimdiensten und Pentagon wurden über Jahrzehnte aufgebaut. Nachdem sich vor allem der Marktführer Amazon Web Services im Aufbau, dem Umzug und der Etablierung positioniert hatte, ist jetzt eine deutliche Diversifizierung bemerkbar, sodass mittlerweile alle großen KI- und Clouddiensteprovider entsprechende Verträge haben. Die Projekte stellen nicht einfach nur weitere und neue Kommunikations- und Infrastrukturprojekte der Geheimdienste und des Pentagons dar. Stattdessen zeigen sie auf, dass die Großkonzerne des Silicon Valley eine wesentliche Rolle in der Kriegsführung spielen. KI-gestützte Kriegsführung von der Auswertung immer mehr Sensordaten, um militärische Gesamtsituationen zu erfassen, logistische und taktische Optimierung sowie automatisierte Entscheidungen von Truppenbewegungen und Angriffen werden forciert und machbar.

Ausblick

In diesem Artikel haben wir ausgehend von SCI die militärischen KI-Entwicklungen in den vergangenen 40 Jahren skizziert. In der Artikelsammlung Künstliche Intelligenz zieht in den Krieg (Kreowski/Lye 2021b) sind diverse Einzelaspekte diskutiert, die wir hier nicht ausführen konnten. Mit Hilfe von KI ist ein breites Arsenal an neuen und weiterentwickelten Waffensystemen sowie an militärischen Informations- und Kommunikationssystemen für Aufklärung, Kommando, Steuerung und Management hervorgebracht worden. Wie Wirtschaft und Politik sich weltweit von KI die Sicherung zukünftiger Wertschöpfung versprechen, so erwägen Militärs auf der ganzen Welt den Einsatz fortgeschrittener KI in militärischen Systemen und haben begonnen, fortgeschrittenere KI-Fähigkeiten zu entwickeln. Mehrere Länder haben militärische KI-Strategien veröffentlicht, in denen sie darlegen, wie KI in ihren militärischen Systemen genutzt werden soll, und haben darüber hinaus militärische KI-Forschungszentren eingerichtet (Gray/Ertan 2021). Es ist manchmal die Rede davon, dass der Einsatz von KI im Krieg dazu zwingt, Krieg neu zu denken. Tatsächlich aber werden neue Kriegssysteme mit oder ohne KI entwickelt und eingesetzt, sobald sich die Militärs Vorteile und Überlegenheit versprechen. So bedeutet Drohnenkrieg nicht, dass nun Krieg nur noch mit Drohnen geführt wird, sondern dass die Drohnen zu all den Kriegsgeräten, die sonst schon Tod und Zerstörung bringen, als neues Element dazukommen und allenfalls mittelfristig andere Waffensysteme ersetzen. Es ist noch nicht abzuschätzen, was die jüngsten aufsehenerregenden Entwicklungen bei generativen Sprachmodellen und Systemen wie ChatGPT für militärische Zwecke bringen werden. Googles DeepMind, welches in einigen Strategiespielen, wie Schach, Go, Starcraft II menschliche Expert*innen besiegte, löste auch ein 50 Jahre offenes Problem der Biologie (Jumper 2020). Es werden bereits Befürchtungen laut, dass beispielsweise neuartige Bio- und Chemiewaffen möglich werden. Auf jeden Fall bleibt die militärische Seite der KI ein Thema, dass man nicht aus den Augen verlieren darf.

Prof. Dr. Hans-Jörg Kreowski ist Professor (i.R.) für theoretische Informatik an der Universität Bremen und Mitglied im Vorstand des Forums InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF) und der Zeitschrift Wissenschaft und Frieden.

Dr. Aaron Lye ist Informatiker und Wissenschaftlicher Mitarbeiter an der Universität Bremen. Seit 2013 ist er Mitglied im Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF).

Literatur

Adams, Eric 2018: Meet The UK’s New, Very British Fighter Jet, in: Wired vom 6 August 2018.

Airbus 2018: Airbus demonstrates manned-unmanned teaming for future air combat systems. Website vom 2.Oktober 2018.

Airbus 2020a: Manned-Unmanned Teaming and Remote Carriers: transcending individual assets‘ capabilities. Website vom 08. Oktober 2020.

Airbus 2020b: Airbus and Thales join forces to develop the Air Combat Cloud for Future Combat Air System. Website vom 19. Februar 2020.

Amt für Heeresentwicklung 2019: Künstliche Intelligenz in den Landstreitkräften: Ein Positionspapier des Amts für Heeresentwicklung.

DARPA 2023: ACE Program’s AI Agents Transition from Simulation to Live Flight: DARPA completes first flight tests of air combat algorithms on specialized F-16 fighter jet DARPA vom 13 Februar 2023.

Department of Defense 2018: Unmanned Systems Integrated Roadmap. FY2017-2042

Gray, Maggie/Ertan, Amy 2021: Artificial Intelligence and Autonomy in the Military: An Overview of NATO Member States’ Strategies and Deployment. NATO CCDCEO.

Jumper, John et al. 2020: High Accuracy Protein Structure Prediction Using Deep Learning, in: Fourteenth Critical Assessment of Techniques for Protein Structure Prediction.

Knight, Will 2020: A Dogfight Renews Concerns About AI’s Lethal Potential, in: Wired vom 25 August 2020.

Kreowski, Hans-Jörg 2022: Drohnenkrieg in der Ukraine: Fakten und erste Folgenabschätzung, in: Wissenschaft und Frieden, H. 3, S. 15-17.

Kreowski, Hans-Jörg/Lye, Aaron 2021a: Future Combat Air System: Künstliche Intelligenz fliegt und kämpft mit, in: Wissenschaft und Frieden Dossier Nr. 93.

Kreowski, Hans-Jörg/Lye, Aaron 2021b: Künstliche Intelligenz zieht in den Krieg, in: FifF-Kommunikation, H. 4, S. 28-30.

Lye, Aaron 2021: Transformation geheimdienstlicher und militärischer Serverinfrastruktur in den USA durch kommerzielle Cloud-Provider am Beispiel Amazon, in: FifF-Kommunikation, H. 4, S. 39-42.

Marischka, Christoph 2022: Drohnen im Ukraine-Krieg: Technologietransfer als Gamechanger – und Kriegsgrund? In: IMI-Studie, H. 3.

Marischka, Christoph 2023: Noch schreibt KI für uns Texte – bald wird sie Kriege führen, in: Telepolis vom 29. Mai 2023.

McCarthy, J. et al. 1955: A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. 31. August 1955, http://jmc.stanford.edu/articles/dartmouth/dartmouth.pdf.

Odagiri, Hiroyuki et al. 1997: Research consortia as a vehicle for basic research: The case of a fifth generation computer project in Japan, in: Research Policy, Jg. 26, H. 2, S. 191–207. doi:10.1016/S0048-7333(97)00008-5.

Osborn, Kris 2017a: ,Air Force Chief Scientist Confirms F-35 Will Include Artificial Intelligence’, Defense Systems, 20. Januar 2017.

Osborn, Kris 2017b: ,The F-35 Will Soon Be Equipped with Artificial Intelligence to Control Drone Wingmen‘, in: Business Insider vom 20. Januar 2017.

Pletsch, Marius 2020: Mensch-Maschine: EU Großprojekte zum Manned-Unmanned-Teaming. IMI-Analyse 2020/11, in: IMI-AUSDRUCK (März 2020) vom 16. März 2020.

Renn, Ulrich 2021: Unbemannte Helfer: Zur Bedeutung der Remote Carrier im Future Combat Air System, in: Europäische Sicherheit und Technik, H. 4, S. 38-42.

Roland, Alex/Shiman, Philip 2002: Strategic Computing – DARPA and the Quest for Machine Intelligence, 1983-1993, Cambridge.

Schelling, Arkadi 2019: Künstliche Intelligenz als Cloud Service: Folgen für Gesellschaft, Geheimdienst und Militär, in: IMI-Analyse, H. 16.

Shapiro, Ehud Y. 1983: The fifth generation project – a trip report, in: Communications of the ACM, Jg. 26, H. 9, S. 637–641. doi:10.1145/358172.358179. S2CID 5955109.

Trakimavičius, Lukas 2021: The Future Role of Nuclear Propulsion in the Military, in: NATO Energy Security Centre of Excellence, Nr. 10.

Williams, Andrew P./Scharre, Paul D. (Hrsg.) 2015: Autonomous Systems – Issues for Defence Policymakers. NATO Headquarters Supreme Allied Commander, Transformation, Norfolk (VA), https://apps.dtic.mil/sti/citations/AD1010077.

Der Beitrag Künstliche Intelligenz im Dienst des Militärs erschien zuerst auf Humanistische Union.

Mit dem Schlagwort Digitalisierung wird heute oft ein Prozess bezeichnet, der schon seit einigen Jahrzehnten anhält, aber immer noch mehr Fahrt aufnimmt. Mit den Fortschritten in der Informations- und Kommunikationstechnik, in der Infor-matik und in jüngster Zeit insbesondere auch in der Künstlichen Intelligenz (KI) und Robotik ist eine allmähliche und fortschreitende Nutzung in nahezu allen gesellschaftlichen Bereichen verbunden. Das gilt auch für die Polizei. Dieser Beitrag zeigt die vielfältigen Auswirkungen von Sicherheitsforschung auf die Nutzung von Informationstechnik durch die Polizei.

Einleitung: Gewachsene Bedeutung der Sicher­heits­for­schung

Der Staat unternimmt erhebliche Anstrengungen, die Forschung im Bereich „ziviler Sicherheit“ voranzutreiben. Seit 2007 hat das Bundesministerium für Bildung und Forschung rund 650 Millionen Euro in die Förderung von praxisnahen Sicherheits-lösungen gesteckt, bei deren Entwicklung Wirtschaft, Wissenschaft und Einrichtungen der inneren Sicherheit zusammenarbeiten. In dem aktuellen Programm Forschung für die zivile Sicherheit 2018 bis 2023 geht es um Nutzung von KI und insbesondere von Robotik. Des Weiteren laufen in dem EU-Forschungsförderprogramm Horizon 2020 (Projektlaufzeit: 2014-2020, Budget: rund 70 Mrd. Euro) zahlreiche Teilprojekte, in denen Informationstechnik- (IT) und Rüstungsunternehmen, Forschungseinrichtungen, Universitäten und nationale als auch europäische Strafverfolgungsbehörden zusammenarbeiten. Erwähnenswert ist außerdem die 2017 gegründete deutsche Behörde Zentrale Stelle für Informations-technik im Sicherheitsbereich (ZITiS), welche die Aufgabe hat, Behörden des Bundes (Bundeskriminalamt (BKA), Bundespolizei und Bundesamt für Verfassungsschutz) mit Sicherheitsaufgaben im Hinblick auf informationstechnische Fähigkeiten zu unterstützen und zu beraten. Sie ist Forschungs- und Entwicklungsstelle mit den Aufgabenschwerpunkten digitale Forensik, Telekommunikationsüberwachung, Kryptoanalyse und Big-Data-Auswertung. Digitale Forensik umfasst die Entwicklung neuer softwaretechnische Methoden und spezielle Hardware zur Auswertung und Archivierung von Daten. Telekommunikationsüberwachung umfasst die Erfor-schung und Entwicklung neuer Methoden und Strategien, um auf Telekommunika-tionsdaten zuzugreifen. Kryptoanalyse beschäftigt sich mit der Vorbereitung und Durchführung praktischer Angriffe auf unterschiedliche IT-Systeme und deren Verschlüsselung. Big-Data-Auswertung umfasst das Datamining (also das Durchsu-chen großer unsortierte Datenbestände) als auch deren Analyse und Interpretation mittels Maschinellem Lernen.

In diesem Beitrag wollen wir an einzelnen typischen Beispielen zeigen, welche aktuellen technologischen Entwicklungen von der Polizei genutzt oder hinsicht-lich zukünftiger Nutzung geprüft werden:

• Maschinelles Lernen
• Gesichtserkennung
• Kombinierte Datenbanken
• Predictive-Policing
• Social-Media und Open-Source-Intelligence
• Grenzüberwachung und Fluchtwegrekonstruktion
• Erweiterte DNA-Analyse.

Andere Bereiche wie Remote-Forensics/Trojaner, Robotik, Kryptoanalyse, Deano-nymisierung und Quantencomputing sparen wir aus, weil sie sich neben den anderen Themen nicht kurz abhandeln lassen.

Maschi­nelles Lernen

Das aktuell wichtigste Teilgebiet der KI ist Maschinelles Lernen. Unter Verwendung statistischer Verfahren und Softwaretechniken wird ein Modell mit bekannten Daten trainiert, indem es Muster und Strukturen erkennt und anhand einer vorher definierten Logik daraus Schlussfolgerungen zieht, um dann für unbekannte Daten Vorhersagen zu treffen. Dabei erfolgt die Optimierung des Modells anhand einer einzigen Kennziffer, welche die Entwickler_innen festlegen (Schelling 2019). Die Einsatzgebiete sind vielfältig: So können beispielsweise Objekte, Gesichter, Basisemotionen und Laufwege in Fotos und Videos erkannt, Sprache erkannt und über-setzt, Spiele gespielt, oder Daten klassifiziert und Anomalien erkannt werden. Allerdings kann ein Modell nur trainiert werden, wenn genügend Daten und Rechenleistung vorhanden sind. Alle Daten über Menschen enthalten jedoch gesellschaft-lich bedingte Verzerrungen. Deshalb macht es beispielsweise einen Unterschied, ob die Gesichtserkennung im Training eine gesellschaftsagnostische Gesamtgenauigkeit optimiert oder Genauigkeiten für Minderheiten mit verrechnet werden. Ras-sistische und sexistische Weltanschauungen werden hinter vermeintlich neutraler Mathematik versteckt (Schelling 2019). Da es sich um probabilistische Algorithmen handelt, besteht die Gefahr der fehlerhaften Vorhersage. Allerdings neigen Menschen dazu, einer Berechnung übermäßig zu vertrauen[1] . Nichtsdestotrotz bewerben Cloud-Anbieter [2], vor allem Amazon Web Services, ihre Dienste erfolgreich bei Strafverfolgungsbehörden in den USA.[3]

Gesichtserkennung

In den letzten rund 20 Jahren hat es auf dem Gebiet der Bilderkennung erhebliche Fortschritte gegeben. Das gilt insbesondere auch für die Gesichtserkennung, so dass sich Politik und Bundespolizei ermutigt fühlten, ein Pilotprojekt auf den Weg zu bringen. Nachdem frühere Versuche noch gescheitert waren, wird das Ergebnis des Pilotprojekts zur biometrischen Gesichtserkennung auf dem Bahnhof Berlin-Südkreuz nach einjähriger Erprobung von August 2017 bis Juli 2018 als großer Erfolg gefeiert.[4]

Der technische Versuchsaufbau sah grob skizziert so aus: An drei Stellen des Bahnhofs – ein Eingang, eine Rolltreppe und ein Ausgang – haben vorhandene Kameras Bilder aufgenommen und als Stream an die eingesetzten Gesichtserken-nungssysteme gesendet. In allen drei getesteten Systemen (BioSurveillance von Herta Security, Morpho Video Investigator von IDEMIA und Anyvision vom gleichnamigen Unternehmen) wurden mit unterschiedlichen Algorithmen (die neben klassischen Bildanalyseverfahren alle drei auch mit künstlichen neuronalen Netzen arbeiten und damit mit sogenannten lernenden Systemen) die Gesichter auf den Bildern in Templates verwandelt, also nach bestimmten charakteristischen Merkmalen vereinfacht. Die Templates wurden dann automatisch mit den in einer Datenbank gespeicherten Gesichtstemplates der im ersten halben Jahr über 300 Versuchspersonen und im zweiten Halbjahr noch verbliebenen 200 verglichen. Diese hatten sich als regelmäßige Benutzer_innen des Bahnhofs freiwillig gemeldet. Ihre Zahl wurde so gewählt, dass die Auswahl statistisch gesehen repräsentativ war. Im ersten Halbjahr gab es nur ein Template pro Person nach einem guten Foto, im zweiten zwischen zwei und fünf nach Bildern, die mit den Überwachungskameras geschossen wurden. Außerdem wurde mit Hilfe von Transpondern, die die Testpersonen immer bei sich trugen, festgestellt, wer wann welche Beobachtungsstelle passiert hat. So ließ sich die Trefferrate ermitteln als Verhältnis der richtig erkann-ten Gesichter zu den insgesamt möglichen Erkennungen in Prozent. Als zweites „Güte“-Kriterium wurde die Falschakzeptanzrate gewählt, die in Prozent angibt, wie viele der Erkennungen falsch sind.

Durchschnittlich wurde eine Trefferrate von gut 80 Prozent erreicht, in günstigen Fällen über 90 Prozent. Die Falschakzeptanzrate lag deutlich unter einem Prozent. Das klingt gar nicht viel, bedeutet aber bei 10.000 Gesichtserkennungsvor-gängen schon über 30 Personen, die fälschlich als gesucht erkannt werden. In dem Abschlussbericht des Bundespolizeipräsidiums 2018, dem noch viele weitere Details entnommen werden können, werden auch Faktoren genannt, die die Gesichtserkennung behindern und erschweren. Dazu gehören schlechte Lichtverhältnisse wie Gegenlicht oder starke Schattenbildung sowie ungünstige Kamerawinkel. Gute Ergebnisse werden insbesondere erzielt, wenn die Kamera senkrecht zur Gesichtsebene angebracht ist, was bei Ein- und Ausgängen praktisch unmöglich ist. Brillen, Schals und Makeup sollen die Erkennung nicht wesentlich beeinträchtigen. Aber es ist wohl nicht untersucht worden, wie häufig die Erkennung scheitert, weil die Zielperson nach unten, hinten oder zur Seite schaut, sich stark geschminkt hat, sich verkleidet hat oder das Gesicht verdeckt. Von anderen Bilderkennungsversuchen ist bekannt, dass schon kleinere Veränderungen an den zu erkennenden Objekten die Ergebnisse deutlich verschlechtern können. Bei der Beurteilung des Pilotpro-jekts muss auch beachtet werden, dass kein einzelnes der getesteten Systeme aus Sicht der Polizei wirklich zufriedenstellende Ergebnisse erbracht hat, sondern erst eine Kombination zweier Systeme.[5]

Ungeachtet solcher technischer Bedenken muss befürchtet werden, dass Ge-sichtserkennungssysteme dieser Art im öffentlichen Raum bald Wirklichkeit wer-den. Das wirft viele weitere Fragen auf. Welche Datenbanken mit den Bildern welcher Zielpersonen werden verwendet? Werden (biometrische) Bilder von polizeilich gesuchten Tatverdächtigen und als Kriminelle eingestuften Personen verwendet, oder werden auch Menschen einbezogen, die als „Gefährder“  eingeschätzt werden, ohne dass ein konkreter Tatverdacht vorliegt? Es ist zu befürchten, dass Strafver-folgungsbehörden diese Überwachungstechnologie mit immer mehr Datenbanken vernetzen. Datenschützer_innen (des Bundes und der Länder) sind sich weitgehend einig, dass es sich um einen massiven und ungerechtfertigten Eingriff in die informationelle Selbstbestimmung von Menschen handelt. Die grundlegende Kritik an automatisierter und anlassloser Massenüberwachung ist klar. Menschen verhalten sich unfreier, wenn sie beobachtet werden. Weiter betreffen polizeiliche Maßnah-men und Überwachung überproportional viele Menschen, die Minderheiten ange-hören. Ist es also nur eine Frage der Zeit, bis solche Systeme eines Tages bei uns wie jetzt schon in China zur sozialen Überwachung und systematisch gegen Minderhei-ten (vgl. Reuter 2019) eingesetzt werden?

Kombinierte Datenbanken

Im EU-Projekt „Interoperabilität“ werden derzeit alle in EU-Datenbanken vorhan-denen Gesichtsbilder und Fingerabdrücke mit Personendaten in einem durchsuchbaren „gemeinsamen Identitätsspeicher“ zusammengeführt (vgl. Monroy 2019a). Einige der Datenbanken bleiben in ihrer derzeitigen Form erhalten, andere werden um weitere biometrische Merkmale ergänzt. Die Daten werden zentral bei der Agentur für das Betriebsmanagement von IT-Großsystemen (eu-LISA) verarbeitet. Darüber hinaus werden sie durch ein gemeinsames Interface parallel durchsuchbar. eu-LISA ist auch für die technische Verwaltung und die sichere Datenübertragung im Betrieb zuständig. 2020 beginnt die technische Umsetzung, bis 2023 soll das System fertiggestellt werden (vgl. Europäische Kommission 2017 COM(2017) 794 final). Integriert werden (1) das Schengener Informationssystem (SIS II), welches als größte Fahndungsdatenbank Europas Informationen zur Einreise- oder Aufent-haltsverweigerung und zur Verhaftung oder zur verdeckten Kontrolle von Ver-dächtigen enthält; (2) das European-Dactyloscopy-System (EURODAC), welches Finger-abdruckdaten von Asylbewerber_innen und Drittstaatsangehörigen speichert und abgleicht; (3) das Visa-Informationssystem (VIS), welches personenbezogene und biometrische Daten von Antragsteller_innen und Einlader_innen von Kurzaufent-haltsvisa speichert, (4) das neue Einreise-/Ausreisesystem (EES), in welchem perso-nenbezogene und biometrische Daten sowie Zeitpunkt und Ort der Ein- und der Ausreise von Drittstaatsangehörigen, die für einen Kurzaufenthalt in den Schengen-Raum reisen, elektronisch erfasst werden; (5) das ab 2021 verwendete Europäische Reiseinformations- und -genehmigungssystem (ETIAS)‚ bei dem es sich um ein weitgehend automatisiertes System zur Erfassung und Überprüfung der Angaben handelt, die von der Visumpflicht befreite Drittstaatsangehörige vor ihrer Reise in den Schengen-Raum übermitteln; (6) das Europäische Strafregisterinformationssys-tem für Drittstaatsangehörige (7) (ECRIS-TCN)‚ bei dem es sich um ein elektronisches System für den Austausch von Informationen über frühere Verurteilungen von Drittstaatsangehörigen durch Strafgerichte in der EU handelt; und Datenbanken von Europol und Interpol. Als Schnittstelle für die ersten sechs wurde ein neues universelles Nachrichtenformat federführend vom BKA entwickelt.  Das System integriert auch einen „Detektor für Mehrfachidentitäten“, der innerhalb der ersten sechs Datenbanken biometrischen Daten und ihnen zugeordneten Ausweisdoku-menten abgleicht. Die existierenden Datenbanken verfügen bereits über ein solches Suchsystem für Fingerabdrücke (vgl. Monroy 2018a). Das Ganze findet unter dem Vorwand der Terrorismusbekämpfung statt. Tatsächlich geht es aber um den Auf-bau einer Überwachungsinfrastruktur, um insbesondere Migration in die und in-nerhalb der EU zu erschweren.

Darüber hinaus ist das BKA auch federführend an dem EU-Projekt Europäischer Kriminalaktennachweis – Automatisierung der Datenaustauschprozesse (EPRIS-ADEP)[8]  beteiligt, welches ein System entwickelt, um bestimmte biografische Daten, die in nationalen polizeilichen Informationssystemen enthalten sind, verfügbar zu ma-chen und direkte EU-weite Abfragen ermöglichen soll. Hierzu wird die bereits exis-tierende Infrastruktur von Europol[9]  genutzt, insbesondere das Europol-Operations-Network und die Kommunikationsplattform Secure-Information-Exchange-Network-Application.

Predictive Policing

Predictive Policing[10] , das mit voraussagende oder vorausschauende Polizeiarbeit übersetzt werden kann, ist im Wesentlichen eine Anwendung quantitativer Analysemethoden der angewandten Wahrscheinlichkeitstheorie und Statistik, um Orte und Zeiten mit hohem Kriminalitätsrisiko, mögliche Straftäter_innen einerseits und gefährdete Opfer andererseits vorherzusagen. Eine weitere Anwendung ist die Erstellung von Profilen, um die Identität von Straftäter_innen anhand der Tatcharakteristika und Tatortspuren einzugrenzen. Im Unterschied zur traditionellen Kriminalitätsanalyse, die ganz ähnliche Ziele verfolgt, erfordert Predictive Policing große Datenmengen und ist methodisch wesentlich komplexer. Die eingesetzten Methoden umfassen beispielsweise die systematische Kombination von verschie-denen Datenbanken bei Abfragen und Auswertung, Datamining, Regressions- und Klassifikationsanalyse, Clusterverfahren, Near-Repeat-Modellierung wahrscheinli-cher Wiederholungstaten und Raumzeitanalyse. Ziel ist dabei nicht Genauigkeit, sondern Brauchbarkeit. Und man darf nicht glauben, dass die automatisierte Kri-minalitätsanalyse die Kriminalitätsrate senkt. Vielmehr ist es als technokratische Antwort auf ein soziales Problem zu verstehen. Statt die Ursachen von Kriminalität zu beheben, wird die Identifikation von Gefährder_innen und Verdächtigen sowie die Repression optimiert. Predictive Policing ist kein Garant, dass sich das ändert oder verbessert. Im Gegenteil ist aufgrund struktureller und institutioneller rassis-tischer Polizeipraxis (KOP 2016, Sarbo 2019) die Gefahr groß, dass noch mehr Personen unschuldig in Verdacht geraten und dass Methoden eingesetzt werden, die die grundgesetzlich geschützten Persönlichkeitsrechte einschließlich der informationellen Selbstbestimmung zuwiderlaufen.

Selbst technisch gesehen muss Predictive Policing auch dann noch lange nicht er-folgreich sein, weil die Vorhersagen vielleicht auf Daten minderer Qualität beruhen, weil die Analyseergebnisse missverstanden werden wegen der Unkenntnis zugrun-deliegender Faktoren oder weil nicht genügend überprüft wird, ob verwendete Vorhersagen überhaupt effektiv waren.

In Deutschland lassen sich auf kriminalpolitischer Ebene vermehrt Implementierungsvorstöße und Pilotprojekte zu Predictive Policing verzeichnen. In mehrere Bundesländer werden unterschiedliche informationstechnische Werkzeuge bereits eingesetzt (vgl. Heitmüller 2019): Bayern und Baden-Württemberg nutzen die kommerzielle Prognosesoftware PRECOBS (Pre Crime Observation System) des Insti-tuts für musterbasierte Prognosetechnik IfmPt; Nordrhein-Westfalen nutzt und entwickelt SKALA (System zur Kriminalitätsauswertung und Lageantizipation) auf der Grundlage von SPSS Modeler von IBM; Niedersachsen wiederum benutzt IBM Cognos in dem Projekt preMAP (predictive Mobile Analytics for the police); Berlin nutzt die Eigenentwicklung KrimPro (Kriminalitäts-Prognose) und Hessen nutzte die Eigenentwicklung KLB-operativ (Kriminalitätslagebild-operativ), welche kürzlich durch die Software Gotham von Palantin abgelöst wurde (vgl. Singelnstein 2019).

Socia­l-­Media und Open-­Sour­ce-In­tel­li­gence

Durch die verbreitete Nutzung von Social-Media erfährt Open-Source-Intelligence (OSINT), also das Sammeln und Bewerten von öffentlichen Informationen, insbesondere in sozialen Medien eine gravierende Aufwertung für die Informationsgewinnung von Polizei und Geheimdiensten weltweit. Bereits im EU-Projekt CAPER[11]  (Collaborative information Acquisition, Processing, Exploitation and Reporting for the prevention of organized crime; Projektlaufzeit: 2011 – 2014, Budget: 7 Mio Euro) wur-den informationstechnische Werkzeuge entwickelt, um Internetinhalte den Behörden systematisch zugänglich zu machen – einschließlich Bild-, Video-, Sprach- und biometrischer Analyse. [12]  Auch in Deutschland gibt es entsprechende Vorhaben und Umsetzungen. Seit 2014 ist bekannt, dass das Zentrum Operative Kommunikation der Bundeswehr, der Bundesnachrichtendienst und das Bundesamt für Verfassungs-schutz mit mehreren Analysetools Blogs, Foren und soziale Netzwerke systema-tisch beobachten und analysieren (vgl. Hunko 2014, Meister 2015). Mithilfe statisti-scher Verfahren sollen gesellschaftliche Stimmungen, Tendenzen, Trends und Auf-fälligkeiten erkannt werden. Diese sind nicht auf einzelne Personen bezogen, son-dern sollen grundsätzliche Aussagen zur Dynamik von Informationsströmen und zur allgemeinen Lageentwicklung im In- und Ausland ermöglichen. Ziel ist die Beherrschbarkeit sozialer Phänomene und politischer Situationen, indem Progno-sen berechnet und Gruppen gezielt manipuliert werden.

Jetzt soll die Polizei ebenfalls in sozialen Netzwerken aktiv werden. Das Projekt SENTINEL[13]  (Sicherheit im Einsatz durch Open-Source-Intelligence (OSINT) in Ein-satzleitstellen, Projektlaufzeit: Januar 2018 bis Juni 2019) verdeutlicht dieses. Es wurden sogenannte Intel-Officer implementiert, die polizeieinsatzbegleitend OSINT-Recherchen durchführen. Oft stehen so den Behörden aktuelle Lichtbilder, Hinweise zum Aufent¬haltsort, Informationen zu Hobbies oder Besonderheiten der Örtlichkei-ten zur Verfügung. Das orientiert sich an den Niederlanden, wo in sogenannten Real-Time-Intelligence-Centres (RTIC), die in den Einsatzleitstellen untergebracht sind, Polizeivollzugsbeamte neben der Datenerhebung in polizeilichen Datensystemen standardmäßig OSINT-Recherchen zu eingehenden Einsätzen durchführen und den Einsatzkräften die Informationen mitteilen.

Neben der individuellen Recherche und Ausforschung stehen die Analyse von Bestrebungen und die Identifikation von Gruppen und Personen im Vordergrund aktueller Polizeiforschung. Hier sind beispielsweise die zwei Projekte RadigZ[14]  (Radikalisierung im digitalen Zeitalter – Analyse von Aufrufen zu extremistischen Gewalthandlungen und Straftaten via Internet/Social Media, Projektlaufzeit: Feb-ruar 2017 bis Februar 2020) und X-SONAR[15]  (Analyse extremistischer Bestrebungen in sozialen Netzwerken, Laufzeit: März 2017 bis Februar 2020) bemerkenswert. Neben einer vertieften Analyse der Wirkungen von Internet-basierter Informations-verbreitung und Propaganda (im Sinne der behördenüblichen, extremismustheoretischen Einstufung als islamistisch, rechtsextremistisch, linksextremistisch) sowie der Identifikation von Gruppen und Personen, die entsprechende Informationen wahrnehmen, ist die Entwicklung zielgruppenspezifischer Gegenmaßnahmen zent-rales Anliegen des Projekts. Durch die Analyse von sozialen Netzwerken, Blogs und Foren und die Identifizierung von gruppenspezifischen und individuellen Radikali-sierungsmustern sollen Indikatoren zur Früherkennung und Risikoeinschätzung radikaler Tendenzen erarbeitet werden. Zusammen mit den beteiligten Landeskriminalämtern und Behörden wird Software für die Erkennung von Netzwerkstruktu-ren und zur dynamischen Risikoeinschätzung entwickelt.

Ein anderer Aspekt der Social-Media-Offensive ist die interaktive Propaganda. Das Projekt PräDiSiKo[16]  (Präventive digitale Sicherheitskommunikation – ein innovativer Ansatz für Kriminalprävention in sozialen Online-Medien, Projektlaufzeit: November 2016 bis Oktober 2019) behandelt die Erforschung und softwaretechnischen Umsetzung eines neuen Systems, das der Polizei ermöglicht, interaktiv Botschaften über ein soziales Netzwerk an die Bevölkerung zu kommunizieren. Insbe-sondere sollen spezifische Personengruppen adressiert werden, wobei die Art der Kommunikation und Botschaft von der jeweiligen Gruppe abhängt.

Darüber hinaus arbeiten europäische Polizeibehörden zusammen mit Rüstungs-firmen im Horizon-2020-Programm an diversen Projekten in diesem Bereich. Im Sicherheitsforschungsprojekt „TENSOR“[17]  wird eine „Plattform für Terrorismusaufklärung“ im Internet entwickelt. Sie soll automatisierte und teil-automatisierte Werkzeuge kombinieren, um Inhalte in mehreren Sprachen und aus unterschiedlichen Formaten (Text, Bilder, Filme, Tonaufzeichnungen) zur „Förderung von Gewalt“ und „Radikalisierung“ aufzuspüren und automatisch zu erkennen. Die Soft-ware soll auch „dialoggestützte Bots“ mit KI nutzen. Gefundene Inhalte werden anschließend kategorisiert und interpretiert, damit sie von Strafverfolgungsbehörden genutzt werden können (Monroy 2019b). Des Weiteren laufen die EU-Projekte TRIVALENT[18]  und PROPHETS[19]  (je ca. 3 Mio. Euro, Projektlaufzeit TRIVALENT: Mai 2017 – April 2020, Projektlaufzeit PROPHETS: Mai 2018 – April 2021) in dem unter anderem auch Analysesoftware für OSINT entwickelt werden soll, um Radikalisierungen zu erkennen. Neben der Analyse sind Synthese und Gegenstrategien Projektziele. Einen Schritt weiter geht das aktuelles Projekt Red Alert[20] , bei dem die Erkennung und Klassifizierung von Internetinhalten in Echtzeit erprobt wird. Auch hier kommen natürliche Sprachverarbeitung, Analyse sozialer Netzwerke und KI-Methoden zum Einsatz.

Grenz­über­wa­chung und Flucht­weg­re­kon­struk­tion

Neben der Identifikation von Menschen anhand biometrischer Merkmale ist die Beobachtung und Vorhersage von Fluchtrouten sowie die interorganisationale[21]  und transnationale Zusammenarbeit zwischen Polizei, Behörden, Hilfsorganisationen und anderen involvierten Akteuren Bestandteil der Polizeipraxis im Kontext der Grenzüberwachung.

Zentral ist das Grenzüberwachungssystem Eurosur (European Border Surveillance), welches vom europäischen Grenzschutz Frontex betrieben wird und Aufklärungsdaten von Satelliten, Flugzeugen, Drohnen und Fesselballons zusammenführt. Kern des EUROSUR-Systems ist die Satellitenaufklärung. Die Bilder stammen von kom-merziellen Satellitendiensten (wie etwa von Airbus, das Bilder seiner Radarsatelliten TerraSar-X und TanDEM-X verkauft) sowie von optischen und radarbasierten Satelliten des EU-Erdbeobachtungsprogramms Copernicus und werden vom Satel-litenzentrum der Europäischen Union SatCen erhoben und aufbereitet (vgl. Monroy 2018b). 2018 wurde der Ausbau der technischen Fähigkeiten von Copernicus von der EU-Kommission beschlossen[22] . Das System soll mittels KI „Unregelmäßigkeiten im Schiffsverhalten“ detektieren und  Informationen zum Standort, der Schiffsbezeichnung und zum abweichenden Verhalten melden. Seit 2017 werden von Flug-zeugen (und seit 2018 zusätzlich von Aufklärungsdrohnen) über dem Mittelmeer aufgenommene Videos in ein Lagezentrum der EUROSUR-Zentrale nach Warschau gestreamt, um sie dort in Echtzeit auszuwerten[23] . Im Rahmen des Projekts FRONTEX Compatible Operational Image wird die Verbesserung dieser Echtzeit-Übertragung ins Hauptquartier erforscht. Dies betrifft neben Flugzeugen und Drohnen auch Schiffe und Fahrzeuge an Land (vgl. Monroy 2018b). 2019 wurden die Überwachungsfähigkeiten weiter ausgeweitet, sodass mittels Maschinellem Lernen Personen und Ob-jekte auf von Drohnen aufgenommenen Bildern automatisch klassifiziert werden können (vgl. Monroy 2019c).

Aber das ist nur ein Aspekt. 2015 hat der EU-Rat die Kooperation von Europol mit Facebook und Twitter beschlossen (vgl. Krempl 2015). In der Europol-Meldestelle für Internetinhalte wurden zusätzliche Stellen geschaffen, die soziale Medien nach Fluchtaktivitäten durchsuchen und Inhalte (z.B. von Menschen, die bei der Flucht unterstützen) zu löschen. Darüber hinaus wurde der direkte Zugriff auf Tracking-Daten von Facebook beschlossen, wobei die im vorherigen Abschnitt erwähnten Systeme zur Analyse sozialer Medien für diese Zwecke benutzt werden können.

Als letzter Aspekt sei die Auswertung von Smartphones erwähnt. Im deutsch-österreichischen Projekt SmartIdentifikation[24] (Projektlaufzeit: April 2018 – März 2020) forscht die Bundespolizei zur schnellen Auswertung von Dokumenten und der Mobiltelefone von Geflüchteten. Durch die Analyse unterschiedlicher Daten, wie Ländercodes angerufener Telefonnummern, Kontakte, Top-Level-Domains aufgerufener Websites, Geodaten und der in Textnachrichten verwendete Sprache, sollen Fluchtwege (automatisiert oder teil-automatisiert) rekonstruiert werden.

Erweiterte DNA-Analyse

In einem Konsortium mit dem Namen „VISible Attributes through GEnomics“ mit dem Akronym „VISAGE“ (Projektlaufzeit: 1.5.2017 – 30 April 2021) haben sich mehrere europäische Universitäten sowie Strafverfolgungsbehörden, unter anderem auch das BKA, für die weitere Erforschung der erweiterten DNA-Analyse zusam-mengeschlossen.[25]  Das Projekt wird von der Europäischen Union mit fünf Millionen Euro unterstützt. Das übergeordnete Ziel von VISAGE ist, die Einschränkung der derzeitigen forensischen Nutzung von DNA zu überwinden, indem es sie erweitert und zusammengesetzte Skizzen unbekannter Spender aus so vielen biologischen Spuren und Quellen wie möglich und so schnell wie möglich konstruiert.[26]  Das derzeit verwendete standardisierte forensische DNA-Profil ist nur dann erfolgreich, wenn ein gesuchtes DNA-Profil mit dem einer Person übereinstimmt, die entweder direkt über die polizeiliche Untersuchung oder durch die Suche in polizeilichen DNA-Datenbanken auf nationaler oder europäischer Ebene verfügbar ist. VISAGE zielt darauf ab, aus DNA, die sich nicht zuordnen lässt, Rückschlüsse auf Augen-, Haar- und Hautfarbe sowie das biologische Alter mit genomischen Mitteln zu füh-ren. Durch die Kombination dieser sichtbaren Attribute wird eine zusammenge-setzte Skizze des unbekannten Spenders konstruiert und auf eine Personengruppe reduziert. Darüber hinaus ermöglichen Alters- und teilweise biogeographische Abstammungsinformationen zusätzlich die Suche in Registern. Als Ergebnis des Projekts formulierte das Konsortium die Entwicklung und forensische Evaluation von Prototypenwerkzeugen auf der Grundlage von massiv paralleler Sequenzierung zur gleichzeitigen Analyse der identifizierten DNA-Prädiktoren für Aussehen, Alter und Abstammung und die Entwicklung eines integrierten Interpretations-Frameworks mit einer Prototyp-Software zur kombinierten statistischen Berücksichtigung des Aussehens, des Alters und der Abstammung von DNA-Informationen, die in die routinemäßigen forensischen DNA-Serviceumgebung integriert werden kann.

Die Kritik ist vielfältig. Es bestehen „rechtliche, ethische und soziale Risiken“  aber auch technische Probleme. Vor allem ermöglichen Erweiterte DNA-Analysen eine weitere Stigmatisierung von Menschen, die sich ohnehin täglich mit Rassismus konfrontiert sehen (dazu mehr in Novago, Leydenberg 2019). Manche DNA-Fragmente kommen in bestimmten Regionen häufiger vor. Dies sagt aber „absolut nichts“ über das Aussehen des Täters aus (vgl. Schultz, Bartram 2017). Die Software basiert aber auf probabilistischen Methoden (probabilistic genotype matching), sodass die Auswertung einer Interpretation bedarf, die stark durch den Automation-Bias und rassistische Vorurteile beeinflusst ist. Darüber hinaus sind die Methoden wissenschaftlich umstritten; Unternehmen wie Parabon Nanolabs und Identitas ver-sprechen den Behörden mehr als sie wirklich können (vgl. May 2018). Trotzdem halten europäische Strafverfolgungsbehörden an dem Vorhaben fest, diese Methoden in der Praxis einzusetzen.

Fazit

In dem Artikel haben wir anhand eines Spektrums an Beispielen aufgezeigt, dass die informationstechnische Aufrüstung der Polizei massiv vorangetrieben wird. Erhebliche Mittel fließen in die Polizeiforschung beziehungsweise in die Forschung und Entwicklung zur zivilen Sicherheit, wobei KI-Methoden – insbesondere Maschinel-les Lernen – in immer mehr Bereichen der Polizei zur Anwendung kommen. Politik und Polizei versprechen sich davon, mit immer mehr Daten und lernenden Algorithmen die Aufgaben der Polizei besser lösen zu können. Probleme der Technik und insbesondere die gesellschaftlichen Implikationen werden überwiegend ignoriert. Es scheint keine großangelegten wissenschaftlichen Projekte zu geben, die untersuchen, ob einerseits die technologischen Instrumente der Polizei überhaupt wirksam sind und andererseits welche Eingriffe in die Persönlichkeits- und Freiheitsrechte wie die informationelle Selbstbestimmung mit dem Einsatz der neuen Technologien verbunden sind oder wie sie vermieden werden können. Es ist also dringend geboten, dass ein ausreichender Teil der Forschungsmillionen für eine kritische Evaluation ausgegeben wird. Weiter braucht es eine kritische Öffentlichkeit, die sich gegen diese Algorithmisierung und Roboterisierung der Polizei in der jetzigen Form zur Wehr setzt.

PROF. DR. HANS-JÖRG KREOWSKI (1949) ist Professor (i.R.) für Theoretische In-formatik an der Universität Bremen. Er ist außerdem im Vorstand des Forums In-formatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF) und der Zeitschrift Wissenschaft und Frieden. Er ist Mitglied der Leibniz-Sozietät der Wis-senschaften zu Berlin und seit 2019 Mitherausgeber des Grundrechte-Reports. Neu-ere Veröffentlichung: Stefan Hügel, Hans-Jörg Kreowski, Dietrich Meyer-Ebrecht: Cyberwar and Cyberpeace. In Elias G. Carayannis, David F. J. Campbell, Marios Panagiotis Efthymiopoulos (Hrsg.) 2018:editors, Handbook of Cyber-Development, Cyber-Democracy, and Cyber-Defense, Heidelberg: Springer, S. 885-909.

AARON LYE (1989) promoviert in theoretischer Informatik an der Universität Bre-men zum Thema Hypergraphtransformation. Er engagiert sich außerdem im FIfF. Neuere Veröffentlichung:Aaron Lye 2017: Techniken und Möglichkeiten digitaler Kriegsführung am Beispiel Stuxnet. FIfF-Kommunikation(2), S. 71-74.

Literaturverzeichnis

Armbrost, Andreas 2014: Polizeitechnologie: Predictive-Policing, Criminologia, https://criminologia.de/2014/03/polizeitechnologie-predictive-policing/ gepostet am 14.03.2014

Bundesministerium des Innern, für Bau und Heimat 2018: Projekt zur Gesichtserken-nung erfolgreich, Pressemitteilung vom 11.10.2018, https://www.bmi.bund.de/DE/minister ium/ministerium-node.html, aufgerufen am 28.08.2019

Bundespolizeipräsidium 2018:. Abschlussbericht zum Teilprojekt 1 „Biometrische Gesichtserkennung“ am Bahnhof Berlin Südkreuz, Stand 18.09.2018, https://www.bundespolizei.de/Web/DE/04Aktuelles/01Meldungen/2018/10/181011_abschlussbericht_gesichtserkennung_down.pdf?__blob=publicationFile aufgerufen am 28.08.2019

Europäische Kommission 2017: Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Errichtung eines Rahmens für die Interoperabilität zwischen EU-Informationssystemen (polizeiliche und justizielle Zusammenarbeit, Asyl und Migrati-n) COM(2017) 794 final.

Greis, Friedhelm 2018: Pilotprojekt Südkreuz ausgewertet: Flächendeckende Gesichtserkennung rückt näher, golem, 12.10.2018, https://www.golem.de/news/pilotprojekt-suedkreuz-ausgewertet-flaechendeckende-gesichtserkennung-rueckt-naeher-1810-137080.html, aufgerufen am 28.08.2019

Heitmüller, Ulrike 2017: Predictive-Policing: Die deutsche Polizei zwischen Cyber-CSI und Minority Report, heise.de,. https://www.heise.de/newsticker/meldung/Predictive-Policing-Die-deutsche-Polizei-zwischen-Cyber-CSI-und-Minority-Report-3685873.html aufgerufen am 25.08.2019

Heitmüller, Ulrike 2019: Missing Link: Predictive-Policing – die Kunst, Verbrechen vorherzusagen. Heise.de, https://www.heise.de/newsticker/meldung/Missing-Link-Predictive-Policing-die-Kunst-Verbrechen-vorherzusagen-4425204.html aufgerufen am 25.08.2019

Hunko, Andrej 2014: Wie der Bundesnachrichtendienst und die Bundeswehr das Internet ausspähen wollen. http://andrej-hunko.de/component/content/article/7-beitrag/2152-wie-der-bundesnachrichtendienst-und-die-bundeswehr-das-internet-ausspaehen-wollen aufgerufen am 20.07.2019

Kampagne für Opfer rassistischer Polizeigewalt (KOP) (Hrsg.). Alltäglicher Ausnahmezustand: Institutioneller Rassismus in deutschen Strafverfolgungsbehörden. kritik_praxis. 2016

Krempl, Stefan 2015: Internetüberwachung: Europol will an Daten von Facebook und Twitter. Heise.de, https://www.heise.de/newsticker/meldung/Internetueberwachung-Europol-will-an-Daten-von-Facebook-und-Twitter-2913746.html aufgerufen am 23.08.2019

May, Mary 2018: Next Generation Forensics: Changing the role DNA plays in the justice system. http://sitn.hms.harvard.edu/flash/2018/next-generation-forensics-changing-role-dna-plays-justice-system/ aufgerufen am 23.08.2019

Meister, Andre 2015: Geheimer Geldregen: Verfassungsschutz arbeitet an „Massendatenauswertung von Internetinhalten“. Netzpolitik.org, https://netzpolitik.org/2015/geheimer-geldregen-verfassungsschutz-arbeitet-an-massendatenauswertung-von-internetinhalten/ aufgerufen am 23.08.2019

Monroy, Matthias 2017: Soziale Kontrolle per Software: Zur Kritik an der vorhersagenden Polizeiarbeit. CILIP 113, https://www.cilip.de/2017/10/11/soziale-kontrolle-per-software-zur-kritik-an-der-vorhersagenden-polizeiarbeit/ aufgerufen am 23.08.2019

Monroy, Matthias 2018a: Neues EU-System zur Identifizierung mit Fingerabdrücken freigeschaltet. Cilip, https://www.cilip.de/2018/03/07/neues-eu-system-zur-identifizierung-mit-fingerabdruecken-freigeschaltet/ aufgerufen am 04.08.2019

Monroy, Matthias 2018b: Der europäische Grenzgeheimdienst. Netzpolitik.org, https://netzpolitik.org/2018/der-europaeische-grenzgeheimdienst aufgerufen am 04.08.2019

Monroy, Matthias 2019a: EU legt biometrische Datentöpfe zusammen. Netzpolitik.org, https://netzpolitik.org/2019/eu-legt-biometrische-datentoepfe-zusammen-jetzt-droht-der-abfrage-tsunami/ aufgerufen am 06.02.2019

Monroy, Matthias 2019b: „Crawlen, Überwachen und Sammeln“: EU forscht an Suchma-schine für kriminelle Internetinhalte. Netzpolitik.org, https://netzpolitik.org/2019/crawlen-ueberwachen-und-sammeln-eu-forscht-an-suchmaschine-fuer-kriminelle-internetinhalte/ aufgerufen am 11.02.2019

Monroy, Matthias 2019c: An Land, zu Wasser und in der Luft: EU-Mitgliedstaaten testen Drohnen zur Grenzüberwachung. Netzpolitik.org, https://netzpolitik.org/2019/an-land-zu-wasser-und-in-der-luft-eu-mitgliedstaaten-testen-drohnen-zur-grenzueberwachung aufgerufen am 21.08.2019

Novago, Emilia und Leydenberg, Anton 2019: Die Mär vom genetischen Phantombild: Die „Erweiterten DNA-Analysen“ auf dem Vormarsch. RHZ (2).

Perry, Walter L., McInnis, Brian, Price, Carter C., Smith, Susan C. und Hollywood, John S. 2013: Predictive-Policing – The Role of Crime Forecasting in Law Enforcement Operations, RAND Corporation, https://www.rand.org/pubs/research_reports/RR233.html, aufgerufen am 28.08.2019

Reuter, Markus 2019: Gesichtserkennung: Automatisierter Rassismus gegen uigurische Minderheit in China. Netzpolitik.org, https://netzpolitik.org/2019/gesichtserkennung-automatisierter-rassismus-gegen-uigurische-minderheit-in-china/ aufgerufen am 15.04.2019

Sarbo, Bafta 2019: Racial Profiling in Deutschland: Keine Frage individuellen Fehlverhal-tens. CILIP 118-119, http://www.cilip.de/2019/06/18/racial-profiling-in-deutschland-keine-frage-individuellen-fehlverhaltens/ aufgerufen am 24.08.2019

Singelnstein, Tobias 2019: Big Data bei der Polizei: Hessen sucht mit US-Software nach Gefährdern. In: B. Bartolucci et al (Hrsg.), Grundrechte-Report 2019. S. 27-30.

Schelling, Arkadi 2019: Künstliche Intelligenz als Cloud Service: Folgen für Gesell-schaft, Geheimdienst und Militär. IMI-Analyse 2019/16.
Schultz, Susanne und Bartram, Isabelle 2017: Erweiterte DNA-Analysen: Technische Aufrüstung mit rassistischen Verwicklungen. CILIP 113, https://www.cilip.de/2017/09/08/erweiterte-dna-analysen-technische-aufruestung-mit-rassistischen-verwicklungen/ aufgerufen am 24.08.2019

Anmerkungen

[1]  Dieser psychologische Effekt ist als Automation-Bias bekannt.

[2]  Cloud Services bieten Dienste eines Rechenzentrums über das Internet an, von Festplattenspeicher

[3]  Mit einer App können Bilder gegen eine Datenbank von ehemaligen Gefängnisinsassen abgleichen werden. Mobile und stationäre Überwachungskameras können ebenfalls mit Amazons System verbunden werden (vgl. Schelling 2019).

[4]  Siehe dazu die Pressemitteilung des Bundesministeriums des Innern, für Bau und Heimat vom 11.10.2018 und den Abschlussbericht des Bundespolizeipräsidiums vom September 2018 sowie den Kommentar von Greis 2018.

[5]  Dabei liefert eine ODER-Verknüpfung, bei der ein Treffer vorliegt, wenn nur eins der zwei System das Gesicht erkennt, eine hohe Trefferrate, gleichzeitig aber auch eine hohe Falschakzeptanzrate. Bei einer UND-Verknüpfung, bei der beide Systeme ein Gesicht erkennen müssen, erreicht man die kleinste Falschakzeptanzrate, jedoch auch eine nur ziemlich kleine Trefferquote.

[6]  Der Begriff Gefährder ist neu im Rechtssystem und unklar definiert. Klar ist nur, dass Menschen betroffen sind, denen Polizei oder Geheimdienste zutrauen, dass sie in der Zukunft Straftaten begehen könnten.

[7]  Die Abfragen bei Europol erfolgen ebenfalls über ein neues Protokoll („Querying Europol Systems“, QUEST) (vgl. Monroy 2019a).

[8]  S. https://www.bka.de/DE/UnsereAufgaben/Ermittlungsunterstuetzung/ElektronischeFahndungs Informationssysteme/Polizei2020/EPRIS_ADEP/EPRIS.html

[9]  S. https://www.europol.europa.eu/activities-services/services-support/information-exchange

[10] Synonyme Bezeichnungen für Predictive-Policing sind „Smart Policing“, „Crime Forecasting“ und „Predictive Crime Mapping“. In Deutschland hat sich der Begriff Predictive-Policing durchgesetzt. Wer mehr zu diesem Thema erfahren möchte, ist auf Perry et al. 2013, Armbrost 2014, Monroy 2017, Heitmüller 2017, Heitmüller 2019 und Singelnstein 2019 verwiesen.

[11] S. Projektwebsite: http://www.fp7-caper.eu/.

[12] S. https://cordis.europa.eu/project/rcn/188358/factsheet/en.

[13] S. Projektwebsite: https://www.dhpol.de/departements/departement_II/FG_II.1/projekt-sentinel. php.

[14] S. Projektwebsite: https://www.dhpol.de/departements/departement_III/FG_III.1/projekte/radig z.php.

[15] S. Projektwebsite: https://www.dhpol.de/departements/departement_II/FG_II.5/x_sonar.php.

[16] S. Projektwebsite: https://www.dhpol.de/departements/departement_III/FG_III.1/projekte/prae disiko.php.

[17] S. https://tensor-project.eu/overview/aims-and-objectives.

[18] S. Projektwebsite: http://trivalent-project.eu.

[19] S. Projektwebsite: https://www.prophets-h2020.eu.

[20] S. Projektwebsite: http://redalertproject.eu.

[21] Die Deutsche Hochschule der Polizei (DHPol) untersucht beispielsweise im Rahmen des Projekts
 

Der Beitrag Sicherheitsforschung: informationstechnische Aufrüstung der Polizei erschien zuerst auf Humanistische Union.