Читать книгу: «Unbemannte Systeme und Cyber-Operationen»

1.TECHNOLOGIE – DEFINITIONEN, AKTUELLER STAND, POTENZIALE, RISIKEN UND HERAUSFORDERUNGEN
1.1.Grade der Automation von Systemen: Definitionen

Genügt der Oberbegriff – oder politisch motivierte Kampfbegriff – „autonom“ zur Kategorisierung der Vielfalt an Systemen, die bereits existieren oder für die die begründete Möglichkeit besteht, dass sie einmal entwickelt werden? Nein, differenzierende Definitionen sind unverzichtbare Basis dafür, die vielen schon existierenden ebenso wie in der Zukunft denkbaren Erscheinungsformen maschineller Systeme in einem definitorischen Raster zu erfassen und daraus differenzierende Schlüsse über Optionen und Grenzen militärischer Verwendbarkeit, über ihre Auswirkungen auf Sicherheitspolitik und Konflikte sowie über rechtliche oder ethische Anforderungen zu ziehen. Es braucht einmal eine trennscharfe Unterscheidung nach den technischen Eigenschaften von Systemen, genauer ihrem Grad an Eigenständigkeit und Komplexität ihrer Funktion. Ergänzend muss unterschieden werden nach der Art der Interaktion der Systeme mit dem Menschen.

1.1.1.Wirtschaft und Technologie: Definition „Automatisierung“

Schon technische Definitionen aus dem industriellen Bereich zeigen, dass Differenzierung notwendig ist, um die Vielfalt der technischen Optionen zu erfassen. Der Terminus „autonom“ kommt hier übrigens gar nicht vor. DIN V 19233¹¹ definiert „Automatisierung“ als „Ausrüsten einer Einrichtung, sodass sie ganz oder teilweise ohne Mitwirkung des Menschen bestimmungsgemäß arbeitet“. Damit sind in einer sehr knappen Definition zwei mögliche Arbeitsweisen abgebildet: Aktivität mit Einbindung eines menschlichen Operators und Aktivität ohne einen solchen.

Damit ist jedoch eine Frage noch ausgeblendet, nämlich die Entscheidung, ob ein System überhaupt aktiv wird oder nicht und ob die Aktivität wieder gestoppt werden kann. Die Entscheidung über das Ob einer Aktivität ist im militärischen Bereich die entscheidende – denn es geht um das Ob einer Gewaltanwendung. Dieser Aspekt spielt im militärischen Bereich die entscheidende Rolle und ist für aktuell existierende Systeme und für künftige Entwicklungen ein ganz wesentliches Kriterium.

1.1.2.Militär und Technologie: Definitionen „automatisiert“ und „autonom“

Spezifisch für den militärischen Bereich zugeschnitten ist eine Dualität von aus dem Jahr 2017 stammenden Definitionen, die von den Streitkräften des United Kingdom genutzt werden, um die Besonderheiten unbemannter fliegender Systeme zu beschreiben und dabei auch erkennbar zu machen, was aktuelle Systeme nicht können.¹² Im Folgenden werden sie kurz „UK-Definition“ genannt. Sie differenzieren in zwei Kategorien, deren erste den aus dem industriellen Bereich vertrauten Terminus „automatisiert“ nutzt.

Danach gilt als „automated system“:

„… an automated or automatic system is one that, in response to inputs from one or more sensors, is programmed to logically follow a predefined set of rules in order to provide an outcome. Knowing the set of rules under which it is operating means that its output is predictable.“¹³

Und als „autonomous system“:

„An autonomous system is capable of understanding higher-level intent and direction. From this understanding and its perception of its environment, such a system is able to take appropriate action to bring about a desired state. It is capable of deciding a course of action, from a number of alternatives, without depending on human oversight and control, although these may still be present. Although the overall activity of an autonomous unmanned aircraft will be predictable, individual actions may not be.“¹⁴

Das automatisierte System in diesem Sinne

ist ein programmiertes; seine Arbeitsweise basiert auf Algorithmen oder sonstiger logischer Programmierung, seine Arbeitsweise und deren Ergebnisse sind vorhersagbar. Über das Ob und Was der Aktivität entscheidet der Mensch, das System steuert im Rahmen der Programmierung eigenständig allein das Wie seiner Aktivität. Die Abläufe und Ergebnisse sind vorhersagbar. Hier entscheidet der das System einsetzende Mensch über die Auslösung und das Beenden der Aktivität. Der Programmierer hat das Systemverhalten festgelegt, und das System folgt den einprogrammierten Zwängen.

Das autonome System in diesem Sinne

ist in der Lage, mittels einer vorprogrammierten, ergebnisoffenen Arbeitsweise aus einer eigenständigen Verarbeitung einer Vielfalt von Umgebungsvariablen, Regeln und Zielsetzungen Konsequenzen zu ziehen, über das Ob einer Aktivität zu entscheiden, das genaue aus der erkannten Situation heraus anzustrebende Ergebnis zu definieren und die zu dessen Erreichung notwendige Aktivität mittels eines für den Einzelfall festzulegenden Plans durchzuführen – alles ohne menschlichen Eingriff. Das vom System erzeugte Verhalten im Einzelfall ist nicht mehr vorhersagbar, weil das System aus abstrakten Regeln eigene Schlüsse folgern kann, der Programmierer hat die Grundlagen der Arbeitsweise festgelegt, nicht das Ergebnis.

Damit ist die im militärischen Bereich so wichtige Komponente der Entscheidung über das Ob einer Aktivität, über das Was (das vom System definierte gewünschte Ergebnis) und das Wie (der Weg zum Ergebnis) im Einzelfall in die Definition des autonomen Systems mit einbezogen. Ein derartiges autonomes System führt Entscheidungsprozesse durch, die bisher allein Menschen vorbehalten sind. Die Arbeitsweise eines solchen autonomen Systems ist zwar wie beim automatisierten System technisch definiert, dennoch sind seine Abläufe und Ergebnisse nicht für jeden Einzelfall vorhersagbar.

Warum muss „Entscheidungsfreiheit“ über Ob, Was und Wie Maßstab für die Schwelle zur „Autonomie“ technischer Systeme sein?

Der Ursprung des Begriffs „Autonomie“¹⁵ liegt im antiken Griechenland und beschreibt eine Eigenschaft des Menschen als Zustand der Selbstbestimmung durch Entscheidungs- bzw. Handlungsfreiheit. Dieser Grundgedanke liegt auch der UK-Definition zugrunde, wenn sie die Erkennung und Verarbeitung von „higher level intent“ durch das System voraussetzt. Die nachfolgend in Kapitel 1.2. aufgeführten Systeme und mehr noch die Ausführungen in Kapitel 1.4. über künftig denkbare Systemleistungen werden deutlich machen, dass die Unterscheidung in mindestens zwei wesentliche Kategorien für die Erfassung der vielfältigen existierenden und künftig denkbaren Systeme für das Verständnis der jeweiligen Leistungsfähigkeit der Technologie und die Formulierung differenzierender rechtlicher und ethischer Schlussfolgerungen geboten ist. Die Definitionen müssen eine Abgrenzung autonomer Systeme von automatisierten Systemen zulassen, wenn sie sowohl aktuell als auch über den heutigen Tag hinaus brauchbar sein sollen. Die „Autonomie“ der hier verwendeten Definition bleibt weit hinter dem zurück, was „Skynet“ in dem Science-Fiction-Film „Terminator“ leistet, denn Skynet agiert nicht nur selbstständig als Kampfsystem, es reproduziert seine technischen Einheiten selbstständig und entwickelt Innovationen – Skynet ist eine vollständige politische Einheit, die wie ein von Menschen gebildeter Staatsapparat agiert. Es wird sich zeigen, dass selbst die kühnsten Vorstellungen über künftig realisierbare Systemleistungen unendlich weit entfernt sind von den Horrorvisionen der Populärkultur.

Die UK-Definition bietet gerade wegen des hohen Anspruchs an die Schwelle zur Autonomie Aussicht auf langfristige Validität. Man kann zum praktischen Gebrauch etwas knapper formulieren:

Definition „automatisiert“:

System beherrscht Durchführung von programmierten Abläufen und realisiert bzw. konkretisiert vorprogrammierte Absichten im Einzelfall. Der Mensch als Operator entscheidet immer noch darüber, ob ein System überhaupt aktiviert wird und mit welchem Ziel.

Definition „autonom“:

System trifft Entscheidung über das Ob einer konkreten Aktivität unter Einbeziehung von allgemeinen Zielsetzungen, Umgebungsvariablen, Kontext und Regeln, definiert das zu erstrebende Ergebnis (Was) und den Weg dorthin (Wie) im Einzelfall und steuert die Durchführung der Mission. Alle Schritte erfolgen ohne Eingriff eines Menschen.

Es verbleibt indes ein kritikwürdiger Aspekt in der UK-Definition für das autonome System. Autonomie bedeutet begrifflich Entscheidungs- und Handlungsfreiheit – und damit Freiheit von Eingriff und Korrektur von außen. In der UK-Definition ist zumindest optional noch eine Kontrolle durch den Menschen vorgesehen, mithin ein Eingreifen in die Systemhandlung: „without depending on human oversight and control, although these may still be present“. Ein System, in dessen Arbeit der Mensch eingreifen kann, und sei es auch nur korrigierend während des Arbeitsablaufs, ist aber letztlich nicht frei im Hinblick auf seine Entscheidungen und Handlungen. An der Stelle bedarf es einer Nachbesserung der Definition (siehe Kapitel 1.1.5.). Weitere bereits existierende Kategorien für die Unterscheidung von Arbeitsweisen von Systemen könnten dabei hilfreich sein.

1.1.3.Seefahrt und Technologie: Vier Stufen der „Autonomie“ nach IMO

Die International Maritime Organization (IMO) hat im Hinblick auf erste projektierte und bereits fahrende unbemannte Seefahrzeuge vier Stufen der Autonomie identifiziert und bietet damit mehr Unterscheidungsoptionen an.

„The degrees of autonomy identified for the purpose of the scoping exercise are:

•Degree one: Ship with automated processes and decision support: Seafarers are on board to operate and control shipboard systems and functions. Some operations may be automated and at times be unsupervised but with seafarers on board ready to take control.

•Degree two: Remotely controlled ship with seafarers on board: The ship is controlled and operated from another location. Seafarers are available on board to take control and to operate the shipboard systems and functions.

•Degree three: Remotely controlled ship without seafarers on board: The ship is controlled and operated from another location. There are no seafarers on board.

•Degree four: Fully autonomous ship: The operating system of the ship is able to make decisions and determine actions by itself.“¹⁶

Immerhin bietet die IMO vier Stufen zur Differenzierung an, was für den militärischen Bereich nutzbringend zur Differenzierung bei der Betrachtung praktischer, rechtlicher und ethischer Fragen sein könnte. Ihnen ist jedoch die gleiche Schwäche zu eigen wie die der Industriedefinition in Kapitel 1.1.1., nämlich die fehlende Differenzierung danach, ob das System oder ein Mensch entscheidet, ob das System überhaupt aktiv wird oder nicht und ob die Aktivität wieder gestoppt wird – unausgesprochen liegt den vier Graden ein Faktum zugrunde, nämlich die Tatsache, dass jede Tätigkeit maritimer Systeme stets durch Menschen ausgelöst wird. Damit wäre die für den militärischen Bereich entscheidende Differenzierung nach den IMO-Definitionen nicht möglich.

Für den militärischen Bereich sind die vier Grade indes auch nicht gemacht, sie dienen speziell der Differenzierung in der zivilen Seefahrt. Allerdings erfassen die vier Grade nicht alle in der zivilen Seefahrt aktuell existierenden und künftig denkbaren Varianten, wie die nachfolgenden zwei Überlegungen zeigen.

Die vier Grade der „Autonomie“ der IMO beschreiben Systeme, die ganz überwiegend klar unter den Oberbegriff der „Automatisierung“ fallen. Erst ein theoretisch in der Zukunft denkbares mit künstlicher Intelligenz arbeitendes System, das unter Grad vier der IMO fällt und sich selbstständig aktivieren kann, etwa eine Seenotrettungseinheit, wäre als autonom zu beschreiben. Im Grad vier müsste entsprechend differenziert werden und ein Grad fünf wäre einzuführen wie folgt:

•Modified Degree four – partly autonomous ship: The operating system of the ship is able to make decisions and determine actions by itself.

•New Degree five – fully autonomous ship: The operating system of the ship is able to decide when to plan, begin and stop activity and make decisions and determine actions within activity by itself. Human intervention is excluded.

Ein konkreter Fall zeigt weiterhin, dass die vier Ebenen zur Unterscheidung der Automatisierungs- oder Autonomiegrade für zivile maritime Systeme nicht ausreichen: die Havarie des Kreuzfahrtschiffes Viking Sky durch Abschalten der Treibstoffzufuhr im März 2019.¹⁷ Viking Sky könnte man fast als ein Beispiel für den Grad eins der obigen Differenzierung der IMO ansehen, ein Teilsystem des bemannten Schiffes arbeitet automatisch, doch war dieser Teil der Automatisierung der schiffstechnischen Abläufe nicht dafür eingerichtet, dass die Besatzung des Schiffes die Kontrolle übernimmt. In der konkreten Situation hatte das die fatale Folge, dass bei starkem Seegang in Küstennähe die Treibstoffzufuhr zu den Hauptmaschinen irreversibel abgeschaltet wurde. Es müsste zur Beschreibung des Treibstoffsystems der Viking Sky ein neuer Grad zwei eingeschoben werden, der ein bemanntes Seefahrzeug beschreibt, das über ein Teilsystem verfügt, das von der Besatzung in keiner denkbaren Situation beeinflusst werden kann.

New Degree two – ship with automated processes and decision support: Seafarers are on board to operate and control shipboard systems and functions. Some operations are automated and unsupervised with no option to seafarers on board to take control.

Am vernünftigsten wäre es aber, erstens eine IMO-Regel zu schaffen, die die Zulassung solcher nicht beeinflussbaren Systeme ausschließt, und zweitens solche gänzlich unbeeinflussbaren Systeme nicht mehr in Seefahrzeuge einzubauen.

1.1.4.Mensch und Technologie: Stufen der Interaktion von Mensch und System

Ausgegangen wird von der Grundform des militärischen Zirkels aus Beobachten, Einordnen ins Lagebild, Entscheiden über nächste Aktion, Aktion durchführen, wieder Beobachten usw., der sogenannte Boydsche „OODA-Loop“.¹⁸ Am vereinfachten abstrakten Beispiel: Der Soldat beobachtet das Gefechtsfeld und sichtet ein gegnerisches Ziel (Observe), ordnet dieses ins Lagebild ein (Orient), entscheidet darüber, ob und wie es bekämpft wird (Decide), bekämpft das Ziel (Act) und beginnt den Kreislauf erneut mit der Beobachtung der Wirkung seiner Aktion.

Die Interaktion des Menschen mit Systemen, wie sie in den vorhergehenden Unterkapiteln definiert sind, können in drei wesentliche Kategorien eingeteilt werden.¹⁹ Mit den drei Stufen werden zugleich Grade der Interaktion des Menschen und der Eigenständigkeit der Operationen von automatisierten und autonomen Systemen beschrieben.

Wenn der Mensch in den Entscheidungskreislauf des Systems so eingebunden ist, dass an einem bestimmten Punkt – etwa Einordnung der Beobachtungsergebnisse ins Lagebild oder Entscheidung über das weitere Vorgehen – ohne aktiv mitwirkende Handlung des Menschen oder mindestens Freigabe durch den Menschen keine Fortsetzung der Systemarbeit erfolgt, spricht man vom „Man in the Loop“. Das Minimum der Mitwirkung des Menschen ist die Auslösung der weiteren Arbeit des Systems per Knopfdruck, also die Entscheidung über die Frage, ob das System für eine Aktion aktiviert wird. Weitergehende Beteiligung des Menschen ist denkbar, so kann der Prozess des Einordnens ins Lagebild (Orient) mehr oder weniger manuell oder automatisiert stattfinden. Die Rolle des „Man in the Loop“ ist skalierbar.

Vom „Man on the Loop“ spricht man, wenn der Mensch das System überwacht und jederzeit eingreifen kann. Der Entscheidungskreislauf des Systems läuft grundsätzlich eigenständig ohne Mitwirkung des Menschen ab und befindet sich lediglich unter Beobachtung. Die Optionen des Eingreifens sind je nach Systemart und Erfordernis dann auch wieder skalierbar von der Option des Fernsteuerns bis hin zum Knopfdruck, um die Arbeit des Systems zu stoppen.

Unter Vorliegen von zwei Bedingungen spricht man vom „Man out of the Loop“. Erstens läuft der Entscheidungskreislauf des Systems eigenständig ab, und der Mensch verzichtet freiwillig auf Überwachung, oder es fehlt technisch bedingt oder wegen physikalischer Limitierungen oder praktischer Umstände die Option zum Eingreifen.

1.1.5.Conclusio: Neue Definition von „autonomen Systemen“

Die Aussicht auf bestmögliche Trennschärfe zur Abgrenzung bietet die UK-Definition aus Kapitel 1.1.2., die zwischen „automatisiert“ und „autonom“ unterscheidet.

Definition „automatisiert“:

System beherrscht technische Durchführung von programmierten Abläufen und realisiert bzw. konkretisiert vorprogrammierte Absichten im Einzelfall. Der Mensch als Operator entscheidet immer noch darüber, ob ein System überhaupt aktiviert wird und mit welchem Ziel.

Definition „autonom“:

System trifft Entscheidung über das Ob einer konkreten Aktivität unter Einbeziehung von allgemeinen Zielsetzungen, Umgebungsvariablen, Kontext und Regeln, definiert das zu erstrebende Ergebnis (Was) und den Weg dorthin (Wie) im Einzelfall und steuert die Durchführung der Mission. Alle Schritte erfolgen ohne Eingriff eines Menschen.

Im Kapitel 1.1.2. ist diskutiert worden, dass die Option der Kontrolle durch den Menschen ein wesentlicher Aspekt ist für die Entscheidung darüber, ob ein System als „autonom“ angesehen werden kann. Die Diskussion hat gezeigt, dass die Schwelle zum Zugestehen der Eigenschaft der Autonomie höher angesetzt werden muss als von der UK-Definition. Es bedarf noch einer weiteren Voraussetzung zur vollständigen Autonomie, nämlich der Exklusion des Menschen aus der Systemtätigkeit. Die Formen der Interaktion in Kapitel 1.1.4. offerieren den argumentativen Lösungsweg dazu. In der UK-Definition kann der Mensch optional „on the Loop“ sein und gegebenenfalls noch eingreifen. Erst wenn der Mensch während der Systemtätigkeit „out of the Loop“ ist, besteht indes echte vollständige Autonomie des Systems.

Daher kann ein System nur dann als „autonom“ bezeichnet werden,

•wenn das System „Higher Level Intent and Direction“ verarbeitet

und

•wenn es eigenständig eine selbstgeplante Handlung beginnt und beendet

und

•wenn der Mensch während des gesamten Ablaufs der Aktion des Systems „out of the Loop“ ist und keine Möglichkeit zum Eingreifen hat.

Die Beteiligung des Menschen an der Tätigkeit eines derart autonomen Systems endet mit dem Abschluss von dessen Herstellung, der allgemeinen Programmierung und der allgemeinen grundsätzlichen Freigabe seiner Aktivität. Die Autonomie drückt sich aus in der Freiheit des Systems zu Entscheidung und Handlung und im nicht vorhersagbaren konkreten Ergebnis.

1.2.Aktuelle Beispiele für unbemannte und weitere digitalisierte Systeme und deren Einordnung in das Raster der Definitionen

Sind die Definitionen aus Kapitel 1.1.1. bis 1.1.5. geeignet, historische, aktuelle und künftig denkbare Systeme hinreichend trennscharf in ein Raster einzuordnen?

Unter den nachfolgenden 16 Beispielen finden sich auch zwei Führungs- und Waffeneinsatzsysteme, die in bemannte Gesamtsysteme eingefügt sind, zudem einige virtuelle Systeme wie Stuxnet. An ihnen werden in den nachfolgenden Unterkapiteln die Arbeitsweisen digitalisierter Systeme und die besonderen Probleme erläutert, die im Rahmen der Interaktion von Mensch und Maschine auftreten können.

1.2.1.Sechzehn Beispiele für unbemannte und virtuelle Systeme sowie Führungs- und Waffeneinsatzsysteme

Nachfolgend einige Vergleichsobjekte, nicht nur militärische:

1.ZAUNKÖNIG, Torpedo der Kriegsmarine, ab September 1943 im Einsatz:²⁰ weltweit erster akustisch zielsuchender Torpedo, eingesetzt von U-Booten.

•Er folgte dem lautesten von seinen Mikrofonen wahrgenommenen Schraubengeräusch bis zum Aufschlag oder Auslösung des Magnetzünders, es brauchte kein präzises Zielen mit der U-Boot-Zieloptik und keine Vorhaltberechnung.

•War der Zaunkönig einmal in Bewegung gesetzt, war kein Rückholen und kein Stoppen der Mission möglich, deshalb gingen im Rahmen der ersten Verwendungen auch zwei deutsche U-Boote verloren, weil der Torpedo das U-Boot als nahe und lauteste Geräuschquelle wahrnahm.

•Die alliierten Seestreitkräfte verwendeten, nachdem man das Zielsuchprinzip dieses Torpedos durchschaut hatte, Geräuschbojen am Schlepptau und konnten die Waffe damit weitgehend neutralisieren.

•Das „Gehör“ des Nachfolgemodells „Geier“ war deutlich präziser und ließ sich durch die Geräuschbojen nicht mehr täuschen, die Produktion war jedoch deutlich komplizierter, und die produzierte Anzahl war zu gering, um nachhaltig Wirkung zu erzeugen.

2.AGM-158C LRASM (Long Range Anti Ship Missile) unterschallschneller Seezielflugkörper:²¹ konzipiert für die Verwendung gegen schwimmende Einheiten auf größere Entfernungen.

•Initial erfolgt die Zuweisung eines Operationsgebietes, in dem gegnerische Überwassereinheiten detektiert worden sind. Nach dem Start besteht ein Datenlink, die Navigation erfolgt mit GPS. Wenn Datenlink und GPS gestört sind, kann die Waffe den bis zum Ausfall einprogrammierten Daten in das vorher vom Operateur spezifizierte Zielgebiet folgen und in einem vorher festgelegten Areal einen vorher festgelegten Suchkurs fliegen, um dann aus den dort mit den bordeigenen Sensoren gefundenen Kontakten das Zielobjekt oder eines der vorher zugewiesenen Zielobjekte auszuwählen – in dieser Situation ist die einzelne LRASM auf sich gestellt und kann nicht mehr per Datenlink dirigiert oder gestoppt werden.

•Das System ist u.a. die Antwort auf vergrößerte Reichweiten von Waffensystemen potenzieller Gegner zur Seezielbekämpfung und auf erweiterte Möglichkeiten der elektronischen Kampfführung (EloKa).

•Als konsequente Weiterentwicklung des aus den 70er-Jahren stammenden „Harpoon“ und Nachfolge der seit den 90er-Jahren gebräuchlichen „Tomahawk“ befindet sich diese neue Generation weitreichender Seezielflugkörper seit 2009 in Entwicklung und seit 2018 im Dienst der US Navy. Sie wird von Überwasserschiffen und vom Langstreckenbomber B-1B eingesetzt und hat 2019 die „early operational capability“ auch mit der F/A-18 als einsetzende Plattform erreicht.

3.PATRIOT (MIM-104) Missile Long-Range Air-Defence System, Flugabwehrsystem:²² Konzipiert primär für die Abwehr ballistischer Flugkörper, kann das System auch Flugzeuge bekämpfen und zum Eigenschutz Flugkörper, die gegen das Flugabwehrsystem eingesetzt werden.

•Seit 1976 führt das System den Namen „Patriot“, die Entwicklungen begannen schon 1969 und hatten als Zwischenstufe die SAM-D (Surface-to-Air Missile – Development).

•Bei den US-Streitkräften seit 1984 im Einsatz, wurde es während des Ersten Irakkriegs 1990 erstmals in einem größeren Konflikt eingesetzt, um Israel und die an der Operation „Desert Storm“ beteiligten Streitkräfte zu schützen. Im Zweiten Irakkrieg kam bereits eine deutlich modernisierte Variante zum Einsatz mit gegenüber 1990 erheblich verbesserten Abschussquoten.

•Das System besteht aus mobilen Komponenten mit Radaranlage, Leitsystem, Kommunikation und Starterbatterie mit jeweils vier Geschossen der Generation PAC-2 oder 16 Geschossen der deutlich kompakteren Generation PAC-3 auf einem Lkw. Das System dient aufgrund der maximalen Reichweite von 70 Kilometern bei einer maximalen Einsatzhöhe von 24 Kilometern dem Schutz von regional begrenzten Gebieten.

•Die Reaktionszeiten bei der Abwehr von Flugkörpern oder Flugzeugen sind kurz, daher gibt es für die das System bedienenden Soldaten zwei Modi: Einmal ist der Operator eingebunden, um nach der automatischen Zielauswahl die Auslösung der einzelnen einzusetzenden Waffe zu autorisieren, im vollautomatischen Modus ist der Operator nur Beobachter, er kann jedoch jederzeit eingreifen. Aus der Kürze der Reaktionszeiten und dem Zusammenspiel von Mensch und System folgten im Zweiten Golfkrieg 2003 wesentliche Schwächen und Fehlleistungen, die in Kapitel 1.2. behandelt werden.

4.HARPY:²³ Anti-Radiation Loitering Munition²⁴ System, konzipiert zur Bekämpfung von bodengestützten Luftabwehrradarsystemen.

•Harpy wurde der Öffentlichkeit erstmals 1990 vorgestellt. Sie kann von auf Lkws montierten Starteinrichtungen an Land oder von Schiffen aus eingesetzt werden. Von einem Lkw können bis zu zwölf Drohnen gestartet werden. Die Drohne ist ein preiswertes „Expendable“ mit großer taktischer Wirkung.

•Harpy fliegt für bis zu neun Stunden ein vorher programmiertes Gebiet ab und hält dabei eine Flughöhe von bis zu 4.500 Metern. Die Drohne bekommt kein konkretes Ziel zugewiesen, sondern stürzt sich eigenständig auf das erste von ihr im Zielgebiet detektierte strahlende Luftabwehrradar und zerstört dieses. So kann schon durch eine Drohne für mehrere Stunden Dauer in einem begrenzten Gebiet die Unterdrückung gegnerischer Luftabwehrradaranlagen oder die Ausschaltung einer solchen Anlage gewährleistet werden. Harpy kann einen Angriff eigenständig kurzfristig abbrechen, wenn die attackierte Radaranlage während des Angriffsvorgangs ihre Strahlung einstellt.

•Harpy ist mittlerweile Teil einer Familie von „Loitering Munition Systems“. Weitere Produkte desselben Herstellers sind Harop,²⁵ eine taktische Drohne, die bis zu sechs Stunden in einem Zielgebiet kreuzen kann, und die deutlich kleinere Mini Harpy,²⁶ die dies bis zu zwei Stunden schafft. Beiden können im Datenverbund beliebige Bodenziele zugewiesen werden, sie verfügen über eigene Sensoren zur Detektion und zum präzisen Anflug, den sie wie Harpy je nach Lage auch abbrechen können.

5.MQ-9:²⁷ Aufklärungs- und Kampfdrohne zur Bekämpfung von Bodenzielen mit großer Reichweite, wird ferngesteuert und kann automatisiert starten und landen sowie vorprogrammierte militärische Aufträge automatisiert durchführen unter Beobachtung durch das fernsteuernde Personal.

•MQ-9 ist seit 2007 bei den US-Streitkräften im Einsatz. Es hat die Größe eines kleineren Flugzeugs. In der gebräuchlichsten Version hat es mit seinem einzelnen Turboprop eine Reisegeschwindigkeit von etwa 200 Knoten, die Ausdauer kann mit zusätzlichem Treibstoff auf rund 30 Stunden ausgedehnt werden. Das Fluggerät erreicht bis zu 15.000 Meter Flughöhe und trägt in der Summe Nutzlasten bis zu 1.700 Kilogramm.

•Das System kann modular je nach Auftrag mit Sensoren und Effektoren ausgestattet werden, eine auf das maritime Umfeld spezialisierte Variante ist als MQ-9 Sea Guardian in Gebrauch.

•Die Basen der US-Streitkräfte mit den Einrichtungen und dem Personal zur globalen Fernsteuerung der Flüge befinden sich in den Bundesstaaten Missouri, Nevada, South Carolina und South Dakota.

•Das System hat sich seit seiner Einführung durchgängig in Einsätzen bewährt, bei denen keine gegnerischen Abwehrfähigkeiten vorhanden sind. Daher sucht das Department of Defense (DoD) künftig wahrscheinlich nach zwei Nachfolgemodellen: einmal ein preiswertes einfaches System auf Basis ziviler Technik und ein neu zu entwickelndes, unbemanntes System, das befähigt werden soll, im Konflikt mit hochgerüsteten Gegnern zu bestehen.²⁸

6.BLACK HORNET PRS:²⁹

•Das Kontrastprogramm zu großen Drohnen sind Nanosysteme, die als „Personal Reconnaissance System“ des Infanteristen Verwendung finden.

•Mit seinen 17 Zentimetern Länge bei 33 Gramm Gewicht bleibt es 25 Minuten in der Luft und kann auch Innenräume aufklären.

7.Unbemannte Helikopter:

•Airbus VSR700:³⁰ Mit 700 Kilogramm Gesamtgewicht, 150 Kilogramm Zuladung und 10+ Stunden Flugdauer der ideale unbemannte „leichte Bordhubschrauber“ für Fregatten mit den Optionen Aufklärung und Wirkung.³¹

•Skeldar V-200:³² die kleinere Variante mit 235 Kilogramm Gesamtgewicht und 5+ Stunden Flugdauer, geeignet z.B. für Korvetten.

8.FUTURE COMBAT AIR SYSTEM (FCAS):³³ Deutschland, Frankreich und Spanien wollen bis Ende 2021 eine erste Technologiedemonstration für eine Kombination aus einem Kampfflugzeug als Nachfolger des Eurofighter und Drohnen, die als „Wingfighter“ des Kampfflugzeugs einen Fähigkeitsverbund für Aufklärung, Führung und Wirkung herstellen sollen. Das System soll ab etwa 2040 von den Streitkräften genutzt werden können.

9.AEGIS COMBAT SYSTEM:³⁴ integriertes Waffeneinsatzsystem für schwimmende Einheiten.

•Die Entwicklung des Konzepts begann bereits 1964. Am Anfang stand die Notwendigkeit, ein System aus Sensoren, Rechnern und Effektoren zu entwickeln, das gegnerische Seezielflugkörper abwehren konnte. Das erste Testsystem wurde 1973 auf der USS Norton Sound installiert.

•Über die Jahrzehnte entstand ein integriertes taktisches System, das Überwassereinheiten zur Bekämpfung aller bekannten Bedrohungen befähigt. Seit 2004 wird ergänzend auf einigen Einheiten der US Navy das Aegis Ballistic Missile Defence System eingeführt, es dient der Abwehr ballistischer Flugkörper (Kurz- und Mittelstreckenwaffen).

•Mittlerweile ist das System auf Dutzenden Überwassereinheiten der US Navy und verbündeter Seestreitkräfte installiert und umfasst als integriertes Waffeneinsatzsystem den kompletten Prozess von der Detektion bis zum Waffeneinsatz gegen jede Art von Ziel in allen drei Dimensionen. Es kann mehr als 100 Ziele gleichzeitig verfolgen und im Rahmen des vorhandenen Arsenals an Effektoren bekämpfen.

•Das System ermöglicht den manuellen Betrieb ebenso wie die Autorisierung jedes einzelnen Waffeneinsatzes durch den Operator, kann aber auch im vollautomatischen Modus den gesamten Prozess ohne Mitwirkung, aber unter Beobachtung des Operators durchführen, etwa wenn die Menge der Ziele den Menschen wegen seiner begrenzten Reaktionszeiten überfordert.

10.PROTECTOR³⁵, SEAGULL³⁶ und andere USVs (Unmanned Surface Vehicles): unbemannte Kampfboote zur Überwachung von Küstengewässern, Häfen, Reeden und Flüssen.

•Historische Vorläufer sind bemannte Wachboote, die früher zur Sicherung von Häfen, Reeden und Flüssen eingesetzt wurden. Nach dem Anschlag auf der USS Cole im Hafen von Aden im Jahr 2000 begann vielerorts die Entwicklung von kleinen, ferngesteuerten Kampfbooten.

•Die Systeme werden von Land oder von Schiffen aus ferngesteuert, operieren nach Bedarf auch eigenständig und können je nach Ausstattung Überwasserziele, fliegende Objekte, Minen oder U-Boote bekämpfen.

•Ausführung als Festrumpfboot oder Festrumpfschlauchboot (RHIB, Rigid-Hull-inflatable-Boat).

•Die Boote sind neun bis zwölf Meter lang und können alternativ mit verschiedenen Effektoren ausgestattet werden: Maschinengewehr, Maschinenkanone, Minenjagddrohne, ASW-Torpedo usw.

•Den Einsatz kann man sich singulär, aber auch als „Wingman“ für bemannte Boote vorstellen, etwa zur Absicherung von Spezialkräften in amphibischen Operationen. Einen Teil der Ausstattung der neuen deutschen Fregatten des Typs F125 mit Kampfbooten könnten künftig auch solche USVs bilden, die zum Schutz der bemannten Boote eingesetzt werden könnten.

11.SEA HUNTER, Anti-Submarine Warfare Continuous Trail Unmanned Vessel (ASW ACTUV):³⁷ unbemanntes U-Jagd-Schiff.

•Derzeit wohl die weltweit größte Drohne, hat der etwa 40 Meter lange hochseefähige Trimaran eine Wasserverdrängung von nur rund 140 Tonnen, eine Reichweite von rund 10.000 nautische Meilen (NM), soll bis zu 90 Tage auf See bleiben können und kann bei Bedarf bis zu 31 Knoten schnell sein – schneller als moderne konventionelle U-Boote.

•Das System wird ferngesteuert von Land oder von bemannten schwimmenden Einheiten und soll befähigt werden zu begrenzt eigenständigen Operationen ohne Steuerung durch einen Operator.

•Sea Hunter soll bei der Aufklärung und Jagd von U-Booten eine Fähigkeitslücke zwischen Flugzeugen und Hubschraubern einerseits und bemannten zur U-Jagd ausgerüsteten Überwassereinheiten und U-Booten andererseits schließen und kontert damit die längere Tauchausdauer moderner U-Boote mit außenluftunabhängigem Antrieb. Er kann länger „dranbleiben“ als fliegende U-Boot-Jäger und ist im Konflikt anders als bemannte schwimmende oder tauchende Einheiten als „Expendable“ zu betrachten, weil die Betriebskosten nur den Bruchteil der Kosten für eine U-Jagd-Fregatte betragen und im Einsatz die eigenen Soldaten kein Risiko eingehen.

•Daneben ist Sea Hunter auch zur Minenbekämpfung vorgesehen.

•Das System ist weltweit das erste erfolgreiche Experiment mit hochseegehenden Kampfschiffen für große Seeausdauer – es stößt die Tür auf zu einem tiefgreifenden Wandlungsprozess nicht nur der US Navy, die in ihrer Streitkräfteplanung mit unbemannten Fahrzeugen ihr Ziel von 355 Einheiten deutlich leichter realisieren kann als mit bemannten Schiffen.³⁸

•Unbemannte Schiffe in variablen Größen und mit modularer Ausrüstung für alle denkbaren Einsatzzwecke werden künftig einen erheblichen Anteil an der Gesamtstärke von Seestreitkräften haben.

•Zivile Varianten an zwei Beispielen: Projekte von Kongsberg Marine für Fähren, Frachtschiffe, Feeder und Vermessungseinheiten und ein unbemanntes Offshore Support Vessel³⁹ und das Mayflower Autonomous Ship von Promare und IBM,⁴⁰ das im September 2020 zur Feier des 400. Jahrestags der Atlantiküberquerung der Mayflower ohne Besatzung den Atlantik queren soll.

12.UUV (Unmanned Underwater Vehicle) mit großer Seeausdauer:

•Die Marine der VR China soll in den 2020er-Jahren erste große unbemannte U-Boote mit langer dem Sea Hunter vergleichbarer Seeausdauer erhalten.⁴¹

•Sie sollen eigenständig im ozeanischen Maßstab operieren können und verschiedene Aufgaben wie Bekämpfung von U-Booten und Überwassereinheiten wahrnehmen, Entscheidungen von gewisser Tragweite, etwa über Angriffe, sollen jedoch bei Soldaten verbleiben.⁴²

•Boeing entwickelt ebenfalls autonome UUVs, 2017 war die Echo Voyager mit ihren rund 7.500 Seemeilen Reichweite in einem Test drei Monate unterwegs; die US Navy bestellte 2019 vom Nachfolgemodell Orca fünf Exemplare.⁴³

•Russland arbeitet an einem autonom operierenden Torpedo unter dem Namen „Poseidon“, Antrieb und Sprengkopf nuklear, operative Reichweite rund 6.200 nautische Meilen, Spitzengeschwindigkeit 60 bis 90 Knoten, der die Vorwarnzeiten für nukleare Attacken auf nahe null verringern könnte.⁴⁴ Eingesetzt werden soll diese recht große Waffe von dem rund 30.000 Tonnen großen U-Boot Belgorod⁴⁵ und später von der 2020 in Bau befindlichen Chabarowsk.⁴⁶ Poseidon kann aufgrund seines nuklearen Antriebs auch die Option monatelangen Lauerns nach Absetzen vom Mutterschiff bieten und wie Harpy als Loitering Munition eingesetzt werden – die Entscheidung über die Auslösung wird aber wohl eher nicht die die Steuerelektronik der Waffe eigenständig treffen. Die großen U-Boote und die Waffe dürften allerdings zumindest bei hohem Tempo gut detektierbar sein.

13.UGV (Unmanned Ground Vehicles):⁴⁷ Kettenfahrzeuge verschiedener Größe, ausgestattet z.B. mit Maschinenkanone, Maschinengewehr und/oder Panzerabwehrgranatwerfer bzw. Panzerabwehrflugkörper, hier an russischen Beispielen.

•PLATFORM-M: Das nicht einmal mannshohe Kleinfahrzeug wurde erstmals 2014 öffentlich vorgestellt. Es ist konzipiert für die Bewachung militärischer Anlagen, für die Aufklärung unter erhöhtem Risiko und für den Kampf auf geringe Entfernung, insbesondere im urbanen Umfeld. Seine Standardbewaffnung sind Maschinengewehr und Granatwerfer.

•URP-01G: Das Kettenfahrzeug wiegt rund sieben Tonnen bei etwa 3,5 Meter Länge und zwei Meter Breite und gehört damit in die Kategorie der kleineren gepanzerten Gefechtsfahrzeuge. Es ist ausrüstbar mit Maschinenkanone, Maschinengewehr und optional Raketenwerfer.

•Beide werden im Grundsatz ferngesteuert durch einen Operator und sind befähigt zur automatischen Erkennung und Bekämpfung von Zielen.

•Im Saldo sind beide simple und preiswerte Kampfmittel, die ihrer Größe angemessen Schlagkraft, Tempo und Schutz vereinen und dazu noch den Vorteil bieten, beim Schutz von Anlagen gegen Terrorattacken oder im militärischen Konflikt „ganz vorne“ am Gegner Verluste unter den eigenen Soldaten zu vermeiden.

•T-14: Russland plant, schon bald eine Drohnenversion seines Kampfpanzers T-14 in die Streitkräfte zu bringen, die ferngesteuert und eigenständig auf dem Kampffeld agieren können soll.

•Russland hat verkündet, dass schon bis 2025 „30 % aller militärischen Systeme“ automatisiert sein sollen.⁴⁸

14.STUXNET:⁴⁹ die erste global bekannt gewordene rein virtuelle Waffe, deren reale Zerstörungskraft ganz ohne eigene Hardware auskam.

•Der wahrscheinlich 2007 begonnene Einsatz von mehreren Varianten der Schadsoftware zerstörte in mehreren Wellen zwischen 2008 und 2010 einige der Tausende von Zentrifugen, die im Iran zur Anreicherung von Uran betrieben wurden.

•Stuxnet wurde per USB-Datenträger in die nicht ans Internet angeschlossenen EDV-Steuerungssysteme der iranischen Urananreicherungsanlagen in Natanz eingeschleust. Nicht per Spion, sondern wohl unwillentlich durch Datenübertragungen von Iranern, die ihre Datenträger vorher auch mit Geräten mit Internetzugang verbunden hatten. Über das Internet erfolgte vorher die Infiltrierung von Computern diverser Unternehmen, die geschäftlichen Kontakt zum Iran hatten. Im Fokus späterer Recherchen zur Aufklärung der Vorgänge stand u.a. das iranische Unternehmen Behpajooh mit Sitz in Isfahan in der Nähe der Urananreicherungsanlagen. Das Unternehmen warb auf seiner Website damit, dass es Siemens S7-400 PLCs und Step7 sowie WinCC Software in Kundenanlagen installiert hatte. Da dies genau die Technologie war, die in Natanz in Kombination wohl mit Zentrifugen aus Pakistan benutzt wurde, war Behpajooh wohl das wesentliche Einfallstor.

•Stuxnet hat seine Angriffsfunktion allein gegen eine bestimmte Version einer Software zur Steuerung der Zentrifugen in Natanz ausgeführt, die in der iranischen Anlage Verwendung fand. Es gelang der Software dabei, die Steuerung der Zentrifugen so zu manipulieren, dass diese durch Veränderungen der Rotordrehzahlen beschädigt werden, während dem Überwachungspersonal auf den Bildschirmen normaler Betrieb angezeigt wurde.

•Wenn Stuxnet einmal auf vom Internet getrennte Rechner gelangt war, konnte es von seinen Erfindern nicht mehr zurückgeholt werden, hatte aber eine Begrenzung seiner Wirkmöglichkeiten auf bestimmte Software und von dieser gesteuerten Hardware zur Urananreicherung. Und Stuxnet hatte ein programmiertes „Verfallsdatum“ für die endgültige eigenständige Deaktivierung.

•Stuxnet war nur das prominenteste Beispiel für virtuelle Angriffe, schon vorher gab es die bekannten Attacken etwa auf die Netzwerke von Banken und Telefonnetzbetreibern in Estland,⁵⁰ später und bis heute Angriffe auf Stromversorger.⁵¹

15.MAYHEM:⁵² Software zur Entdeckung von Sicherheitslücken in der Software des eigenen Rechners und fremder Rechner.

•Die Software konnte 2018 in einem Wettbewerb sechs andere konkurrierende Produkte in der Fähigkeit übertreffen, Sicherheitslücken in der Software auf dem eigenen Rechner und auf fremden Rechnern zu erkennen und wahlweise zu schließen bzw. zu verkleinern oder für Angriffe auf fremde Rechner auszunutzen.

•Die Software braucht keine fertigen Muster für bekannte Sicherheitslücken, sondern entdeckt neue Muster und findet eigenständig Lösungen. Sie agiert ohne aktives Eingreifen der Operateure in einer Geschwindigkeit, die für ein Team von IT-Sicherheitsexperten schlicht unmöglich ist. Sie nutzt dafür aktuell verfügbare Varianten der schon lange bewährten Methode des „Fuzzing“ zur Softwareanalyse⁵³ in Kombination mit der Fähigkeit, aus den einmal entdeckten Sicherheitslücken eigenständig weiter zu lernen.

•„Fuzzing“ ist schon seit Langem bewährt, es bereitet das gezielte manuelle Testen von Software vor durch ein fortlaufendes automatisches Konfrontieren mit Zufallsdaten, um Fehlleistungen und Abstürze zu provozieren und mögliche Sicherheitslücken deutlich schneller als in normalen Programmtestläufen aufzudecken. Der Einsatz von Software für das „Fuzzing“ ist schon lange unverzichtbar, um vernetzte Systeme gegen Angriffe sicherer zu machen. Mayhem eröffnet eine neue Dimension des Testens dadurch, dass es laufend dazulernt und das Stopfen oder Ausnutzen von Sicherheitslücken selbst übernimmt – also den IT-Sicherheitsexperten die „Handarbeit“ im Einzelfall abnimmt und damit den Vorgang exponentiell beschleunigt.

•Mayhem ist nur eines von vielen Softwareprojekten zum Schutz von IT-Infrastrukturen, als Beispiel sei noch CHASE von BAE Systems genannt.⁵⁴

16.ALPHAGO:⁵⁵ selbst lernendes neuronales Netzwerk, Software, die seit 2016 das traditionelle chinesische Strategiespiel Go⁵⁶ spielt.

•Das Spiel Go zeichnet sich durch wenige und einfache Regeln in Kombination mit komplexen Spielsituationen aus.

•AlphaGo lernt ständig dazu, mittlerweile spielt es Strategien, von denen selbst ausgewiesene Meister des Spiels bekannten, diese Varianten noch nicht gespielt zu haben und von der Software neue bis dato nicht praktizierte Taktiken gelernt zu haben.

Welche von den beispielhaft genannten Systemen sind im Sinne der UK-Definition eher der Kategorie „automatisiert“ zuzuordnen, welche eher zu „autonom“? In welche Grade der „Autonomie“ der Stufen nach IMO passen die maritimen Systeme? Welche Interaktion mit Menschen findet statt während des Agierens des Systems?

1.2.2.Einordnung in das Raster der Definitionen – „autonome Killerdrohnen“ existieren nicht

Systeme wie Patriot sind im Sinne der UK-Definition automatisiert, selbst wenn sie im vollautomatischen Modus betrieben werden, denn ihre Abläufe folgen Algorithmen und realisieren damit allein vorprogrammierte Absichten.

Nach der Industriedefinition ist der Torpedo Zaunkönig klar ein automatisiertes System. Wenn man von umgangssprachlichen Kategorien ausgeht, könnte man ihn schon als „autonom“ bezeichnen, denn er spulte sein mechanisch determiniertes Programm ohne Eingriff des Operators ab, sobald er von diesem in Marsch gesetzt war – zudem konnte der Zaunkönig nicht gestoppt werden. Aus den IMO-Definitionen wäre der Grad 4 auf den Zaunkönig anwendbar. Doch die Entscheidung über das Ob des Einsatzes liegt allein beim Menschen, der Zaunkönig ist also schon deshalb nicht autonom im Sinne der UK-Definition. In der Bindung an das vom Hersteller festgelegte Handlungsprogramm liegt eine weitere Beschränkung, die dieses und andere Systeme klar von dem Begriff der Autonomie trennen – der Zaunkönig hatte keine Auswahl unter Handlungsoptionen, er folgte einfach dem lautesten akustischen Signal.

Die fliegenden Systeme LRASM oder Harpy sind einzuordnen in die Kategorie „automatisiert“ der UK-Definition. Sie exerzieren vorprogrammierte Optionen durch – sie treffen keine eigenen Entscheidungen, auch wenn sie im Operationsgebiet unabhängig vom Operator ihre Aufgabe erledigen. Anders gewendet: Eigenständiges Operieren genügt nicht für „Autonomie“, wenn das System allein seinen mechanischen Zwängen oder Algorithmen folgt, denn es hat keinerlei Entscheidungsfreiheit, sondern realisiert programmierte Absichten im konkreten Einzelfall. Solche Systeme sind als „automatisiert“ einzuordnen.

MQ-9 wird ferngesteuert, kann aber auch automatisiert im Sinne der UK-Definition fliegen, wenn es verlangt wird oder eine Notwendigkeit besteht, etwa bei Ausfall der Funkverbindung. Dem System sind spezifische Verhaltensweisen einprogrammiert als „lost-link procedure“,⁵⁷ z.B. Aufsteigen auf größere Flughöhe, um die Funkverbindung neu zu etablieren, wenn das nicht gelingt, Rückflug zur Basis. Die einprogrammierten Verhaltensoptionen sind konform zu den internationalen Luftfahrtverkehrsregeln und sichern die Kontrolle über die Drohne nach Verbindungsausfall. Das gilt gleichermaßen für fliegende Systeme wie Airbus VSR700, Skeldar V-200, Black Hornet PRS, schwimmende Systeme wie Protector, Seagull und Seahunter sowie Landsysteme wie die vorgestellten russischen Beispiele.

Von einigen Systemen können Kampfaufträge vorprogrammiert automatisiert ausgeführt werden – sofern es sich um programmierbare Aufträge handelt, bei denen keine Adaption des Systems auf geänderte Lagebilder notwendig ist, z.B. Angriff auf nicht mobile Ziele. Die Wingfighter des FCAS ab etwa 2040 werden wegen zunehmender Komplexität und Tempo im Kampfgeschehen ihre Aufgaben noch weitgehender automatisiert erledigen müssen. Der Pilot des bemannten Kampfflugzeugs wird aber am Auslöseknopf als „Man in the Loop“ beteiligt sein oder zumindest als Kontrollinstanz „Man on the Loop“. Dies wird u.a. auch davon abhängen, wie viele unbemannte Wingfighter einem bemannten Flugzeug zugeordnet werden.

Für schwimmende Kampfsysteme wie Protector, Seagull und Seahunter ist die Einteilung der IMO nicht gemacht, sondern allein im Hinblick auf zivile Seefahrzeuge. Die drei genannten Systeme gehören in den Grad drei nach IMO, solange sie ferngesteuert werden, in den Grad vier „fully autonomous“, wenn sie ihre Arbeit aufgrund ihrer Programmierung verrichten. Diese Autonomie ist aber nicht zu verwechseln mit der für militärische Systeme definierten Autonomie, deren Kern gerade die Entscheidung über das Ob eines Einsatzes ausmacht. Der vierte Grad nach IMO deckt sich nicht mit dem Autonomiebegriff für militärische Systeme der UK-Definition. Es ist davon auszugehen, dass die IMO mit ihrer „Autonomie“ den Vollzug von vorab programmierten Aufträgen meint, da nicht anzunehmen ist, dass zivile Schiffe eigenständig entscheiden, ob sie überhaupt aktiv werden und welches Ziel sie ansteuern.

Offen ist das angestrebte und realisierbare Maß an Eigenständigkeit von in Entwicklung befindlichen tauchenden Systemen, speziell den von den USA und China projektierten UUVs mit langer Seeausdauer und komplexen Aufgaben wie Aufklärung und Bekämpfung gegnerischer U-Boote. Funkverbindungen zu tauchenden Systemen sind limitiert – Übermittlung von kurzen Befehlen ist allerdings machbar, wie sich in Kapitel 1.4.3. zeigt, etwa Zielzuweisung und Angriffsbefehl. Es läuft also auf möglichst weitgehende Automatisierung hinaus, möglicherweise auf eine Form künstlicher taktischer Intelligenz, wie sie sich bei AlphaGo zeigt.

Ist ein über Monate aktives Schadprogramm wie Stuxnet als „autonom“ anzusehen? Denn immerhin operierte Stuxnet in vom Internet abgetrennten IT-Systemen und damit ohne Eingriffsmöglichkeit seines Operators. Schon deshalb nicht, weil es vom Menschen aktiviert wurde, dabei kommt es nicht darauf an, wie viel Zeit es bis zum Zielobjekt braucht. Zudem wurden dem Schadprogramm keine Entscheidungsfreiheiten eingebaut, sondern Algorithmen, die keine Spielräume zugelassen haben – und zugleich eine „Bremse“ auf der Zeitschiene, damit eine zeitlich unbegrenzte weitere Tätigkeit von vornherein ausgeschlossen werden konnte. Genügt es für das Prädikat „autonom“, wenn es für das System keine Abschaltfunktion gibt, keine Option, durch Eingriff des Operators die Mission abzubrechen? Ganz klar nein, wenn das System einer starren Programmierung folgt und keine Ausbruchsoption aus dem vorprogrammierten Rahmen hat.

Im Saldo ist festzustellen, dass keines der oben untersuchten Systeme ein „autonomes“ System im oben definierten Sinne ist, das ohne Eingriff eines Menschen unter Verständnis von „higher level intent“, also unter Einbeziehung komplexer Situationen und Absichten der Akteure, eigenständig situationsangepasste Aktionen planen und durchführen kann. Möglicherweise befindet sich die technische Entwicklung aber auf dem Weg zu echter technischer Autonomie durch künstliche Intelligenz (KI), neuronale Netzwerke (NN) oder maschinelles Lernen (ML).

Mayhem kann man eine gewisse Entscheidungsfreiheit in dem engen Rahmen seiner Tätigkeiten attestieren, insbesondere weil menschliche Kontrolle angesichts des Tempos und der Fülle an einzelnen Arbeitsvorgängen des Systems nicht mehr möglich ist. Aber echte Entscheidungsfreiheit auf Basis des Verständnisses von „higher level intent“ ist bei Mayhem nicht gegeben.

Lediglich AlphaGo kommt in die Nähe des oben definierten Begriffs technischer Autonomie, denn es lernt eigenständig dazu und erfindet kreativ neue taktische Varianten, die so noch kein Mensch vorher gespielt hat. Das System hat Entscheidungsfreiheit für Spielzüge und deren Abfolgen, also hat es begrenzte Autonomie auf dem schmalen Pfad eines einzelnen Spiels. Derartige Softwareprodukte könnten insbesondere durch ihre Lernfähigkeit in Bezug auf komplexe Situationen, Entscheidungsprozesse und anzuwendende Regeln erstmals echte Autonomie für militärische Systeme ermöglichen. Allerdings: Die Fülle der Regeln von Politik, Strategie, Taktik, Recht und Ethik und deren Unschärfe sowie die Menge der Ausnahmen stellen eine gänzlich andere Herausforderung an ein solches System dar als ein Brettspiel. Voraussetzung für solch ein „autonomes“ System, das in der komplexen Welt von Politik, Militär und Konflikt agieren soll, wäre eine exponentiell gesteigerte Verarbeitungskapazität der Rechnerhardware, eine unglaublich komplexe Programmierungsleistung sowie eine enorme Lernfähigkeit des Systems, die auch voraussetzen müssten, grundlegende Werte und Maßstäbe und deren Hierarchien auf der Metaebene immer wieder neu zu bewerten.

Warum soll „Entscheidungsfreiheit“ über Ob, Was und Wie letztlich Maßstab für die Schwelle zur „Autonomie“ sein, obwohl aktuell offensichtlich noch nicht erfüllbar? Keines der oben aufgeführten Systeme entscheidet über das Ob, Was und Wie eines Einsatzes, die Operatoren definieren das konkrete Einsatzziel, und die Programmierung determiniert das Vorgehen. Ein „autonomes“ System im Sinne der UK-Definition ist gerade nicht festgelegt auf die Realisierung programmierter Absichten, sondern bekommt abstrakte Entscheidungsgrundlagen und Handlungsmuster einprogrammiert, aus denen es für konkrete Situationen eigene Lösungen entwickeln kann. Aber möglicherweise haben schon in einigen Jahren oder Jahrzehnten Systeme deutlich erweiterte Aktionsoptionen und Entscheidungsfreiheiten über das Ob, Was und Wie einer Aktivität. Es kommt dabei nicht darauf an, ob sich Menschen die Entscheidungen über Ob, Was und Wie im Einzelfall tatsächlich vorbehalten werden. Die Definitionen müssen eine Abgrenzung autonomer Systeme von automatisierten Systemen zulassen, wenn sie über den heutigen Tag hinaus brauchbar sein sollen.

„Autonome Killerdrohnen“ existieren nicht. Es erweist sich, dass die in der Einleitung zitierten Wahrnehmungen und die aktuellen technologischen Realitäten, insbesondere unter dem Aspekt der Einbindung von Soldaten in die Arbeitsgänge von Systemen, weit voneinander entfernt sind. Keines der beispielhaft vorgestellten Systeme kommt auch nur in die Nähe einer eigenständigen Entscheidung über die Anwendung letaler Gewalt. Das Verdikt gilt ebenfalls für alle weiteren derzeit weltweit existierenden Systeme.

1.3.Automatisierte und virtuelle Systeme: Pleiten, Pech und Pannen

Systeme realisieren zuverlässig ihre programmierten Abläufe. Die Programmierung aller Systeme hängt vom Können des Menschen ab, bei automatisierten Systemen kommt das Zusammenwirken von System und Mensch im Einsatz als Fehlerquelle hinzu. Einige der vorausgehend aufgelisteten Systeme sind noch im Status von Technikdemonstratoren – und noch lange entfernt von der für die militärische Nutzung erforderliche Zuverlässigkeit. Hinzu kommt das Problem der Fehlleistungen komplex programmierter Systeme. Einige Beispiele für Fehlleistungen von und mit automatisierten Systemen aus der Auflistung in Kapitel 1.2.:

1.PATRIOT im Zweiten Golfkrieg 2003 und Abschuss von Flugzeugen der Koalitionsstreitkräfte:⁵⁸

•Durch dieses System wurden auch Kampfflugzeuge der gegen den Irak vorgehenden Koalitionsmächte abgeschossen (Patriot Fratricides).

•Die Untersuchungen offenbarten nicht nur mangelnde Information der Soldaten der Patriot-Batterien über Flugbewegungen der Koalitionsstreitkräfte. Zudem zeigte sich ein im Ergebnis fatales Vertrauen des Bedienpersonals in die vollautomatischen Abläufe, obwohl die angezeigten Bewegungen Zweifel erweckten. Die Soldaten hätten in den dokumentierten Fällen die Funktion ihres Systems stoppen und die Abschüsse verhindern können. Im Zweifel haben sie sich nachvollziehbar für die Sicherheit der eigenen Truppen am Boden und für den Abschuss entschieden.

•Für die Programmierung des Systems, die Gestaltung des Human Machine Interface, die Ausbildung des Bedienpersonals und dessen Information über Flugbewegungen eigener Einheiten wurden umfänglich Lehren gezogen.

•Die Reaktionszeiten für Eingriffe in den Ablauf des Systems sind indes gerade bei der Flugkörperabwehr extrem knapp. Neue Waffensysteme, insbesondere Hyperschallwaffen, werden zu weiterer Verkürzung der Entscheidungsspielräume beitragen.

2.AEGIS COMBAT SYSTEM, USS Vincennes und Iran Air Flug 655 (1988):⁵⁹

•Ende der 80er-Jahre herrschte ein nicht erklärter Konflikt zwischen dem Iran und den USA. Im Mai 1987 wurde die Fregatte USS Stark durch zwei von einer iranischen F-14 in Marsch gesetzte Seezielflugkörper schwer beschädigt, 37 Besatzungsmitglieder kamen dabei zu Tode.

•Am 3. Juli 1988 befand sich der mit Aegis ausgestattete Kreuzer USS Vincennes im Persischen Golf mitten in einem Scharmützel mit iranischen Schnellbooten, während die Radaranlagen zeitgleich Flugzeugstarts ausgehend von Bandar Abbas anzeigten. Dort befinden sich ein ziviler Flughafen und eine Luftwaffenbasis in unmittelbarer Nähe.

•Aufgestiegen von Bandar Abbas war u.a. ein Airbus mit 290 Passagieren mit Flugziel Dubai. Zeitgleich registrierte die USS Vincennes ein Signal, das als von einer iranischen F-14 stammend angesehen wurde, und detektierte ein iranisches Aufklärungsflugzeug vom Typ P3. Die Soldaten an den Bildschirmen ordneten das Echo des Airbus, der mittlerweile Kurs auf den aktuellen Standort der USS Vincennes genommen hatte als Kampfflugzeug ein. Die automatische Abfrage der Freund-Feind-Kennung brachte kein Ergebnis, da aber durchaus Zweifel bestanden, wurde das Flugzeug gezielt angefragt und nachfolgend mehrfach gewarnt – ohne jede Reaktion.

•Das Lagebild ließ in den wenigen Augenblicken, die dem Kommandanten für eine Entscheidung über den Abschuss blieben, keinen anderen Schluss zu, als dass ein Angriff mit Seezielflugkörpern bevorstand, ausgehend von dem Airbus, den seine Soldaten als Kampfflugzeug wahrnahmen.

•Im Untersuchungsbericht wurden neben den Aspekten des Lagebildes auch der Datenoutput des Aegis-Systems und Kommunikationsflüsse an Bord der USS Vincennes untersucht. Aegis selbst hatte isoliert betrachtet keine Fehler gemacht. Das Problem entstand im Zusammenwirken von Mensch und Maschine, durch die Interpretation und Einordnung der Informationen durch die Soldatin der Leitstelle. Der Untersuchungsbericht kam zu dem Schluss, dass Aegis bei vollautomatischer Funktion den Abschuss möglicherweise nicht autorisiert hätte.

3.FLASH CRASH, New York Stock Exchange, 6. Mai 2010:⁶⁰

•Mit automatisierten Handelsprogrammen platzieren Börsenhändler Handelswerte zum Kauf – normalerweise. Der mikrosekundenschnelle Börsenhandel öffnete seinerzeit die Tore zur digitalen Manipulation. Die Masche nannte sich Spoofing, die scheinbare Platzierung von Handelswerten für Millisekunden, um andere Börsenteilnehmer ebenfalls zur Platzierung zu provozieren. Den darauffolgenden Kursrückgang nutzte der Spoofer aus – um die Handelswerte nach Normalisierung gewinnbringend zu verkaufen.

•Die Masche des Londoner Händlers Navinder Singh Sarao ging mehrfach gut ohne Auffälligkeiten an den Börsen. Doch am 6. Mai 2010 löste der minutenschnelle Absturz etlicher Hundert Handelswerte einen Handelsstopp aus. Die Ursachen konnten erst in jahrelangen Untersuchungen und nur bedingt geklärt werden.

•Im Kern hat eine nicht legale Variante des in Sekundenbruchteilen durch Algorithmen exerzierten Anbietens und Zurückziehens von Kaufgelegenheiten Kurse nach unten getrieben. Am 6. Mai 2010 einmalig jedoch nicht nur für kurze Zeit, sondern ungewollt fortgesetzt und sehr nachhaltig. Ursache für diese außergewöhnliche Entwicklung war die Interaktion von Saraos Programm mit den Programmen anderer Händler, die Fehler aufwiesen. Zudem herrschte an der Börse erhöhte Nervosität, weil es in Griechenland zu Protesten gegen die Regierung gekommen war.

•Die beteiligten Softwareprogramme haben sich in Mikrosekunden sozusagen duelliert – menschliches Eingreifen in die einzelnen Vorgänge war unmöglich, es half nur noch die Notbremse des automatischen Handelsstopps, bis dahin waren dennoch unvermeidlich Verluste bei etlichen am Börsenhandel Beteiligten zu verbuchen.

4.KNIGHTMARE ON WALL STREET, 1. August 2012:⁶¹

–Das bis dahin erfolgreiche und kapitalstarke Unternehmen Knight Capital ruinierte sich innerhalb von wenigen Minuten komplett mittels einer von ihm eingesetzten neuen und fehlerhaften Handelssoftware.

•Die Software bot in Mikrosekunden nicht nur bereits gehandelte Posten in großer Zahl neu an, sondern kaufte Handelswerte teurer ein, als sie sie verkaufte. Als Menschen reagierten, war es zu spät. Die Verluste von Knight Capital summierten sich auf über 400 Millionen US-Dollar.

Algorithmen stellen hohe Ansprüche an die sachlich „richtige“ Programmierung unter Einbeziehung jeder denkbaren Situation, auf die das System reagieren können muss. Eigentlich erforderlich ist das Testen nicht nur einer Software allein, sondern auch im Zusammenwirken voneinander unabhängig tätiger Programme, wie sich am Flash Crash deutlich zeigt. Das ist jedoch bei Börsensoftware schon wegen des berechtigten Interesses an der Wahrung von Geschäftsgeheimnissen nicht durchsetzbar. Die längst an allen Börsen eingerichtete, schnell reagierende, automatische Notbremse stellt in diesem Umfeld eine ausreichende Sicherung dar, auch wenn sie nicht alle Risiken ausschließen kann. Beim Anleger bleibt das ungute Gefühl, dass man nicht mehr allein abhängig ist von Fähigkeit und Redlichkeit des Börsenhändlers, dem man seine Orders anvertraut, sondern zusätzlichen Gefahren ausgesetzt ist durch potenzielle Softwarefehler oder unglückliche Interaktionen verschiedener Softwareprodukte.

Bei militärischen Anwendungen liegt es in der Natur der Sache, dass eine sorgfältige Vorbereitung der Interaktion der eigenen Systeme geboten ist. Hohe Ansprüche an die Hardware und an die Software sind ohnehin zu stellen im Hinblick auf den Kampf gegen schwer berechenbare Gegner unter Einbeziehung der militärischen Kunst des Tarnens, Tricksens und Täuschens. Vor diesem Hintergrund ist an Einsatz von künstlicher Intelligenz im militärischen Bereich nur unter der Kautel der Aufsicht („Man on the Loop“) denkbar. Kreativität und Fehlbarkeit machen einen gänzlich autonomen Gebrauch („Man out of the Loop“) aktuell und für absehbare Zeit nur eingeschränkt möglich.

In allen Bereichen des Einsatzes von Informationstechnologie entscheidet die Kommunikation von Mensch und Maschine wesentlich darüber, ob die Ergebnisse der Arbeit der Algorithmen im Einzelfall das gewünschte und richtige Ergebnis herbeiführen (können), wie die oben gezeigten Erfahrungen insbesondere mit Patriot und Aegis zeigen.