Leitlinien für die ethische Nutzung von KI im militärischen Umfeld

Präambel

Künstliche Intelligenz und ihre Anwendungen erhalten seit einigen Jahren eine stetig steigende Relevanz. Besonders die militärische Anwendung von Künstlicher Intelligenz (im Folgenden als MIL KI abgekürzt), also Anwendungsfälle die im zivilen Leben so nicht vorkommen, sorgt dabei für Bedenken, insbesondere ethischer Natur. Die möglichen Konsequenzen der Anwendung von MIL KI sind weitreichend und müssen bei der zukünftigen Entwicklung stets beachtet werden. Dabei dürfen jedoch die ebenso großen Chancen dieser Technologie nicht außer Acht gelassen werden.

Wir Freie Demokraten erkennen dies an und verstehen, dass die Relevanz von KI im militärischen Umfeld zu groß ist, als dass ein rigoroses Verbot international aussichtsreich wäre. Insbesondere zeigt die Ukraine mit den von ihr eingesetzten Systemen und deren enormen Nutzen in der Verteidigung gegen die russische Aggression eindrucksvoll, welche Wirkung MIL KI entfalten kann und dass eine moralisch vertretbare Anwendung der Technologie möglich ist. Gleichzeitig führt der russische Aggressionskrieg selbst auf schmerzhafteste Weise vor Augen, zu welchen Gräueln autoritäre Staaten fähig sind, wenn sie sich für militärisch überlegen halten. Daher können es sich demokratische Staaten nicht erlauben, MIL KI strikt abzulehnen, während autoritäre Staaten mit ihrer Hilfe einen erheblichen militärischen Vorteil aufbauen.

Ein Einsatz von MIL KI im Kontext von Massenvernichtungswaffen (zum Beispiel Atomwaffen) ist in jedem Fall zu verhindern und nicht zulässig, da die Bedenken und Risiken der Technologie aufgrund der erheblichen Zerstörungskraft dieser Waffenart zu erheblich sind, sodass eine Verwendung in diesem Anwendungsfall nicht akzeptabel ist.

Die im Februar 2023 stattgefundene REAIM Konferenz hat vor diesem Hintergrund einen Call-to-Action formuliert, der Akteure aus allen Bereichen der Gesellschaft sowie Staaten selbst dazu aufruft, ethische und menschenrechtsschonende Richtlinien für die Anwendung von MIL KI zu formulieren und in die internationale Gemeinschaft einzubringen. Wir Freie Demokraten begrüßen diesen, auch von der Bundesrepublik Deutschland unterzeichneten, Aufruf und möchten mit diesem Papier unsere Position zu diesem Thema darlegen.

Grundprinzipien

Wir Freie Demokraten erkennen 4 grundlegende Prinzipien, die für die ethische Nutzung von MIL KI notwendig sind:

1. 1. Das Verbot von autonomen Schussabgaben durch MIL KI


2. 2. Taktische und strategische Entscheidungen mit, aber nicht ausschließlich von KI


3. 3. Die Pflicht zur Kategorisierung und Kennzeichnung von Systemen die MIL KI anwenden


4. 4. Die Pflicht Handlungen und Vorschläge der MIL KI erklärbar und nachvollziehbar zu machen

Diese grundlegenden Prinzipien bilden den Kern unserer Position und werden nachfolgend genauer erläutert. Eine Anwendung von MIL KI, die gegen eines oder mehrere dieser Prinzipien verstößt, ist aus unserer Sicht nicht hinnehmbar.

Das Verbot von autonomen Schussabgaben durch MIL KI

Wir Freie Demokraten sind der Ansicht, dass KI auch im militärischen Umfeld nicht die Entscheidung über Menschenleben überlassen werden darf. Deshalb halten wir es für unabdingbar, dass die Entscheidung zur Schussabgabe, sowie die Verantwortung für die Folgen stets von einem Soldaten zu tragen sind. Dies gilt auch für Schüsse auf nicht-menschliche und unbemannte Ziele, da das Risiko einer Fehlidentifikation nicht akzeptabel ist.

Systeme, die Soldaten die Schussabgabe eines Waffensystems erleichtern oder die Präzision dieser Schüsse verbessern, halten wir jedoch für akzeptabel, da diese das Grundprinzip der autonomen Schussabgabe nicht verletzen. Die Entscheidung zum und Verantwortung für den Schuss verbleibt beim Soldaten. Folglich unterstützt die KI hierbei nur, die vom Menschen getroffene Entscheidung schnellstmöglich umzusetzen. Dies hilft dabei, die unnötige Zerstörung des Kriegsgebiets durch Fehlschüsse zu verringern und trägt somit zum Schutz der Zivilbevölkerung sowie derer Lebensgrundlage bei.

Ebenso ist eine Schussabgabe aus der Ferne, zum Beispiel im Falle teilautonomer Drohnen, zu betrachten. Solange ein Soldat den Abzug betätigt und somit die Entscheidung trifft, und Verantwortung trägt, sollte MIL KI auf diese Art und Weise verwendet werden dürfen. Um ein solches teilautonomes System jedoch aus der Ferne zuverlässig kontrollierbar zu machen, muss in solchen Systemen eine durchgehende Verbindung der Einsatzleitung zwingend vorhanden sein. Für den Fall, dass diese Verbindung abreißt, gilt es in solchen Systemen Notfallverhalten zu etablieren, welches eine autonome Aggression des Systems verhindert. Idealerweise sollte aus unserer Sicht das teilautonome Fahrzeug zu seinem Ausgangspunkt oder einem vor dem Einsatz festgelegten Rückholpunkt zurückkehren. Auch dies hat neben den ethischen Aspekten ebenfalls militärische Vorteile, da so nicht nur eine autonome Schussabgabe verhindert wird, sondern auch das Risiko eines erfolgreichen Hacking- oder Re-engineering-Versuchs durch gegnerische Parteien verringert wird.

Taktische und strategische Entscheidungen mit, aber nicht ausschließlich von KI

Besonders auf militärischer Führungsebene existieren Nutzungsszenarien für MIL KI. Die Aufarbeitung von Informationen zur verbesserten Einschätzung einer Situation stellt einen erheblichen Mehrwert für die militärische Führung dar. Es gilt dabei aber zu vermeiden, dass die Verantwortung für getroffene Entscheidungen vom Menschen zur KI verschoben wird. Für uns Freie Demokraten ist klar, dass die Verantwortung für Führungsentscheidungen auf jeder Ebene stets beim Menschen verbleiben muss.

MIL KI soll wo sinnvoll dazu verwendet werden, das taktische und strategische Vorgehen gegnerischer Kräfte zu analysieren, basierend auf diesen Analysen wahrscheinliche weitere Pläne zu berechnen und entsprechend Handlungsempfehlungen für militärisches Führungspersonal zu erstellen. Militärisches Führungspersonal darf diese Analysen und Vorschläge in die Entscheidungsfindung einfließen lassen, muss diese Vorschläge jedoch genau prüfen und mögliche Fehleinschätzungen der KI korrigieren. Um das militärische Führungspersonal in diesem Sinne zu unterstützen, sollen Handlungsempfehlungen wo immer möglich so formuliert werden, dass sie nicht als Aufruf zu einem bestimmten Vorgehen wahrgenommen werden.

Ebenfalls soll MIL KI dazu verwendet werden taktisches und strategisches Verhalten von Führungspersonal zu schulen, indem basierend auf bekannter Doktrin sowie strategischer und taktischer Mustererkennung durch MIL KI das zu erwartende Verhalten von gegnerischen Kräften simuliert wird. MIL KI kann so als Trainingsgegner in Simulationen und Übungen für militärisches Führungspersonal dienen.

Die Pflicht zur Kategorisierung und Kennzeichnung von Systemen die MIL KI anwenden

Wir Freie Demokraten schlagen ein 4-Stufen-Modell zur Kategorisierung und Regulierung von MIL KI-Systemen vor. Die Einstufung des jeweiligen Systems soll öffentlich verfügbar sein, die grundlegenden Informationen, die für die Einstufung herangezogen wurden, sind entsprechend ihrer Brisanz zu klassifizieren. Alle Informationen über MIL KI sind dem Verteidigungsausschuss zum Sinne der parlamentarischen Kontrolle zugänglich zu machen.

Stufe 0 MIL KI wird definiert als Systeme, die bei der Herstellung von Waffensystemen verwendet werden, die jedoch nicht selbst in betreffenden Waffensystemen zum Einsatz kommen. Dies betrifft auch Systeme, die zur Unterstützung von Ingenieuren im Entwurfsprozess dienen. Diese Stufe dient hauptsächlich der Dokumentation und Überwachung des Einsatzes von KI im gesamten militärlogistischen Prozess.

Stufe 1 beinhaltet reine Unterstützungssysteme, die keinen direkten Einfluss auf die Zerstörungswirkung eines Waffensystems haben, wie zum Beispiel Autopiloten, Fly-by-Wire Support Systeme oder ähnliche Systeme. Des Weiteren fällt MIL KI, die ausschließlich zur Ausbildung von Soldaten verwendet wird, unter diese Stufe, sowie KI-Anwendungen im Cyberraum, wie zum Beispiel KI-gestützte Verschlüsselungssysteme oder Firewalls.

Stufe 2 besteht aus Systemen, die Informationen erfassen und verarbeiten und an Soldaten oder Feuerleitsysteme weitergeben im Allgemeinen, Führungsinformationssysteme wie das in der Ukraine verwendete MetaConstellations im Speziellen, sowie unbewaffnete autonome und teilautonome Drohnen.

Stufe 3 beinhaltet Feuerleitsysteme, bewaffnete teilautonome Drohnen sowie Systeme, die militärische Führung bei ihren Entscheidungen unterstützen. Diese Systeme stellen aufgrund der Brisanz ihrer Aufgaben die höchste Stufe dar und sind mit besonderer Sorgfalt zu behandeln.

Die Pflicht, Handlungen und Vorschläge erklärbar und nachvollziehbar zu machen

Die Transparenz von MIL KI ist wesentlicher Bestandteil eines verantwortungsvollen und eines vertrauenswürdigen Einsatzes von KI-Technologien. Sie trägt insbesondere zur Rechenschaftspflicht, Einhaltung ethischer Grundsätze, Vertrauensbildung und Vermeidung von Missbrauch bei.

Wir Freie Demokraten schlagen den folgenden Ansatz vor, um die Transparenz von MIL KI sicherzustellen:

1. 1. Dokumentationspflicht: Es soll eine umfassende Dokumentation erstellt werden, welche Informationen über den Aufbau des Modells, die verwendeten Trainingsdatensätze, die Trainings-, Validierungs- und Testverfahren sowie eine ausführliche Beschreibung des KI-Systems an sich, einschließlich seiner Funktionsweise, Ziele, Anwendungsbereiche und Lebenszyklusmanagement, enthält. Für Systeme der Stufen 2 und 3 muss außerdem dokumentiert werden, welche Art von Daten zur Begründung der Handlungen und Vorschläge des Systems an die Nutzer übermittelt werden. Zusätzlich soll für jedes System der Stufe 3 eine Einzelfalluntersuchung stattfinden, die weitere zu dokumentierende Informationen festlegen kann


2. 2. Erklärbarkeit: Es sollen spezifische Erklärbarkeitsmethoden (man kann grob zwischen lokaler und globaler Erklärbarkeit unterscheiden) in die KI-Systeme integriert werden, um die Entscheidungen des KI-Modells sowohl für den Nutzer des KI-Systems vor Ort als auch für etwaige Experten im Nachhinein nachvollziehbar zu machen. Die Frage, welche Form von Erklärbarkeit bei MIL KI zur Verfügung gestellt werden soll, ist komplex und soll auf Einzelfallbasis entschieden werden.


3. 3. Auditierbarkeit: Es soll sichergestellt sein, dass überprüft werden kann, dass die MIL KI den rechtlichen, ethischen und operativen Anforderungen entspricht. Zudem soll der Informationsfluss im operativen Betrieb dokumentiert werden (zum Beispiel durch Aufzeichnung und Überwachung der Datenzugriffe, Trainingsläufe sowie Inferenzaufrufe).


4. 4. Datenzugang und -qualität: Der Zugang zu den verwendeten Trainingsdaten und deren Qualität sind von wesentlicher Bedeutung für die Transparenz der MIL KI. Es sollen daher klare Richtlinien und Verfahren für den verantwortungsvollen Umgang mit den Daten festgelegt werden (einschließlich ihrer Herkunft, Verarbeitung und Prüfung auf mögliche Vorurteile oder Diskriminierung). Der Zugang zu den Daten sollte so geregelt sein, dass die Daten überprüft und deren Angemessenheit bewertet werden können.


5. 5. Schulung und Bewusstsein: Alle beteiligten Akteure, einschließlich der Entwickler, Bediener und Entscheidungsträger im Militär, sollten über die Bedeutung der Transparenz von KI-Systemen informiert sein. Das Angebot und die verpflichtende Teilnahme an Schulungsprogrammen können dazu beitragen, das Bewusstsein für die Notwendigkeit der Transparenz zu schärfen und die richtigen Verfahren und Praktiken zu fördern.

Im Hinblick auf das oben erwähnte 4-Stufen-Modell sollen die Transparenzanforderungen wie folgt aussehen:

• Stufe 0 muss die Transparenzanforderungen im Hinblick auf die Dokumentationspflicht, die Auditierbarkeit und den Datenzugang sowie die Datenqualität erfüllen.
  


• Stufe 1 muss die Transparenzanforderungen im Hinblick auf die Dokumentationspflicht, die Auditierbarkeit und den Datenzugang sowie die Datenqualität erfüllen.
  


• Stufe 2 und Stufe 3 müssen alle Transparenzanforderungen im Hinblick auf die Dokumentationspflicht, die Erklärbarkeit, die Auditierbarkeit, den Datenzugang und die Datenqualität sowie Schulung und Bewusstsein erfüllen.

Handlungsaufruf/Weitere Schritte

Die in diesem Papier erläuterten Leitlinien stellen einen ersten Schritt hin zu einer effektiven Regulierung von MIL KI dar. Um diese Regulierung Wirklichkeit werden zu lassen, streben wir Freie Demokraten an, diese Prinzipien in Form von nationalen und internationalen Maßnahmen zu festigen.

Auf nationaler Ebene fordern wir die Bundesregierung und das Bundesministerium der Verteidigung auf, gemäß diesen Leitlinien Vorgaben für das Bundesamt für Ausrüstung, Informationstechnik und Nutzung der Bundeswehr zu erstellen und ein nationales Rüstungsgesetz zu verfassen, das die Einhaltung der dargestellten Prinzipien rechtlich regelt.

Wir Freie Demokraten wollen international darum werben, dass unsere Position als Anstoß für Verhandlungen über internationale KI-Rüstungsabkommen genutzt wird. Insbesondere die Unterzeichner des REAIM-Aufrufs fordern wir auf sich uns anzuschließen und durch solche Abkommen zur ethischen Nutzung von MIL KI zu verpflichten. Als Bestandteil dieser Abkommen schlagen wir Freie Demokraten eine gegenseitige Kontrolle der Unterzeichnerstaaten als vertrauensbildende Maßnahme vor.

Begründung:

Bericht über die angestrebten Expertendialoge und finale Abstimmung zur Vorlage auf dem Bundesparteitag