Mensch, Maschine, Verantwortung

Mehr Geschwindigkeit! Das ist der zentrale Punkt. Militärische Entscheidungsprozesse, insbesondere bei der kontrollierten Ausübung von Waffengewalt, bestehen aus einzelnen, klar definierten Funktionen. Wenn ich Teile davon an Maschinen delegiere, kann ich diese Abläufe enorm beschleunigen. Es geht um die „Kill Chain“: Ziele finden, identifizieren, verfolgen, auswählen, bekämpfen und anschließend die Wirkung überprüfen. Technologien aus dem Feld der KI wirken hier extrem beschleunigend – sie können Sensordaten in Maschinengeschwindigkeit zu einem Lagebild fusionieren, Objekte erkennen und markieren, Zielinformationen erzeugen und Waffensysteme ins Ziel lenken. Das Problem: Der langsame Mensch wird dabei zunehmend zum Flaschenhals. Beschleunigung ist also militärisch attraktiv – aber potenziell riskant.

KI verändert den Charakter des Krieges vor allem durch die Auswertung großer, heterogener Datenmengen. Was früher mit klassischer Statistik möglich war, wird komplexer und schneller. Gerade neuere Modelle wie LLMs bringen jedoch Ungenauigkeit mit sich. Diese ist nicht immer nur ein Fehler, sondern kann auch Teil ihrer Nutzung sein. Deshalb muss man genau unterscheiden, ob ein Schaden tatsächlich durch KI entsteht oder etwa durch veraltete oder schlechte Daten. Relevant wird KI besonders dort, wo datenbasierte Kriegsführung, Koordination und Automatisierung zunehmen, etwa bei Drohnen oder Drohnenschwärmen. Sie verändert damit vor allem, wie militärische Systeme Daten verarbeiten und Handlungen koordinieren.

„KI im Krieg“ oder „Militärische KI“ heißt alles und nichts. Deswegen versuche ich, solche Wendungen möglichst wenig zu benutzen. Ich spreche in der Regel konkret davon, welches technische Verfahren für welche militärische Funktion eingesetzt wird. Sensordatenfusion beispielsweise: Ich führe Informationen verschiedener Sensoren automatisiert zu einem Lagebild zusammen. Oder Computer Vision: Ein Algorithmus erkennt auf dem Videofeed einer Drohne einen bestimmten Panzertyp. Das sind unterschiedliche Anwendungen mit unterschiedlichen Implikationen. Sie einfach alle mit dem Etikett „KI“ zu versehen, hilft analytisch wenig.

„KI im Krieg“ bezeichnet sehr unterschiedliche Technologien. Dazu gehören etwa die Stabilisierung und Navigation von Drohnen, Zielauswahlsysteme oder statistisch-probabilistische Verfahren zur Auswertung großer Datenmengen. Die Grenze dessen, was als KI bezeichnet wird, ist jedoch unscharf. Klassische Statistik, Expertensysteme oder automatisierte Steuerungen gelten je nach Kontext einmal als KI und einmal nicht. Technologien, die längst etabliert sind, werden häufig nicht mehr so genannt. Besonders oft erscheint das KI-Label dort, wo Systeme taktische oder strategische Relevanz erhalten. Für eine sinnvolle Debatte muss deshalb zunächst geklärt werden, welche konkrete Technik gemeint ist und welche Eigenschaften sie tatsächlich besitzt.

Es gibt zumindest in einigen Teilen der Welt eine starke Proto-Norm, gemäß der Entscheidungen über Leben und Tod möglichst nicht Maschinen überlassen werden sollten. Rechtlich verbindlich fixiert ist das allerdings nicht. Man wird sehen, wie stabil diese Norm bleibt. Wichtig zu verstehen ist jedenfalls, dass der viel zitierte „human in the loop“ – der Mensch, der angeblich immer in der Entscheidungsschleife, der kill chain, sein muss – früher schon eine Chimäre war und heute endgültig nicht mehr zeitgemäß ist. Ein Mensch „im loop“ nützt nämlich nichts, wenn er gar nicht versteht, was passiert.  Es gibt längst bessere Kontrollparadigmen. In der Regel spricht man von „Meaningful Human Control“. Man muss also kontextabhängig austarieren, wer oder was – Mensch oder Maschine – welche Funktion übernimmt, damit Vorhersehbarkeit, Administrierbarkeit und Zurechenbarkeit gewahrt bleiben. Und der Kontext entscheidet! Bei der Abwehr eines anfliegenden Flugkörpers auf hoher See kann Waffenautonomie zwingend notwendig und lebensrettend sein. Bei der Identifikation einer Person als militärisches Ziel im unübersichtlichen infanteristischen Häuserkampf Ziel muss das Mensch-Maschine-Verhältnis wiederum ganz anders austariert werden.

Das lässt sich nicht objektiv bestimmen; die Grenze ist eine ethische und politische Entscheidung. Ein wichtiger Bezugspunkt ist jedoch, dass die letztendliche Entscheidung über Leben und Tod nicht an Maschinen delegiert werden sollte. Dabei ist genau zu prüfen, wo die tatsächliche Entscheidung fällt. Bei Zielauswahlsystemen kann etwa ein Mensch zwar formal den Knopf drücken, während die wesentliche Auswahl bereits durch das System erfolgt ist. Deshalb reicht „Human in the Loop“ allein nicht aus. Entscheidungsmacht und Verantwortung müssen zusammenpassen: Wer einen relevanten Handlungsspielraum besitzt oder ein System verbindlich einsetzt, muss auch für die daraus entstehenden Folgen Verantwortung übernehmen.

Nein, eine Maschine kann keine Verantwortung tragen. Sie ist kein Rechtssubjekt. Und Maschinen „denken“ oder „entscheiden“ auch nicht in dem Sinne, in dem Menschen das tun – selbst wenn wir umgangssprachlich ständig so darüber reden. Deshalb müssen Mensch-Maschine-Systeme so gestaltet werden, dass menschliche Verantwortung erhalten bleibt. Genau darum geht es bei Meaningful Human Control: Das Verhalten des Systems muss hinreichend vorhersehbar und administrierbar sein. Dann können und müssen Menschen Verantwortung für den Einsatz übernehmen – auch wenn das Waffensystem einzelne Funktionen autonom ausführt.

Eine Maschine kann philosophisch keine Verantwortung tragen, weil sie kein eigenständiger Akteur mit Motivation, Interessen oder intrinsischen Zielen ist. Verantwortung muss deshalb bei Menschen und Institutionen liegen: bei Bedienenden, Entwicklern, militärischer Führung oder denjenigen, die den Einsatz eines Systems anordnen. Entscheidend ist, wer tatsächlich Einfluss nehmen kann. Rechtliche, militärische und philosophische Verantwortung müssen dabei nicht identisch verteilt sein. Werden Systeme so komplex, dass Entscheidungen und Verantwortlichkeiten nicht mehr nachvollziehbar sind, sollte ihr Einsatz grundsätzlich infrage stehen. Mindestens muss klar geregelt sein, welche Entscheidungsebene die Verantwortung trägt.

Das lässt sich bislang nicht abschließend beantworten. Einerseits erweitern unbemannte Systeme den politischen und militärischen Handlungsspielraum. Staaten können Dinge tun, die sie vielleicht vermeiden würden, wenn dabei unmittelbar eigene Soldatinnen und Soldaten gefährdet wären. Das kann die Schwelle zum Gewalteinsatz senken. Andererseits sehen wir gerade in der Ukraine, dass neue Technologien vor allem der Defensive enorme Möglichkeiten eröffnen. Man kann einen Krieg also vielleicht leichter anfangen, aber deswegen noch lange nicht leichter gewinnen. Diese beiden Effekte wirken aktuell gegeneinander.

Das lässt sich allgemein kaum sagen. Kriege entstehen aus einer Vielzahl politischer, wirtschaftlicher, gesellschaftlicher und militärischer Faktoren; KI ist dabei immer nur in konkrete Systeme und Einsatzformen eingebettet. Schon der Begriff „Krieg“ ist je nach Konflikt umstritten. Einzelne Technologien können militärisches Handeln durchaus wahrscheinlicher machen: Drohnen könnten etwa die Schwelle für bestimmte bewaffnete Einsätze senken. Für KI insgesamt ist eine solche Aussage jedoch zu pauschal. Die zahlreichen Anwendungsszenarien können in unterschiedliche Richtungen wirken. Deshalb sollte nicht „KI“ als Ganzes bewertet werden, sondern jeweils die konkrete Technologie und ihr Einsatzkontext.

Das Potenzial dafür ist vorhanden. KI kann riesige Datenmengen schneller auswerten als Menschen, Muster erkennen und militärische Angriffe auch potenziell präziser machen. Das kann sogar helfen, zivile Schäden zu reduzieren. Aber man muss diese Systeme richtig in Entscheidungsprozesse integrieren und verantwortungsbewusst nutzen. Wie man es nicht machen sollte, zeigen Systeme und Verfahren wie mit „Lavender“ und „Where's Daddy?“ im Gaza-Krieg. Wenn eine Maschine enorme Mengen potenzieller Ziele generiert und der Mensch anschließend nur noch Sekunden hat, das Ergebnis abzunicken, dann hat man keine bessere menschliche Entscheidung geschaffen. Man hat die menschliche Kontrolle ausgehöhlt und Meaningful Human Control nicht gewährleistet.

Das lässt sich nicht allgemein beantworten. Systeme können Entscheidungen oder deren Vorbereitung beschleunigen, doch Geschwindigkeit kann auf Kosten der Genauigkeit gehen. Behauptungen, KI mache Entscheidungen automatisch präziser oder sicherer, sind daher nicht überzeugend. Entscheidend ist zudem, was überhaupt als „besser“ definiert wird. Die statistisch-probabilistische Funktionsweise vieler KI-Systeme steht teilweise sogar im Konflikt mit klassischer Militärlogik, die auf klare Befehlswege, Kontrolle und Verantwortlichkeit setzt. Wenn Ausmaß und Folgen von Ungenauigkeiten nicht abschätzbar sind, kann das gegen einen Einsatz sprechen. Viele Versprechen rund um militärische KI sind daher eher Narrativ als technisch gesicherte Aussage.

„Wissen“ ist in dem Zusammenhang ein schwieriger Begriff. Ich bin wahrlich niemand, der die Leistungsfähigkeit der Top-Modelle in Zweifel zieht. Im Gegenteil, ich erlebe bei ChatGPT 5.6 Sol im Grunde täglich Aha-Momente. Gleichzeigt gilt für den militärischen Kontext aktuell (noch): Ein System kann Daten verarbeiten, zu einem Lagebild verdichten, Muster erkennen, Objekte klassifizieren und Wahrscheinlichkeiten berechnen. Es kann beispielsweise mit hoher Zuverlässigkeit erkennen, dass auf einem Bild ein T-72 steht. Aber daraus folgt noch nicht, dass es die Situation samt Kontext versteht. Warum befindet sich dieses Fahrzeug dort? Was geschieht gerade in seiner Umgebung? Welche Absichten haben die drumherum stehenden Menschen? Gerade in komplexen, informationsarmen sozialen Situationen verfügen erfahrene Menschen über Kontextverständnis und Urteilskraft, die sich – zumindest noch – nicht einfach durch KI-Modelle ersetzen lassen.

Bei KI sollte man nicht von „Wissen“, sondern von Datenverarbeitung sprechen. Objektivität oder Neutralität gibt es dabei nicht: Ergebnisse hängen von Datenauswahl, Verarbeitung, eingebauten Kategorien, Modellen und den Zielen ab, für die ein System entwickelt oder eingesetzt wird. Begriffe wie „richtige Entscheidung“ sind deshalb problematisch und müssen im konkreten Fall definiert werden. KI kann beispielsweise bei der Entwicklung und Simulation von Szenarien hilfreich sein, deren Bewertung muss aber bei Menschen liegen. Die entscheidenden taktischen und strategischen Ziele stammen ohnehin nicht von der KI, sondern von politischen und militärischen Akteuren. Eine Vermenschlichung der Systeme ist daher irreführend.

Aktuell besteht darauf leider praktisch keine Aussicht. Wir diskutieren seit mehr als einem Jahrzehnt bei den Vereinten Nationen über autonome Waffensysteme, ohne dass daraus ein verbindliches Regelwerk entstanden wäre. Gleichzeitig erleben wir einen geopolitischen Rüstungswettlauf, und die relevanten Technologien diffundieren weltweit. Sinnvoll wäre weiterhin, Grenzen für die Delegation kritischer Funktionen der kill chain zu definieren und Meaningful Human Control international verbindlich zu verankern. Aber der politische Wille dafür fehlt derzeit.

Eine internationale Regulierung militärischer KI ist schwierig, aber nicht aussichtslos. Auch bei anderen Waffenarten dauerte es lange, bis Regeln entstanden. Notwendig sind klare Verantwortlichkeiten und rote Linien. Gleichzeitig ist die internationale Ordnung derzeit geschwächt und Staaten wenden Völkerrecht nicht immer konsistent an. Trotzdem existiert bereits ein wichtiger rechtlicher Rahmen: KI ist ein Werkzeug und wird nicht außerhalb des bestehenden Völkerrechts eingesetzt. Humanitäres Völkerrecht kann deshalb auch auf KI-gestützte militärische Handlungen angewendet werden. Zusätzliche Regeln sind für konkrete neue Fragen sinnvoll, doch es handelt sich nicht um rechtsfreies Terrain. Regulierung sollte bestehendes Recht präzisieren und Verantwortlichkeit praktisch durchsetzbar machen.

Wir überschätzen häufig, wie weit diese Technologien in Streitkräften tatsächlich schon implementiert sind. Militärische Organisationen sind groß, träge und häufig ziemlich konservativ. Manchmal kommen überraschend idiosynkratischee Anreizstrukturen hinzu. Die Ukrainer könnten beispielsweise mehr Autonomie in ihren Einwegdrohnen – loiteringmunitions - einsetzen, steuern diese aber lieber bis ins Ziel per Hand, weil sie das Treffervideo als Nachweis brauchen, um Punkte für neues Material zu bekommen. Zugespitzt gesagt: Gamification is stopping the killer robots! Gleichzeitig unterschätzen wir, was alles schiefgehen kann, wenn Streitkräfte Technologien blindlings übernehmen. Deswegen ist Meaningful Human Control so wichtig. Man muss nicht nur fragen, was technisch möglich ist, sondern wie das gesamte Mensch-Maschine-System unter realen Einsatzbedingungen völkerrechtskonform funktionieren kann.

Wie unterschiedlich sowohl „KI“ als auch „Krieg“ verstanden werden. Zentral ist zudem, dass Ungenauigkeit bei vielen KI-Systemen keine seltene Ausnahme, sondern eine Grundeigenschaft ist. Das verbreitete Narrativ von automatischer Präzision kann problematische Einsätze legitimieren. Gleichzeitig entstehen durch aktuelle Anwendungen Präzedenzfälle, denen andere Staaten folgen könnten. Bei Entscheidungen über Leben und Tod braucht es daher klare Rahmenbedingungen. Dennoch darf die Debatte nicht zu technikzentriert werden: Entscheidend sind ebenso Macht, Interessen, Allianzen und politische Alternativen. Technische Analyse ist notwendig, darf aber die politische Diskussion über Ursachen, Ziele und Verantwortung nicht verdrängen.

Ein Zukunftsfeld, über das ich momentan viel nachdenke, ist humanoide Robotik – also verkörperte KI – für militärische Anwendungen. Es gibt schließlich militärische Aufgaben, bei denen der menschliche Formfaktor von Vorteil ist, weil unsere gesamte Umwelt für Menschen gebaut wurde: Türen, Treppen, Fahrzeuge, Werkzeuge. Dort wo der Mensch nicht ergänzt, sondern ersetzt werden muss, kann ein humanoider Roboter dienlich sein. Für mich persönlich steckt darin übrigens eine gewisse Ironie. Ich beschäftige mich seit rund zwanzig Jahren mit Waffenautonomie und habe in zahllosen Interviews immer wieder erklärt: Nein, es geht hier garantiert nicht um den Terminator. Tja. Es ist inzwischen gut möglich, dass diese Antwort in zehn Jahren anders ausfällt. Und genau deshalb sollten wir heute darüber nachdenken, welche Aufgaben wir solchen Systemen übertragen wollen – noch bevor die Technologie einsatzbereit ist.

In zehn Jahren wird KI die Kriegsführung vermutlich verändert haben, aber möglicherweise weniger grundlegend als andere Technologien wie Drohnen. Deutlich verändern dürfte sich dagegen die politische Ökonomie des Militärs: mehr Geld wird in KI-Entwicklung, Rechenleistung, Dateninfrastruktur und entsprechende Anbieter fließen. Da große KI-Modelle extrem teuer sind und viele Anbieter nach tragfähigen Geschäftsmodellen suchen, werden militärische Aufträge attraktiver. Auf dem Schlachtfeld könnten andere Entwicklungen stärker prägen, etwa Simulationen, Situational Awareness, digitale Abbilder von Schlachtfeldern oder hybride Kriegsführung. Der größere Wandel durch KI könnte somit zunächst bei Investitionen, Beschaffung und militärischer Infrastruktur liegen.