Die rasanten technologischen Fortschritte im Bereich Künstliche Intelligenz haben Einzug in alle Bereiche des Militärs gehalten. Wie sich an aktuellen Beispielen aus der Ukraine oder dem Iran zeigt, transformieren KI-gestützte Anwendungen bereits heute das Kampfgeschehen. Für Europa bietet das eine doppelte Herausforderung: einerseits, im KI-Wettlauf Schritt zu halten und die europäische Verteidigungsfähigkeit zu stärken, andererseits Eskalationsdynamiken zu verhindern und die Regulierung militärischer KI voranzutreiben.
Diesem Spannungsfeld widmete sich die Podiumsdiskussion „Militärische KI verantwortungsvoll nutzen und Regulierung neu denken“ aus der Reihe Crisis Talks in den Räumen der Hessischen Landesvertretung in Brüssel.
Thomas Eckert, Leiter der Hessischen Landesvertretung, betonte in seiner Begrüßung die Relevanz des Themas und die Dringlichkeit der Debatte. Das zeigte sich auch an der Resonanz der Veranstaltung, zu der sich mehr als 270 Gäste aus Politik, Wissenschaft, Wirtschaft, Zivilgesellschaft und Medien anmeldeten.
Die Keynote hielt Malte Göttsche. Wir stehen wir vor dem „Oppenheimer-Moment unserer Generation“, begann Göttsche, in Anlehnung an den früheren österreichischen Außenminister Schallenberg. Gemeint ist, dass KI-gestützte Waffensysteme eine ähnlich transformative Kraft entfalten wie die Entwicklung der Atombombe im 20. Jahrhundert.
Dabei unterstützt KI nicht nur Logistik, Training und Informationsaustausch, sondern spielt auch direkt in Kampfhandlungen eine Rolle, bei Zielauswahl und Entscheidungsfindung. Das Versprechen, der Einsatz von KI könne zivile Opfer reduzieren, wurde noch nicht eingelöst, im Gegenteil: In den anhaltenden Kriegen ist eine hohe Zahl ziviler Opfer zu verzeichnen. Gleichzeitig steigt die Gefahr einer Eskalation, wenn Entscheidungszyklen durch KI verkürzt werden und weniger Zeit für Diplomatie bleibt. Und auch die Gefahr eines Einsatzes von Massenvernichtungswaffen steigt: In simulierten Krisenlagen empfehlen KI-Modelle sehr häufig die Androhung oder gar den Einsatz von Atomwaffen, wie eine Studie des King’s College zeigt. Zudem könnten KI-Modelle, wie sie in der biologischen und chemischen Forschung zum Einsatz kommen, auch die Schwelle zur Herstellung von Massenvernichtungswaffen senken.
Göttsche berief sich in seiner Keynote auf zentrale Erkenntnisse des CNTR Monitor 2025 „Neue Realitäten in der globalen Sicherheit durch KI“. Die Publikation des Clusters Natur- und Technikwissenschaftliche Rüstungskontrollforschung (CNTR) stellt nicht nur Risiken fest, sondern spricht auch Empfehlungen zur Regulierung militärischer KI aus. Das wesentliche KI-Regelwerk der EU, der AI Act, bezieht sich im Wesentlichen weder auf Forschung noch auf militärische Nutzung. Hier bestehe also Handlungsbedarf. Ein möglicher Ansatzpunkt sind gemeinsame Sicherheitsbewertungen neuer Hochleistungs-KI-Modelle, in denen Regierungen, Forschende und Entwickler gemeinsam Modelle auf Missbrauchspotenzial und Robustheit testen.
In der anschließenden Diskussion unter der Moderation von Alexandra von Nahmen wurden Probleme, aber auch Ansatzpunkte für eine künftige KI-Regulierung erörtert.
MdEP Tobias Cremer betonte, dass die Regulierung grundsätzlich der technologischen Entwicklung hinterherhinke und deshalb unbedingt die Debatte vorangetrieben werden müsse. Jedoch besteht ein klassisches kollektives Handlungsproblem: Zusammenarbeit wäre von Vorteil für alle Akteure, doch solange Einzelne die individuellen Vorteile nutzen, entsteht eine Dynamik des Wettbewerbs, die gemeinsames Handeln erschwert.
Lene Hove Rietveld, Senior Expert für tödliche autonome Waffensysteme (LAWS) beim Europäischen Auswärtigen Dienst, hob die Prozesse von soft legislation hervor, die es bereits gegeben hat, insbesondere der REAIM-Prozess (Summit on Responsible AI in the Military Domain). Zudem habe Europa mit dem AI Act eine Vorreiterrolle eingenommen. Allerdings erschwere die einstimmige Entscheidungsfindung schnelle Lösungen.
Ulf Ehlert, Leiter für Strategie und Policy in der NATO Science and Technology Organization, stellte fest, dass nicht diejenigen die Regeln definieren dürfen, die technologisch am schnellsten sind. Stattdessen müssten mit allen willigen Partnern zumindest Minimalstandards definiert werden. Regulierung sollte dabei unseren Werten dienen und sie schützen. Da die technologische Entwicklung so schnell voranschreitet, dürfe Regulierung sich nicht auf einzelne Technologien einschießen, sondern sollte Anwendungsbereiche definieren.
Malte Göttsche schließlich lenkte den Blick auch auf die Rolle der Forschung. Da es beispielsweise in der Biologie und Chemie viel Dual-Use-Forschung gibt, müsse auch innerhalb der Forschung dafür sensibilisiert werden. Dabei bestehe ein hoher Bedarf an Unterstützungsstrukturen, da einzelne Forschende nicht die Expertise haben, um mit komplexen ethischen Fragen umzugehen. Mehr Dialog zwischen Regierung, Parlamenten, Wissenschaft und Industrie ist dafür unerlässlich.
Die Podiumsteilnehmer*innen waren sich einig, dass die Debatten entmystifiziert und gesamtgesellschaftlich geführt werden müssen. Regulierung dürfe Innovation nicht behindern, aber auch nicht angesichts der Geschwindigkeit des technologischen Fortschritts auf der Strecke bleiben.
Die Gesprächsreihe Crisis Talks wird vom Leibniz-Forschungsnetzwerk „Umweltkrisen – Krisenumwelten“ und der Vertretung des Landes Hessen bei der EU in Brüssel organisiert. Ebenfalls beteiligt sind das Leibniz-Europa-Büro sowie der Forschungsverbund Normative Ordnungen der Goethe-Universität Frankfurt. PRIF koordiniert das Leibniz-Forschungsnetzwerk seit 2021, es ist aus dem 2013 gegründeten Leibniz-Forschungsverbund „Krisen einer globalisierten Welt“ hervorgegangen.
Programm:
Begrüßung:
Dr. Thomas Eckert, Leiter der Vertretung des Landes Hessen bei der EU
Impuls:
Prof. Dr. Malte Göttsche, PRIF/TU Darmstadt
Diskussion:
Dr. Tobias Cremer, Mitglied des Europäisches Parlaments
Dr. Ulf Ehlert, Leiter für Strategie und Policy bei der NATO
Lene Hove Rietveld, Senior Expert für tödliche autonome Waffensysteme (LAWS), EAD – Abteilung für Abrüstung, Nichtverbreitung und Ausfuhrkontrolle von Waffen
Prof. Dr. Malte Göttsche
Moderation:
Alexandra von Nahmen, Direktorin für Russland, Ukraine und Osteuropa, Expertin für Sicherheitspolitik und NATO bei der Deutschen Welle
