Militärische KI verantwortungsvoll nutzen und Regulierung neu denken

Die rasanten techno­logischen Fortschritte im Bereich Künst­liche Intelligenz haben Einzug in alle Bereiche des Militärs gehalten. Wie sich an aktuellen Beispielen aus der Ukraine oder dem Iran zeigt, trans­formieren KI-gestützte Anwendungen bereits heute das Kampf­geschehen. Für Europa bietet das eine doppelte Heraus­forderung: einerseits, im KI-Wettlauf Schritt zu halten und die europäische Verteidigungs­fähigkeit zu stärken, anderer­seits Eskalations­dynamiken zu verhindern und die Regu­lierung militärischer KI voran­zu­treiben.

Diesem Spannungs­feld widmete sich die Podiums­diskussion „Militärische KI verantwortungs­voll nutzen und Regulierung neu denken“ aus der Reihe Crisis Talks in den Räumen der Hessischen Landes­vertretung in Brüssel.  

Thomas Eckert, Leiter der Hessischen Landes­vertretung, betonte in seiner Begrüßung die Relevanz des Themas und die Dringlich­keit der Debatte. Das zeigte sich auch an der Resonanz der Veranstaltung, zu der sich mehr als 270 Gäste aus Politik, Wissen­schaft, Wirt­schaft, Zivil­gesellschaft und Medien anmeldeten. 

Die Keynote hielt Malte Göttsche. Wir stehen wir vor dem „Oppen­heimer-Moment unserer Generation“, begann Göttsche, in Anlehnung an den früheren öster­reichischen Außen­minister Schallenberg. Gemeint ist, dass KI-gestützte Waffen­systeme eine ähnlich trans­formative Kraft entfalten wie die Entwicklung der Atom­bombe im 20. Jahrhundert.  

Dabei unterstützt KI nicht nur Logistik, Training und Informations­austausch, sondern spielt auch direkt in Kampf­handlungen eine Rolle, bei Ziel­auswahl und Entscheidungs­findung. Das Versprechen, der Einsatz von KI könne zivile Opfer reduzieren, wurde noch nicht ein­gelöst, im Gegen­teil: In den anhaltenden Kriegen ist eine hohe Zahl ziviler Opfer zu verzeichnen. Gleich­zeitig steigt die Gefahr einer Eskalation, wenn Entscheidungs­zyklen durch KI verkürzt werden und weniger Zeit für Diplomatie bleibt. Und auch die Gefahr eines Einsatzes von Massen­vernichtungs­waffen steigt: In simulierten Krisen­lagen empfehlen KI-Modelle sehr häufig die Androhung oder gar den Einsatz von Atom­waffen, wie eine Studie des King’s College zeigt. Zudem könnten KI-Modelle, wie sie in der biologischen und chemischen Forschung zum Einsatz kommen, auch die Schwelle zur Herstellung von Massen­vernichtungs­waffen senken. 

Göttsche berief sich in seiner Keynote auf zentrale Erkennt­nisse des CNTR Monitor 2025 „Neue Realitäten in der globalen Sicherheit durch KI“. Die Publikation des Clusters Natur- und Technik­wissenschaftliche Rüstungs­kontroll­forschung (CNTR) stellt nicht nur Risiken fest, sondern spricht auch Empfehlungen zur Regulierung militärischer KI aus. Das wesentliche KI-Regel­werk der EU, der AI Act, bezieht sich im Wesent­lichen weder auf Forschung noch auf militärische Nutzung. Hier bestehe also Handlungs­bedarf. Ein möglicher Ansatz­punkt sind gemein­same Sicherheits­bewertungen neuer Hoch­leistungs-KI-Modelle, in denen Regierungen, Forschende und Entwickler*innen gemeinsam Modelle auf Missbrauchs­potenzial und Robustheit testen. 

In der anschließenden Diskussion unter der Moderation von Alexandra von Nahmen wurden Probleme, aber auch Ansatz­punkte für eine künftige KI-Regulierung erörtert.   

MdEP Tobias Cremer betonte, dass die Regulierung grundsätzlich der technologischen Entwicklung hinter­her­hinke und deshalb unbedingt die Debatte voran­getrieben werden müsse. Jedoch besteht ein klassisches kollektives Handlungs­problem: Zusammen­arbeit wäre von Vorteil für alle Akteure, doch solange Einzelne die individuellen Vorteile nutzen, entsteht eine Dynamik des Wettbewerbs, die gemeinsames Handeln erschwert. 

Lene Hove Rietveld, Senior Expert für tödliche autonome Waffen­systeme (LAWS) beim Europäischen Auswärtigen Dienst, hob die Prozesse von soft legislation hervor, die es bereits gegeben hat, insbesondere der REAIM-Prozess (Summit on Responsible AI in the Military Domain). Zudem habe Europa mit dem AI Act eine Vorreiter­rolle eingenommen. Allerdings erschwere die einstimmige Entscheidungs­findung schnelle Lösungen.  

Ulf Ehlert, Leiter für Strategie und Policy in der NATO Science and Technology Organization, stellte fest, dass nicht diejenigen die Regeln definieren dürfen, die techno­logisch am schnellsten sind. Stattdessen müssten mit allen willigen Partnern zumindest Minimal­standards definiert werden. Regulierung sollte dabei unseren Werten dienen und sie schützen. Da die techno­logische Entwicklung so schnell voran­schreitet, dürfe Regulierung sich nicht auf einzelne Technologien einschießen, sondern sollte Anwendungs­bereiche definieren. 

Malte Göttsche schließlich lenkte den Blick auch auf die Rolle der Forschung. Da es beispielsweise in der Biologie und Chemie viel Dual-Use-Forschung gibt, müsse auch innerhalb der Forschung dafür sensibilisiert werden. Dabei bestehe ein hoher Bedarf an Unterstützungs­strukturen, da einzelne Forschende nicht die Expertise haben, um mit komplexen ethischen Fragen umzugehen. Mehr Dialog zwischen Regierung, Parlamenten, Wissenschaft und Industrie ist dafür unerlässlich. 

Die Podiums­teilnehmer*innen waren sich einig, dass die Debatten entmystifiziert und gesamt­gesellschaftlich geführt werden müssen. Regulierung dürfe Innovation nicht behindern, aber auch nicht angesichts der Geschwindig­keit des technologischen Fortschritts auf der Strecke bleiben. 

Die Gesprächs­reihe Crisis Talks wird vom Leibniz-Forschungs­netzwerk „Umwelt­krisen – Krisen­umwelten“ und der Vertretung des Landes Hessen bei der EU in Brüssel organisiert. Ebenfalls beteiligt sind das Leibniz-Europa-Büro sowie der Forschungs­verbund Normative Ordnungen der Goethe-Universität Frank­furt. PRIF koordiniert das Leibniz-Forschungs­netzwerk seit 2021, es ist aus dem 2013 gegründeten Leibniz-Forschungsverbund „Krisen einer globalisierten Welt“ hervorgegangen.

Programm: 

Begrüßung: Dr. Thomas Eckert, Leiter der Vertretung des Landes Hessen bei der EU 

Impuls: Prof. Dr. Malte Göttsche, PRIF/TU Darmstadt 

Diskussion:  

• Dr. Tobias Cremer, Mitglied des Europäisches Parlaments 
• Dr. Ulf Ehlert, Leiter für Strategie und Policy bei der NATO 
• Lene Hove Rietveld, Senior Expert für tödliche autonome Waffensysteme (LAWS), EAD – Abteilung für Abrüstung, Nicht­verbreitung und Ausfuhr­kontrolle von Waffen 
• Prof. Dr. Malte Göttsche 

Moderation: Alexandra von Nahmen, Direktorin für Russland, Ukraine und Osteuropa, Expertin für Sicherheits­politik und NATO bei der Deutschen Welle

Fotos: © Hessische Landesvertretung.