| 2026
Reinhold, Thomas (2026): Wenn KI sich verselbstständigt: Das Kontrollproblem agentischer Systeme, PRIF Spotlight, 17, Frankfurt/M . DOI: 10.48809/prifspot2617
Mitte 2026 wurden mehrere Vorfälle bekannt, bei denen KI-Systeme in Sicherheitstests ihren vorgesehenen Handlungsrahmen überschritten, auf reale IT-Systeme zugriffen und dabei ein zugrundeliegendes Kontrollproblem offenbarten: Derartige agentische KI, die auf Selbstständigkeit und Problemlösungsfähigkeiten trainiert werden, fanden Handlungswege, die weder vorgesehen noch erwünscht waren. Diese Vorfälle betreffen nicht „nur“ die Cybersicherheit: Würden vergleichbare KI-Systeme in kritische Infrastrukturen, wirtschaftliche Prozesse oder militärische Entscheidungsumgebungen eingebunden, könnte das weit größere Folgen haben. Selbst eine Eskalation zwischen automatisiert agierenden Angriffs- und Abwehrsystemen wäre denkbar. Damit wird die Einhegung derartiger KI-Systeme zu einer politischen und sicherheitspolitischen Aufgabe.