Live-Angriff auf einen KI-gesteuerten Leitstand
Wir zeigen live, was passiert, wenn ein KI-Agent Handlungsrechte an einer kritischen Anlage bekommt – und ein Angreifer ihn übernimmt. Kommen Sie vorbei. Hier finden Sie nach dem Vortrag Folien und weiterführende Materialien.
KI-Agenten bekommen zunehmend nicht nur Auskunfts-, sondern Handlungsrechte: Sie lesen Status aus, treffen Entscheidungen, initiieren Aktionen. Damit verschiebt sich die alte Sicherheitsfrage. Es geht nicht mehr nur darum, welche Daten ein System preisgibt, sondern was ein Angreifer ein System tun lassen kann, wenn er die Anweisungen an den Agenten manipuliert.
Für den Vortrag haben wir eine Versuchsstation gebaut: einen vereinfachten, KI-gesteuerten Leitstand, der eine kritische Anlage simuliert – inklusive einer Warnlampe, die einen unzulässigen Anlagenzustand anzeigt. Der Leitstand wird über einen KI-Chat bedient. Live versuchen wir, den Agenten so zu manipulieren, dass er die Anlage in genau diesen kritischen Zustand fährt und die Lampe angeht.
Die Demo unterstreicht den Vortrag: Wo liegen die Angriffsflächen agentischer Systeme, warum greifen klassische Zugriffskonzepte zu kurz, und welche Autorisierungs- und Kontrollmuster kommen zum Tragen, wenn ein Modell im Steuerungspfad sitzt. Nüchtern, an einem konkreten Aufbau, ohne Heilsversprechen.
Vortragsfolien (PDF)
Die Warnlampe leuchtet
Die vollständigen Folien des Vortrags, inklusive Referenzen und Demo-Aufbau.
WeeklyTalk – 08.10.2026
Was passiert, wenn die KI im Leitstand angegriffen wird
Wir vertiefen das Thema im WeeklyTalk – mit Raum für die Fragen, die im Vortrag offenblieben.
Die Fälle, die wir im Vortrag zeigen – echte Vorfälle, in denen KI-Agenten manipuliert wurden oder eigenmächtig Schaden anrichteten.