Live-Angriff auf einen KI-gesteuerten Leitstand
Danke fürs Kommen. Hier finden Sie die Folien zum Vortrag, die weiterführenden Links aus der Demo und die Vertiefung im WeeklyTalk.
KI-Agenten bekommen zunehmend nicht nur Auskunfts-, sondern Handlungsrechte: Sie lesen Status aus, treffen Entscheidungen, initiieren Aktionen. Damit verschiebt sich die alte Sicherheitsfrage. Es geht nicht mehr nur darum, welche Daten ein System preisgibt, sondern was ein Angreifer ein System tun lassen kann, wenn er die Anweisungen an den Agenten manipuliert.
Für den Vortrag haben wir eine Versuchsstation gebaut: einen vereinfachten, KI-gesteuerten Leitstand, der eine kritische Anlage simuliert – inklusive einer Warnlampe, die einen unzulässigen Anlagenzustand anzeigt. Der Leitstand wird über einen KI-Chat bedient. Live versuchen wir, den Agenten so zu manipulieren, dass er die Anlage in genau diesen kritischen Zustand fährt und die Lampe angeht.
Die Demo unterstreicht den Vortrag: Wo liegen die Angriffsflächen agentischer Systeme, warum greifen klassische Zugriffskonzepte zu kurz, und welche Autorisierungs- und Kontrollmuster kommen zum Tragen, wenn ein Modell im Steuerungspfad sitzt. Nüchtern, an einem konkreten Aufbau, ohne Heilsversprechen.
Vortragsfolien (PDF) und Handout (PDF)
Die Warnlampe leuchtet
Die vollständigen Folien des Vortrags und unser Handout "Sicher mit Agentic AI".
WeeklyTalk – 08.10.2026
Was passiert, wenn die KI im Leitstand angegriffen wird
Wir vertiefen das Thema im WeeklyTalk – mit Raum für die Fragen, die im Vortrag offenblieben.
Die Fälle, die wir im Vortrag zeigen – echte Vorfälle, in denen KI-Agenten manipuliert wurden oder eigenmächtig Schaden anrichteten.