Wie sich ein KI-Agent dazu bringen lässt, einen simulierten Leitstand in einen kritischen Zustand zu fahren.
Auf der heise devSec in Marburg haben wir live gezeigt, wie sich ein KI-Agent dazu bringen lässt, einen simulierten Leitstand in einen kritischen Zustand zu fahren, bis die Warnlampe leuchtet. In dieser Folge erklären wir, wie die Versuchsstation aufgebaut ist und warum der Angriff ohne jeden technischen Exploit funktioniert. Denn sobald Agenten nicht nur Auskunft geben, sondern handeln dürfen, lautet die Sicherheitsfrage nicht mehr, welche Daten ein System verrät, sondern was ein Angreifer es tun lassen kann.
Wir sprechen über echte Vorfälle, über die Grenzen klassischer Zugriffskonzepte und darüber, welche Kontrollmuster greifen, wenn ein Modell im Steuerungspfad sitzt.