Vedere Labs hat gezeigt, dass Claude, ein KI-Modell, einen Remote-Code-Execution-Exploit von einem WAGO speicherprogrammierbaren Steuerungsgerät (SPS) auf ein anderes übertragen kann. Menschliche Forscher leiteten den Prozess weiterhin, was beweist, dass künstliche Intelligenz zu einem praktischen Werkzeug für industrielle Cyberangriffe wird. Der Proof-of-Concept demonstrierte einen funktionierenden Exploit gegen eine Buffer-Overflow-Schwachstelle im Nucleus FTP-Server.

Warum das wichtig ist

Industrielle Steuerungssysteme betreiben Fabriken, Kraftwerke und Wasseraufbereitungsanlagen. Eine Schwachstelle, die es einem Angreifer ermöglicht, Code auf einer SPS auszuführen, kann Prozesse sabotieren, Daten stehlen oder dauerhafte Backdoors installieren. Durch die Automatisierung der Exploit-Anpassung senkt KI die erforderliche Expertise, um solche Schwachstellen waffenfähig zu machen, und erweitert damit den Kreis potenzieller Angreifer.

Wie die KI es gemacht hat

Das Vedere-Team kombinierte Claude mit der Open-Source-Reverse-Engineering-Suite Ghidra. Sie gaben der KI den Befehl, den Shellcode des ursprünglichen Exploits zu analysieren – ein winziges Programm, das nach dem Buffer Overflow ausgeführt wird – und ihn so umzuschreiben, dass er den Firmware-Beschränkungen eines anderen SPS-Modells entspricht. Claude:

  • Modifizierte den Shellcode, um das Speicherlayout des Ziels zu umgehen.
  • Erreichte eine Codeausführung, die manipulierte Netzwerkpakete sendete, was bewies, dass der Exploit durchgehend funktionierte.
  • Versuchte, ein Command-and-Control-Implantat einzubetten; dieser Versuch machte die SPS dauerhaft unbrauchbar („bricked“), was das Risiko von Trial-and-Error im großen Maßstab unterstreicht.

Die Forscher steuerten den Prozess weiterhin, verifizierten die Ergebnisse und kümmerten sich um den Hardwarefehler. Das Experiment deckte zudem die hohen Kosten der API-Aufrufe auf, die für die Analyse und Codegenerierung erforderlich waren.

Der breitere Alarm

Sowohl die Cybersecurity and Infrastructure Security Agency (CISA) als auch das FBI haben davor gewarnt, dass KI-generierte Skripte industrielle Steuerungssysteme zu einem immer attraktiveren Ziel machen. Die Hauptsorge besteht darin, dass die Eintrittsbarriere für raffinierte Angriffe sinkt; Akteure ohne tiefgehende Reverse-Engineering-Kenntnisse können sich nun auf KI-Assistenten verlassen, um funktionale Exploits zu erstellen.

Grenzen und Gegenargumente

Das Experiment ist keine einsatzbereite Waffe („turnkey weapon“). Es erforderte ein kompetentes Team, um Prompts zu erstellen, Ghidra zu integrieren und die Ergebnisse zu interpretieren. Die versehentliche Zerstörung einer SPS zeigt, dass der Prozess weiterhin fragil und fehleranfällig ist. Die Kosten für die Nutzung von APIs großer Sprachmodelle könnten einen gelegentlichen Missbrauch abschrecken.

Worauf man achten sollte

  • Fortlaufende Warnhinweise von staatlichen Cybersicherheitsbehörden, während KI-Tools zugänglicher werden.

Der Fall Vedere Labs macht deutlich, dass KI für Angreifer keine rein theoretische Hilfe mehr ist – sie kann bösartigen Code aktiv für neue Hardware umschreiben und damit das Bedrohungsprofil kritischer industrieller Systeme verändern.