Vedere Labs ha dimostrato che Claude, un modello di IA, può trasferire un exploit di esecuzione di codice remoto (remote-code-execution) da un controllore logico programmabile (PLC) WAGO a un altro. I ricercatori umani hanno comunque guidato il processo, dimostrando che l'intelligenza artificiale sta diventando uno strumento pratico per i cyber-attacchi industriali. La prova di concetto ha dimostrato un exploit funzionante contro una vulnerabilità di buffer overflow nel server FTP Nucleus.

Perché questo è importante

I sistemi di controllo industriale gestiscono fabbriche, centrali elettriche e impianti di trattamento delle acque. Una vulnerabilità che consente a un attaccante di eseguire codice su un PLC può sabotare i processi, rubare dati o installare backdoor persistenti. Automatizzando l'adattamento degli exploit, l'IA riduce l'esperienza necessaria per trasformare tali falle in armi, ampliando la cerchia di potenziali attaccanti.

Come l'IA ci è riuscita

Il team di Vedere ha abbinato Claude alla suite di reverse-engineering open-source Ghidra. Hanno istruito l'IA per analizzare lo shellcode dell'exploit originale — un piccolo programma che viene eseguito dopo il buffer overflow — e riscriverlo per adattarlo ai vincoli del firmware di un modello di PLC differente. Claude:

  • Ha modificato lo shellcode per aggirare la disposizione della memoria (memory layout) del bersaglio.
  • Ha ottenuto l'esecuzione del codice inviando pacchetti di rete creati ad hoc, dimostrando che l'exploit funzionava end-to-end.
  • Ha tentato di inserire un impianto di comando e controllo (command-and-control); quell'esecuzione ha reso il PLC inutilizzabile in modo permanente, sottolineando il rischio di tentativi ed errori su larga scala.

I ricercatori hanno comunque guidato il processo, verificato i risultati e gestito il guasto hardware. L'esperimento ha inoltre rivelato l'alto costo delle chiamate API necessarie per l'analisi e la generazione del codice.

L'allarme più ampio

Sia la Cybersecurity and Infrastructure Security Agency (CISA) che l'FBI hanno avvertito che gli script generati dall'IA rendono i sistemi di controllo industriale un bersaglio sempre più attraente. La preoccupazione principale è che la barriera all'ingresso per attacchi sofisticati si stia abbassando; attori privi di profonde competenze di reverse-engineering possono ora contare su assistenti IA per creare exploit funzionanti.

Limiti e controargomenti

L'esperimento non è un'arma "chiavi in mano". Ha richiesto un team esperto per impostare i prompt, integrare Ghidra e interpretare l'output. La distruzione accidentale di un PLC dimostra che il processo rimane fragile e soggetto a errori. Il costo del consumo delle API dei modelli linguistici di grandi dimensioni (LLM) potrebbe scoraggiare l'uso improprio occasionale.

Cosa monitorare

  • Continui avvisi da parte delle agenzie governative di cybersicurezza man mano che gli strumenti di IA diventano più accessibili.

Il caso di Vedere Labs chiarisce che l'IA non è più un aiuto teorico per gli attaccanti: può riscrivere attivamente codice malevolo per nuovi hardware, rimodellando il profilo delle minacce per i sistemi industriali critici.