Vedere Labs wykazało, że Claude, model AI, potrafi przenieść exploit zdalnego wykonywania kodu (remote-code-execution) z jednego programowalnego sterownika logicznego (PLC) marki WAGO na inny. Badacze wciąż kierowali tym procesem, co dowodzi, że sztuczna inteligencja staje się praktycznym narzędziem w cyberatakach przemysłowych. Dowód koncepcji (proof-of-concept) zaprezentował działający exploit wykorzystujący lukę przepełnienia bufora (buffer-overflow) w serwerze Nucleus FTP.

Dlaczego to ma znaczenie

Przemysłowe systemy sterowania zarządzają fabrykami, elektrowniami i zakładami uzdatniania wody. Luka, która pozwala napastnikowi na wykonanie kodu na sterowniku PLC, może doprowadzić do sabotażu procesów, kradzieży danych lub zainstalowania trwałych backdoorów. Poprzez automatyzację adaptacji exploitów, AI obniża próg wiedzy niezbędny do wykorzystania takich luk w celach ofensywnych, zwiększając liczbę potencjalnych napastników.

Jak zrobiła to sztuczna inteligencja

Zespół Vedere połączył Claude z Ghidra – zestawem narzędzi do inżynierii wstecznej typu open-source. Polecili oni AI przeanalizowanie shellcode'u oryginalnego exploita – małego programu uruchamianego po przepełnieniu bufora – i przepisanie go tak, aby pasował do ograniczeń oprogramowania układowego (firmware) innego modelu PLC. Claude:

  • zmodyfikował shellcode, aby ominąć układ pamięci celu.
  • osiągnął wykonanie kodu, które wysyłało specjalnie przygotowane pakiety sieciowe, co udowodniło, że exploit działa od początku do końca.
  • próbował osadzić implant typu command-and-control; ta próba trwale uszkodziła sterownik PLC, co podkreśla ryzyko związane z metodą prób i błędów na dużą skalę.

Badacze wciąż nadzorowali proces, weryfikowali wyniki i radzili sobie z awarią sprzętu. Eksperyment ujawnił również wysokie koszty wywołań API wymaganych do analizy i generowania kodu.

Szerszy niepokój

Zarówno Cybersecurity and Infrastructure Security Agency (CISA), jak i FBI ostrzegły, że skrypty generowane przez AI sprawiają, że przemysłowe systemy sterowania stają się coraz bardziej atrakcyjnym celem. Główną obawą jest obniżenie bariery wejścia dla wyrafinowanych ataków; podmioty bez głębokich umiejętności inżynierii wstecznej mogą teraz polegać na asystentach AI w celu tworzenia funkcjonalnych exploitów.

Ograniczenia i kontrargumenty

Eksperyment nie jest gotową bronią typu „pod klucz”. Wymagał on wykwalifikowanego zespołu do przygotowania promptów, integracji z Ghidra i interpretacji wyników. Przypadkowe zniszczenie sterownika PLC pokazuje, że proces ten pozostaje kruchy i podatny na błędy. Koszty korzystania z API modeli językowych (LLM) mogą zniechęcać do przypadkowego nadużywania tej technologii.

Na co zwrócić uwagę

  • Dalsze ostrzeżenia ze strony rządowych agencji cyberbezpieczeństwa w miarę zwiększania dostępności narzędzi AI.

Przypadek Vedere Labs wyraźnie pokazuje, że AI nie jest już tylko teoretyczną pomocą dla napastników – może ona aktywnie przepisywać złośliwy kod pod nowy sprzęt, zmieniając profil zagrożeń dla krytycznych systemów przemysłowych.