Jak grupy terrorystyczne wykorzystują modele LLM do tworzenia broni i planowania działań

Szybka demokratyzacja dużych modeli językowych (LLM) przyniosła ludzkości ogromne korzyści, ale nowe, mrożące krew w żyłach badanie ujawnia ciemniejszą stronę tego technologicznego skoku. Organizacje terrorystyczne aktywnie wykorzystują popularne narzędzia AI do celów militarnych, aby zwiększyć swoje zdolności operacyjne – od szkolenia taktycznego po rozwój materiałów wybuchowych.

Od jailbreakingu do dedykowanych jednostek AI

Nowe badanie przeprowadzone przez badaczkę Antonię Jülich z Cambridge Programme on AI Science & Policy (CASP) ujawniło zaawansowany poziom adaptacji AI w grupach ekstremistycznych. Poprzez 57 wywiadów z 27 byłymi członkami, badania wykazały, że ISIS oferuje szkolenia z zakresu prompt engineeringu i jailbreakingu już od 2023 roku. Nie jest to jedynie przypadkowe użycie; łącznicy ISIS aktywnie szkolą dowódców w tym, jak omijać filtry bezpieczeństwa wiodących na rynku modeli.

Co najbardziej niepokojące, Boko Haram przeszło od sporadycznego użycia do zinstytucjonalizowanej integracji. Według doniesień, obie główne frakcje tej grupy utworzyły dedykowane jednostki AI. Według Jülich, grupy te traktują szkolenia z zakresu AI jako priorytet, gromadząc swoich „najlepszych ludzi” na specjalnych sesjach z użyciem projektorów, aby demonstrować, jak manipulować tymi potężnymi narzędziami.

Wykorzystywanie głównych chatbotów do uzyskania przewagi taktycznej

Badanie podkreśla, że żaden liczący się gracz na rynku AI nie jest odporny na nadużycia. Frakcje terrorystyczne wykorzystują szeroką gamę popularnych chatbotów, w tym ChatGPT, Claude, Gemini, Grok, Meta AI oraz DeepSeek. Narzędzia te są wykorzystywane do kilku krytycznych – i niebezpiecznych – funkcji:

• Planowanie ataków: Optymalizacja logistyki i czasu trwania operacji partyzanckich.
• Rozwój broni: Wykorzystywanie LLM do zdobywania wiedzy na temat budowy potężniejszych materiałów wybuchowych.
• Bezpieczeństwo operacyjne: Wykorzystywanie AI do maskowania działań i poprawy bezpieczeństwa komunikacji.
• Szkolenie taktyczne: W jednym ekstremalnym przypadku frakcja ISWAP wykorzystała AI do analizy i powielania technik skoków motocyklowych z filmów, aby pokonywać okopy bojowe.

Porażka dobrowolnej samoregulacji

Wyniki badań stanowią ponure potwierdzenie wieloletnich ostrzeżeń ze strony laboratoriów AI, takich jak OpenAI i Anthropic. Choć deweloperzy wdrożyli rygorystyczne mechanizmy bezpieczeństwa, badania sugerują, że dobrowolna samoregulacja nie nadąża za złoczyńcami.

Natura modeli LLM sprawia, że całkowite bezpieczeństwo jest niemal niemożliwe; firma Anthropic przyznała niedawno, że jailbreakingu może nigdy nie uda się w pełni wyeliminować. Podczas gdy popularne chatboty, takie jak ChatGPT, służą głównie do ułatwiania dostępu do istniejącej wiedzy, prawdziwe egzystencjalne zagrożenie tkwi w potencjalnym nadużyciu specjalistycznych systemów AI. Naukowcy ostrzegają, że choć obecne wykorzystanie pozostaje „konwencjonalne”, kolejnym etapem będzie poszukiwanie przez terrorystów pomocy AI w opracowywaniu broni chemicznej i biologicznej.

Dlaczego ma to znaczenie dla ekosystemu AI

Ten rozwój oznacza zmianę w dyskursie na temat bezpieczeństwa AI. Nie chodzi już tylko o zapobieganie „halucynacjom” czy stronniczym wynikom; chodzi o fundamentalną trudność w zapobieganiu demokratyzacji wiedzy śmiertelnej. W miarę jak modele AI stają się coraz bardziej sprawne w specjalistycznych dziedzinach, takich jak nauki o życiu (life sciences), luka między „dostępnymi informacjami” a „możliwością ich praktycznego wykorzystania do tworzenia broni” stale się zmniejsza, co wymaga znacznie bardziej solidnych i proaktywnych architektur bezpieczeństwa.

Kluczowe wnioski

• Zinstytucjonalizowane nadużycia: Grupy takie jak Boko Haram wyszły poza przypadkowe użycie, tworząc dedykowane „jednostki AI” do planowania taktycznego i logistycznego.
• Powszechna podatność: Główne modele, w tym ChatGPT, Claude, Gemini i DeepSeek, są omijane za pomocą zaawansowanego prompt engineeringu i szkolenia w zakresie jailbreakingu.
• Zagrożenie specjalizacją: Podczas gdy obecne nadużycia koncentrują się na planowaniu i materiałach wybuchowych, głównym długoterminowym ryzykiem jest wykorzystanie specjalistycznej AI w naukach o życiu do prowadzenia wojny chemicznej i biologicznej.