كيف تستغل الجماعات الإرهابية نماذج اللغات الكبيرة (LLMs) في التسلح والتخطيط
أدى الانتشار الواسع لنماذج اللغات الكبيرة (LLMs) إلى فوائد هائلة للبشرية، لكن دراسة جديدة مثيرة للقلق تكشف عن جانب مظلم لهذه القفزة التكنولوجية. تعمل المنظمات الإرهابية الآن بنشاط على تسليح أدوات الذكاء الاصطناعي السائدة لتعزيز قدراتها العملياتية، بدءًا من التدريب التكتيكي وصولاً إلى تطوير المتفجرات.
من كسر الحماية إلى وحدات ذكاء اصطناعي مخصصة
كشفت دراسة جديدة أجرتها الباحثة أنتونيا جوليش من برنامج كامبريدج لعلوم وسياسات الذكاء الاصطناعي (CASP) عن مستوى متطور من تبني الذكاء الاصطناعي داخل الجماعات المتطرفة. ومن خلال 57 مقابلة مع 27 عضواً سابقاً، كشف البحث أن تنظيم داعش يقدم تدريبات على هندسة الأوامر (prompt engineering) وكسر الحماية (jailbreak) منذ عام 2023. لا يقتصر الأمر على الاستخدام العابر؛ فقد قام ضباط اتصال تابعون لداعش بتدريب القادة بنشاط على كيفية تجاوز فلاتر الأمان في النماذج الرائدة في الصناعة.
والأمر الأكثر إثارة للقلق هو انتقال جماعة بوكو حرام من الاستخدام المتقطع إلى الدمج المؤسسي. فقد أفادت التقارير بأن كلا الفصيلين الرئيسيين في الجماعة قد أنشآ وحدات ذكاء اصطناعي مخصصة. ووفقاً لجوليش، تولي هذه الجماعات أولوية قصوى للتدريب على الذكاء الاصطناعي، حيث تجمع "أفضل كوادرها" في جلسات مخصصة باستخدام أجهزة العرض لتوضيح كيفية التلاعب بهذه الأدوات القوية.
استغلال روبوتات الدردشة الكبرى لتحقيق ميزة تكتيكية
تسلط الدراسة الضوء على أنه لا يوجد لاعب رئيسي في مجال الذكاء الاصطناعي محصن ضد هذا الإساءة في الاستخدام. تستخدم الفصائل الإرهابية مجموعة واسعة من روبوتات الدردشة الشهيرة، بما في ذلك ChatGPT وClaude وGemini وGrok وMeta AI وDeepSeek. ويتم تسخير هذه الأدوات لعدة وظائف حاسمة — وخطيرة —:
- تخطيط الهجمات: تبسيط العمليات اللوجستية وتوقيت العمليات المتمردة.
- تطوير الأسلحة: استخدام نماذج LLMs للحصول على رؤى حول بناء أجهزة متفجرة أكثر قوة.
- الأمن العملياتي: استخدام الذكاء الاصطناعي لإخفاء الأنشطة وتحسين أمن الاتصالات.
- التدريب التكتيكي: في حالة قصوى، استخدم فصيل ISWAP الذكاء الاصطناعي لتحليل ومحاكاة تقنيات القفز بالدراجات النارية من السينما لتجاوز خنادق القتال.
فشل التنظيم الذاتي الطوعي
تعد هذه النتائج بمثابة تأكيد قاتم للتحذيرات طويلة الأمد من مختبرات الذكاء الاصطناعي مثل OpenAI وAnthropic. وبينما طبق المطورون ضوابط أمان صارمة، يشير البحث إلى أن التنظيم الذاتي الطوعي يفشل في مواكبة الجهات السيئة.
إن طبيعة نماذج LLMs تجعل الأمن الكامل أمراً مستحيلاً تقريباً؛ حيث اعترفت Anthropic مؤخراً بأن عمليات كسر الحماية (jailbreaks) قد لا يتم القضاء عليها تماماً أبداً. وبينما تجعل روبوتات الدردشة السائدة مثل ChatGPT المعرفة الموجودة أكثر سهولة في الوصول إليها، فإن التهديد الوجودي الحقيقي يكمن في سوء الاستخدام المحتمل لأنظمة الذكاء الاصطناعي المتخصصة. ويحذر الباحثون من أنه بينما يظل الاستخدام الحالي "تقليدياً"، فإن المرحلة التالية تتضمن سعي الإرهابيين للحصول على مساعدة الذكاء الاصطناعي لتطوير أسلحة كيميائية وبيولوجية.
لماذا يهم هذا النظام البيئي للذكاء الاصطناعي
يمثل هذا التطور تحولاً في خطاب سلامة الذكاء الاصطناعي. لم يعد الأمر يتعلق فقط بمنع "الهلوسة" أو المخرجات المتحيزة؛ بل يتعلق بالصعوبة الجوهرية في منع دمقرطة المعرفة القاتلة. ومع زيادة قدرة نماذج الذكاء الاصطناعي في المجالات المتخصصة مثل علوم الحياة، تستمر الفجوة بين "المعلومات المتاحة" و"التسليح القابل للتنفيذ" في التقلص، مما يستلزم بنيات أمنية أكثر قوة واستباقية.
النقاط الرئيسية
- إساءة الاستخدام المؤسسي: انتقلت جماعات مثل بوكو حرام من الاستخدام العابر إلى إنشاء "وحدات ذكاء اصطناعي" مخصصة للتخطيط التكتيكي واللوجستي.
- الضعف العالمي: يتم تجاوز النماذج الكبرى بما في ذلك ChatGPT وClaude وGemini وDeepSeek عبر هندسة أوامر متطورة وتدريبات كسر الحماية.
- تهديد التخصص: بينما يركز سوء الاستخدام الحالي على التخطيط والمتفجرات، فإن الخطر الرئيسي طويل الأمد هو استخدام الذكاء الاصطناعي المتخصص في علوم الحياة في الحروب الكيميائية والبيولوجية.