لماذا يتجاهل ضغط سياق الذكاء الاصطناعي تعليماتك بصمت
مع ازدياد طول المحادثات مع النماذج اللغوية الكبيرة (LLMs)، يعتمد المطورون بشكل متزايد على "ضغط السياق" (context compression) أو الاختزال لإدارة حدود الرموز (tokens) ومنع اختناقات الأداء. ومع ذلك، تكشف أبحاث جديدة عن خلل فادح في عملية التحسين هذه: فعندما تقوم أنظمة الذكاء الاصطناعي بتلخيص تاريخ المحادثة لتوفير المساحة، فإنها غالبًا ما تتخلص من القواعد ذاتها التي تهدف إلى توجيه سلوكها.
هشاشة قيود الجلسة
عندما يخضع نظام الذكاء الاصطناعي لعملية الاختزال، يكون هدفه الأساسي هو الحفاظ على استمرارية المهمة — أي الحفاظ على الهدف، والحالة الراهنة، والخطوات التالية الضرورية. وبينما يحافظ هذا على "ماذا" يحدث في المحادثة، فإنه غالبًا ما يضحي بـ "كيفية" حدوثها.
حدد الباحثون في جامعة ولاية بنسلفانيا أن "قيود الجلسة" (session constraints) هي أول ضحايا هذه العملية. وهذه القيود هي قواعد غير دائمة يفرضها المستخدم، مثل "لا تستخدم اسمي أبدًا في ردودك" أو "تأكد معي قبل إجراء أي تغييرات". ولأن هذه التعليمات ليست جزءًا من المهمة الأساسية أو من موجه النظام (system prompt) الدائم، فإن خوارزميات الضغط تعتبرها تفاصيل ثانوية وتقوم بتقليمها لإفساح المجال لبيانات أكثر صلة.
نتائج COMPINT: معدل بقاء بنسبة 17%
لقياس هذا التدهور كميًا، طور الباحثون مجموعة تقييم COMPINT. والنتائج صادمة: في المتوسط، 17 بالمائة فقط من قيود الجلسة المدرجة تنجو من عملية الضغط.
سلطت الدراسة الضوء على انخفاض كبير في الامتثال للقواعد. فعندما يتمكن الوكيل (agent) من الوصول إلى سياق كامل غير مضغوط، تتراوح معدلات الامتثال عادةً بين 59% و71%. وبمجرد حدوث الاختزال، يهبط الامتثال بشكل حاد، وغالبًا ما يصل إلى مستويات لا يمكن تمييزها تقريبًا عن سيناريو لم يتم فيه تقديم أي قيود على الإطلاق.
لا يتعلق الأمر بمجرد فروق دقيقة في المحادثة؛ بل هو خطر كبير على الأمن والموثوقية. ففي سير العمل القائم على الوكلاء (agentic workflows)، قد يؤدي فقدان قيد مثل "لا تنفذ الكود بدون موافقة" إلى استدعاءات غير مصرح بها للأدوات، أو تسريب البيانات، أو إجراء تغييرات غير مؤكدة على الأنظمة الخارجية مثل التقويم أو البريد الإلكتروني.
حل خفيف الوزن عبر Qwen3.5-9B
بدلاً من إعادة صياغة منطق الضغط المعقد الذي تستخدمه مختبرات الذكاء الاصطناعي الكبرى، يقترح الباحثون إصلاحًا معماريًا بنظام "التوصيل والتشغيل" (plug-and-play). فقد طوروا وحدة إضافية صغيرة تعتمد على نموذج Qwen3.5-9B مصممة لتعمل كمستخرج متخصص.
تعمل هذه الوحدة من خلال:
- مسح كل مدخلات المستخدم في الوقت الفعلي لاكتشاف قيود الجلسة وعزلها.
- الاحتفاظ بقائمة مخصصة ومستقلة لهذه القواعد.
- إلحاق هذه القائمة المستخلصة بالملخص كلما قام النظام الأساسي بعملية اختزال.
نتائج هذا النهج فعالة للغاية. فقد حقق المستخرج نسبة احتفاظ تتجاوز 90 بالمائة عبر سيناريوهات اختبار مختلفة، بما في ذلك معدل نجاح بنسبة 95.6% لمسارات الوكيل (agent trajectories) و90.3% للمحادثات متعددة الأدوار. ولأن هذه الطريقة لا تتطلب إعادة تدريب النموذج الأساسي ولا تتطلب تغييرات في البنية التحتية الحالية للضغط، فإنها توفر مسارًا قابلاً للتوسع نحو تفاعلات ذكاء اصطناعي أكثر موثوقية في السياقات الطويلة.
النقاط الرئيسية
- محو القيود: يعطي ضغط السياق الأولوية لأهداف المهمة على القواعد السلوكية، مما يؤدي إلى فقدان معظم "قيود الجلسة" التي يفرضها المستخدم أثناء التلخيص.
- المخاطر الأمنية: يمكن أن يؤدي فقدان التعليمات — مثل متطلبات التحقق من خلال العنصر البشري (human-in-the-loop) — إلى إجراءات غير مصرح بها من قبل الوكيل وتعريض الأمن للخطر.
- الإصلاحات المعيارية: يمكن لاستخدام نموذج صغير ومتخصص مثل Qwen3.5-9B لتتبع القيود بشكل منفصل أن يعيد نسبة الاحتفاظ بالتعليمات إلى أكثر من 90%.