کیوں AI کانٹیکسٹ کمپریشن خاموشی سے آپ کی ہدایات کو نظر انداز کر رہا ہے
جیسے جیسے Large Language Models (LLMs) کے ساتھ گفتگو طویل ہوتی جاتی ہے، ڈویلپرز ٹوکن کی حدود کو سنبھالنے اور کارکردگی میں رکاوٹوں سے بچنے کے لیے "context compression" یا compaction پر تیزی سے انحصار کر رہے ہیں۔ تاہم، نئی تحقیق اس آپٹیمائزیشن میں ایک سنگین نقص کو ظاہر کرتی ہے: جب AI سسٹمز جگہ بچانے کے لیے گفتگو کی تاریخ کا خلاصہ کرتے ہیں، تو وہ اکثر ان قوانین کو ہی نظر انداز کر دیتے ہیں جو ان کے طرزِ عمل کو کنٹرول کرنے کے لیے بنائے گئے ہوتے ہیں۔
سیشن کی پابندیوں (Session Constraints) کی نزاکت
جب کوئی AI سسٹم compaction سے گزرتا ہے، تو اس کا بنیادی مقصد کام کے تسلسل کو برقرار رکھنا ہوتا ہے—یعنی مقصد، موجودہ حالت، اور ضروری اگلے اقدامات کو برقرار رکھنا۔ اگرچہ یہ گفتگو کے "کیا" (what) کو محفوظ رکھتا ہے، لیکن یہ اکثر "کیسے" (how) کی قربانی دے دیتا ہے۔
Penn State کے محققین نے نشاندہی کی ہے کہ "session constraints" اس عمل کے اولین متاثرین ہوتے ہیں۔ یہ غیر مستقل، صارف کی طرف سے لگائی گئی پابندیاں ہیں جیسے کہ "اپنے جوابات میں کبھی میرا نام استعمال نہ کریں" یا "کوئی بھی تبدیلی کرنے سے پہلے مجھ سے تصدیق کریں۔" چونکہ یہ ہدایات بنیادی کام یا مستقل سسٹم پرامپٹ کا حصہ نہیں ہوتیں، اس لیے کمپریشن الگورتھم انہیں ثانوی تفصیلات سمجھتے ہیں اور زیادہ متعلقہ ڈیٹا کے لیے جگہ بنانے کے لیے انہیں حذف کر دیتے ہیں۔
COMPINT کے نتائج: صرف 17 فیصد بقا کی شرح
اس تنزلی کی پیمائش کے لیے، محققین نے COMPINT ایویلیوایشن سویٹ تیار کیا۔ نتائج انتہائی حیران کن ہیں: اوسطاً، شامل کی گئی سیشن پابندیوں (session constraints) میں سے صرف 17 فیصد ہی کمپریشن کے عمل میں محفوظ رہ پاتی ہیں۔
مطالعہ میں قواعد کی تعمیل میں نمایاں کمی کو اجاگر کیا گیا ہے۔ جب کسی ایجنٹ کے پاس مکمل، غیر کمپریس شدہ کانٹیکسٹ تک رسائی ہوتی ہے، تو تعمیل کی شرح عام طور پر 59% سے 71% کے درمیان ہوتی ہے۔ ایک بار جب compaction ہو جاتا ہے، تو تعمیل کی شرح تیزی سے گر جاتی ہے، اور اکثر ایسے درجے تک پہنچ جاتی ہے جہاں اس میں اور اس صورتحال میں کوئی فرق محسوس نہیں ہوتا جہاں کوئی پابندی فراہم ہی نہ کی گئی ہو۔
یہ محض گفتگو کے انداز کا معاملہ نہیں ہے؛ بلکہ یہ سیکورٹی اور بھروسہ مندی کا ایک بڑا خطرہ ہے۔ ایجنٹک ورک فلو (agentic workflows) میں، "بغیر منظوری کے کوڈ ایگزیکیوٹ نہ کریں" جیسی پابندی کا ضائع ہونا غیر مجاز ٹول کالز، ڈیٹا لیک، یا کیلنڈر یا ای میل جیسے بیرونی سسٹمز میں غیر تصدیق شدہ تبدیلیوں کا باعث بن سکتا ہے۔
Qwen3.5-9B کے ذریعے ایک ہلکا پھلکا حل
بڑے AI لیبز کے پیچیدہ کمپریشن لاجک کو مکمل طور پر تبدیل کرنے کے بجائے، محققین نے ایک "plug-and-play" آرکیٹیکچرل حل تجویز کیا ہے۔ انہوں نے Qwen3.5-9B ماڈل پر مبنی ایک چھوٹا ایڈ آن ماڈیول تیار کیا ہے جسے ایک خصوصی ایکسٹریکٹر (extractor) کے طور پر کام کرنے کے لیے ڈیزائن کیا گیا ہے۔
یہ ماڈیول درج ذیل طریقوں سے کام کرتا ہے:
- سیشن کی پابندیوں کو پہچاننے اور الگ کرنے کے لیے ریئل ٹائم میں ہر صارف کے ان پٹ کو اسکین کرنا۔
- ان قواعد کی ایک مخصوص اور آزاد فہرست برقرار رکھنا۔
- جب بھی مین سسٹم compaction کرتا ہے، اس خلاصے کے ساتھ اس نچوڑ شدہ فہرست کو شامل کرنا۔
اس طریقہ کار کے نتائج انتہائی مؤثر ہیں۔ ایکسٹریکٹر نے مختلف ٹیسٹنگ منظرناموں میں 90 فیصد سے زیادہ بچاؤ (retention) حاصل کیا، بشمول ایجنٹ ٹریجیکٹریز (agent trajectories) کے لیے 95.6% کامیابی کی شرح اور ملٹی ٹرن چیٹس (multi-turn chats) کے لیے 90.3%۔ چونکہ اس طریقے میں بنیادی ماڈل کی دوبارہ تربیت (retraining) اور موجودہ کمپریشن انفراسٹرکچر میں کسی تبدیلی کی ضرورت نہیں ہوتی، اس لیے یہ زیادہ قابل بھروسہ لانگ کانٹیکسٹ AI تعاملات کی طرف ایک قابل توسیع راستہ فراہم کرتا ہے۔
اہم نکات
- پابندیوں کا مٹ جانا: کانٹیکسٹ کمپریشن طرزِ عمل کے قواعد کے مقابلے میں کام کے اہداف کو ترجیح دیتی ہے، جس کی وجہ سے خلاصہ سازی کے دوران صارف کی طرف سے لگائی گئی زیادہ تر "session constraints" ضائع ہو جاتی ہیں۔
- سیکورٹی کے خطرات: ہدایات کا ضائع ہونا—جیسے کہ 'human-in-the-loop' تصدیق کی ضروریات—غیر مجاز ایجنٹ ایکشنز اور سیکورٹی کے مسائل کا باعث بن سکتا ہے۔
- ماڈیولر حل: پابندیوں کو الگ سے ٹریک کرنے کے لیے Qwen3.5-9B جیسے چھوٹے اور مخصوص ماڈل کا استعمال ہدایات کے برقرار رہنے کی شرح کو 90 فیصد سے زیادہ تک بحال کر سکتا ہے۔