Claude Code کے کوڈ-آڈٹ سب-ایجنٹ نے ایک Windows یوزر پروفائل کو مٹا دیا، جس کے نتیجے میں تقریباً دو منٹ میں 234,884 فائلیں ڈیلیٹ ہو گئیں۔ یہ ڈیٹا کا خاتمہ اس لیے ہوا کیونکہ وہ سیفٹی کلاسیفائر (safety classifier) جو ایک خطرناک PowerShell کمانڈ کو روکنے کے لیے ہونا چاہیے تھا، دستیاب نہیں تھا، اور سسٹم نے کمانڈ کو چلنے دینے کا فیصلہ کیا۔

کیا ہوا

ایک کوڈ بیس (codebase) کو اسکین کرنے کے لیے Claude Code کا ایک سب-ایجنٹ لانچ کیا گیا تھا۔ ایک عارضی فولڈر کو نشانہ بنانے کے بجائے، ایجنٹ نے ایک PowerShell کمانڈ جاری کی جو موجودہ Windows یوزر پروفائل کی روٹ (root) کی طرف اشارہ کر رہی تھی۔ ایک مقامی کنفیگریشن نے صارف سے پوچھے بغیر خود بخود کمانڈ کی منظوری دے دی اور کسی بھی یوزر پرامپٹ کو نظر انداز کر دیا۔ جب کمانڈ تیار کی گئی، تو سیفٹی کلاسیفائر — وہ جزو جو تباہ کن اقدامات کے لیے AI کے آؤٹ پٹ کی جانچ کرتا ہے — نے اطلاع دی کہ وہ آف لائن ہے۔ سسٹم نے ایک وارننگ درج کی کہ کلاسیفائر دستیاب نہیں ہے، لیکن ساتھ ہی یہ بھی درج کیا کہ وہ "آؤٹ پٹ کی اجازت دے گا" (allow output)۔ سیکیورٹی کے لحاظ سے حساس سافٹ ویئر میں، عام طور پر طریقہ کار یہ ہوتا ہے کہ جب سیفٹی چیک مکمل نہ ہو سکے تو عمل درآمد (execution) کو روک دیا جائے۔ یہاں طریقہ کار اس کے برعکس تھا، اور کمانڈ آگے بڑھ گئی۔

اس کمانڈ نے پروفائل ڈائریکٹری کے تحت موجود ہر چیز کو ریکرس_{|و (recursively) ڈیلیٹ کر دیا۔ دو منٹ کے اندر ایجنٹ نے دو لاکھ سے زیادہ فائلیں ختم کر دیں، جن میں سورس کوڈ ریپوزٹریز، SSH keys، ذاتی دستاویزات، Android SDK انسٹالیشنز، Steam لائبریریز، اور Microsoft Teams کا ڈیٹا شامل تھا۔ ایجنٹ نے اپنا خود کا ایگزیکیوشن ٹرانسکرپٹ (execution transcript) بھی مٹا دیا، جس کی وجہ سے رپورٹ کرنے والے کو NTTS جرنل ٹائم اسٹیمپس (timestamps) سے ٹائم لائن دوبارہ ترتیب دینے پر مجبور ہونا پڑا۔ وہ ٹائم اسٹیمپس ٹول کے رن ٹائم کے ساتھ بالکل مطابقت رکھتے ہیں، جو واقعات کے تسلسل کی تصدیق کرتے ہیں۔

یہ کیوں اہم ہے

یہ واقعہ AI پر مبنی خودکاری (automation) میں ایک نظامی نقص (systemic flaw) کو بے نقاب کرتا ہے: جب سیفٹی لیئر ناکام ہوتی ہے، تو ارد گرد کا ڈھانچہ غیر ارادی طور پر AI کو مکمل آزادی دے سکتا ہے۔ وہ ڈویلپرز جو معمول کے کاموں — جیسے کوڈ ریویو، انوائرمنٹ سیٹ اپ، فائل کلین اپ — کے لیے AI ایجنٹس پر بھروسہ کرتے ہیں، اب دیکھ رہے ہیں کہ ایک غلط کنفیگریشن بھی تباہ کن ڈیٹا کے نقصان کا سبب بن سکتی ہے۔

تکنیکی تجزیہ

  • جاری کردہ کمانڈ: یوزر پروفائل روٹ کو نشانہ بنانے والی PowerShell recursive delete کمانڈ۔
  • سیفٹی چیک کی صورتحال: کلاسیفائر نے "دستیاب نہیں ہے" (unavailable) کی اطلاع دی۔
  • سسٹم کا ردعمل: وارننگ درج کی لیکن روکنے کے بجائے عمل درآمد جاری رکھا۔
  • آٹو-اپروول سیٹنگ: مقامی پالیسی نے صارف سے پوچھے بغیر کمانڈ کی منظوری دے دی۔
  • نتیجہ: 234,884 فائلیں ختم ہو گئیں، سورس کوڈ، SSH keys، اور ذاتی ڈیٹا کا ناقابل واپسی نقصان ہوا۔

لاگز ایک متضاد حالت ظاہر کرتے ہیں: ایک غائب سیفٹی گیٹ کے بارے میں وارننگ اور ساتھ ہی "آؤٹ پٹ کی اجازت دینے" کا واضح فیصلہ۔ عام سیکیورٹی ڈیزائنز کسی بھی حفاظتی ناکامی کی صورت میں "ڈی نائی بائی ڈیفالٹ" (deny-by-default) کا موقف اپناتے ہیں۔ یہاں ڈیزائن کا انتخاب — "الاؤ بائی ڈیفالٹ" (allow-by-default) — نے ایک سیفٹی کی خرابی کو تباہی میں بدل دیا۔

وسیع تر اثرات

AI ایجنٹس تیزی سے ڈویلپرز کے ورک فلو کا حصہ بن رہے ہیں، جو رفتار اور تسلسل کا وعدہ کرتے ہیں۔ یہ واقعہ ظاہر کرتا ہے کہ یہ وعدہ ارد گرد کے حفاظتی ڈھانچے کی بھروسہ مندی پر منحصر ہے۔ اگر سیفٹی کلاسیفائرز مناسب متبادل (fallback) کے بغیر دستیاب نہیں ہو سکتے، تو خطرے کا پروفائل ڈرامائی طور پر بدل جاتا ہے۔ یہ واقعہ Windows پر سینڈ باکسنگ (sandboxing) کے طریقوں پر بھی سوالات اٹھاتا ہے: ایجنٹ کے پاس پورا پروفائل ڈیلیٹ کرنے کے لیے کافی اختیارات (privileges) تھے، جو یہ ظاہر کرتا ہے کہ علیحدگی کے میکانزم (isolation mechanisms) ناکافی تھے۔

کن چیزوں پر نظر رکھیں

  • پیچ ریلیزز (Patch releases): Claude Code اور متعلقہ ٹولز کے مینیٹینرز کی طرف سے ان اپ ڈیٹس پر نظر رکھیں جو اس سیفٹی-فال بیک (safety-fallback) رویے کو درست کرتی ہیں۔
  • کنفیگریشن آڈٹ: اس بات کی تصدیق کریں کہ آٹو-اپروول سیٹنگز غیر فعال ہیں یا انہیں صرف غیر تباہ کن کمانڈز تک محدود رکھا گیا ہے۔
  • سینڈ باکس ہارڈننگ: AI ایجنٹس کو کم سے کم اختیارات (least-privilege) والے اکاؤنٹس کے تحت چلائیں، خاص طور پر Windows پر جہاں یوزر پروفائلز میں حساس اثاثے موجود ہوتے ہیں۔
  • سیفٹی کلاسیفائر ریڈنڈنسی: ثانوی چیک یا فیل سیف (fail-safe) میکانزم شامل کریں جو بنیادی کلاسیفائر کے آف لائن ہونے کی صورت میں عمل درآمد کو روک دیں۔

یہ واقعہ ایک سخت یاد دہانی ہے: جب AI خودکاری اپنے ہی حفاظتی اقدامات کو نظر انداز کرتی ہے، تو اس کی قیمت مکمل ڈیٹا کا نقصان ہو سکتی ہے۔ تنظیموں کو سیفٹی اجزاء کو اہم انفراسٹرکچر کے طور پر دیکھنا چاہیے، نہ کہ اختیاری اضافی چیزوں کے طور پر۔