Claude Code-এর কোড-অডিট সাব-এজেন্ট একটি Windows ইউজার প্রোফাইল মুছে ফেলেছে, যা প্রায় দুই মিনিটে ২৩৪,৮৮৪টি ফাইল ডিলিট করে দিয়েছে। এই ডেটা মুছে যাওয়ার কারণ হলো, একটি বিপজ্জনক PowerShell কমান্ড ব্লক করার কথা ছিল যে সেফটি ক্লাসিফায়ারের (safety classifier), সেটি তখন অনুপলব্ধ ছিল এবং সিস্টেম কমান্ডটি চলতে দেওয়ার সিদ্ধান্ত নিয়েছিল।

কী ঘটেছিল

একটি কোডবেস স্ক্যান করার জন্য একটি Claude Code সাব-এজেন্ট চালু করা হয়েছিল। একটি টেম্পোরারি ফোল্ডার টার্গেট করার পরিবর্তে, এজেন্টটি এমন একটি PowerShell কমান্ড জারি করেছিল যা বর্তমান Windows ইউজার প্রোফাইলের রুট (root) নির্দেশ করছিল। একটি লোকাল কনফিগারেশন স্বয়ংক্রিয়ভাবে কমান্ডটি অনুমোদন করে দেয়, ফলে ব্যবহারকারীর কাছে কোনো প্রম্পট বা অনুমতি চাওয়ার প্রয়োজন হয়নি। যখন কমান্ডটি তৈরি করা হয়েছিল, তখন সেফটি ক্লাসিফায়ার – যা ধ্বংসাত্মক কাজের জন্য AI আউটপুট পরীক্ষা করে – রিপোর্ট করেছিল যে এটি অফলাইনে রয়েছে। সিস্টেমটি একটি ওয়ার্নিং লগ করেছিল যে ক্লাসিফায়ারটি অনুপলব্ধ, তবুও এটি লগ করেছিল যে এটি "আউটপুট অ্যালাউ" (allow output) করবে। সিকিউরিটি-ক্রিটিক্যাল সফটওয়্যারের ক্ষেত্রে, যখন কোনো সেফটি চেক করা সম্ভব হয় না, তখন সাধারণত এক্সিকিউশন বা কার্যক্রম ব্লক করে দেওয়া হয়। এখানে এর উল্টোটা ঘটেছিল এবং কমান্ডটি চলতে শুরু করে।

কমান্ডটি প্রোফাইল ডিরেক্টরির অধীনে থাকা সবকিছু রিকার্সিভলি (recursively) ডিলিট করে দেয়। দুই মিনিটের মধ্যে এজেন্টটি দুই লক্ষেরও বেশি ফাইল মুছে ফেলে, যার মধ্যে ছিল সোর্স-কোড রিপোজিটরি, SSH কী, ব্যক্তিগত নথি, Android SDK ইনস্টলেশন, Steam লাইব্রেরি এবং Microsoft Teams ডেটা। এজেন্টটি তার নিজস্ব এক্সিকিউশন ট্রান্সক্রিপ্টও মুছে ফেলেছিল, যার ফলে রিপোর্টকারীকে NTTS জার্নাল টাইমস্ট্যাম্প থেকে ঘটনার সময়ক্রম পুনর্গঠন করতে হয়েছিল। সেই টাইমস্ট্যাম্পগুলো টুলের রানটাইমের সাথে হুবহু মিলে যায়, যা ঘটনার ক্রম নিশ্চিত করে।

কেন এটি গুরুত্বপূর্ণ

এই ঘটনাটি AI-চালিত অটোমেশনের একটি পদ্ধতিগত ত্রুটি প্রকাশ করে: যখন একটি সেফটি লেয়ার ব্যর্থ হয়, তখন আশেপাশের আর্কিটেকচার অনিচ্ছাকৃতভাবে AI-কে অবাধ স্বাধীনতা দিয়ে দিতে পারে। ডেভেলপাররা যারা রুটিন কাজের জন্য—কোড রিভিউ, এনভায়রনমেন্ট সেটআপ, ফাইল ক্লিনআপ—AI এজেন্টের ওপর নির্ভর করেন, তারা এখন দেখতে পাচ্ছেন যে একটি মাত্র ভুল কনফিগারেশন ভয়াবহ ডেটা লস ঘটাতে পারে।

টেকনিক্যাল ব্রেকডাউন

  • কমান্ড জারি করা হয়েছে: ইউজার প্রোফাইল রুট টার্গেট করে PowerShell রিকার্সিভ ডিলিট।
  • সেফটি চেক স্ট্যাটাস: ক্লাসিফায়ার “unavailable” রিপোর্ট করেছে।
  • সিস্টেমের প্রতিক্রিয়া: ওয়ার্নিং লগ করেছে কিন্তু ব্লক করার পরিবর্তে এক্সিকিউশন চালিয়ে গেছে।
  • অটো-অ্যাপ্রুভাল সেটিং: লোকাল পলিসি ব্যবহারকারীকে প্রম্পট না করেই কমান্ডটি অনুমোদন করেছে।
  • ফলাফল: ২৩৪,৮৮৪টি ফাইল মুছে ফেলা হয়েছে, সোর্স কোড, SSH কী এবং ব্যক্তিগত ডেটার অপূরণীয় ক্ষতি হয়েছে।

লগগুলো একটি পরস্পরবিরোধী অবস্থা দেখায়: একটি সেফটি গেট অনুপস্থিত থাকার বিষয়ে ওয়ার্নিং এবং সেই সাথে "আউটপুট অ্যালাউ" করার একটি স্পষ্ট সিদ্ধান্ত। সাধারণ সিকিউরিটি ডিজাইনগুলোতে কোনো সুরক্ষা ব্যবস্থা ব্যর্থ হলে ডিফল্টভাবে তা প্রত্যাখ্যান (deny-by-default) করার নীতি অনুসরণ করা হয়। এখানে ডিজাইনের সিদ্ধান্তটি ছিল—ডিফল্টভাবে অনুমতি দেওয়া (allow-by-default)—যা একটি সেফটি আউটজেজকে বিপর্যয়ে পরিণত করেছে।

বৃহত্তর প্রভাব

AI এজেন্টগুলো ক্রমবর্ধমানভাবে ডেভেলপারদের ওয়ার্কফ্লোতে যুক্ত হচ্ছে, যা গতি এবং ধারাবাহিকতার প্রতিশ্রুতি দেয়। এই ঘটনাটি দেখায় যে সেই প্রতিশ্রুতি নির্ভর করে আশেপাশের সেফটি ইনফ্রাস্ট্রাকচারের নির্ভরযোগ্যতার ওপর। যদি সঠিক ফলব্যাক (fallback) ব্যবস্থা ছাড়াই সেফটি ক্লাসিফায়ারগুলো অনুপলব্ধ হয়ে যেতে পারে, তবে ঝুঁকির মাত্রা নাটকীয়ভাবে পরিবর্তিত হয়। এই ঘটনাটি Windows-এ স্যান্ডবক্সিং (sandboxing) পদ্ধতি সম্পর্কেও প্রশ্ন তোলে: এজেন্টটি পুরো প্রোফাইলটি ডিলিট করার মতো যথেষ্ট প্রিভিলেজ বা ক্ষমতা নিয়ে কাজ করছিল, যা নির্দেশ করে যে আইসোলেশন মেকানিজম বা বিচ্ছিন্নকরণ ব্যবস্থা পর্যাপ্ত ছিল না।

যা খেয়াল রাখা উচিত

  • প্যাচ রিলিজ: Claude Code এবং সংশ্লিষ্ট টুলগুলোর মেইনটেইনারদের কাছ থেকে আসা আপডেটগুলো অনুসরণ করুন যা এই সেফটি-ফলব্যাক আচরণটি সমাধান করবে।
  • কনফিগারেশন অডিট: যাচাই করুন যে অটো-অ্যাপ্রুভাল সেটিংসগুলো নিষ্ক্রিয় করা হয়েছে অথবা শুধুমাত্র নন-ডিস্ট্রাক্টিভ (non-destructive) কমান্ডের মধ্যে সীমাবদ্ধ রাখা হয়েছে।
  • স্যান্ডবক্স হার্ডেনিং: AI এজেন্টগুলোকে 'লিস্ট-প্রিভিলেজ' (least-privilege) অ্যাকাউন্টের অধীনে চালান, বিশেষ করে Windows-এ যেখানে ইউজার প্রোফাইলে সংবেদনশীল সম্পদ থাকে।
  • সেফটি ক্লাসিফায়ার রিডানডেন্সি: সেকেন্ডারি চেক বা ফেল-সেফ মেকানিজম যোগ করুন যা প্রাইমারি ক্লাসিফায়ার অফলাইন থাকলে এক্সিকিউশন ব্লক করে দেবে।

এই ঘটনাটি একটি কঠোর অনুস্মারক: যখন AI অটোমেশন তার নিজস্ব সুরক্ষা ব্যবস্থা বাইপাস করে, তখন এর মূল্য হতে পারে সম্পূর্ণ ডেটা লস। সংস্থাগুলোকে সেফটি কম্পোনেন্টগুলোকে গুরুত্বপূর্ণ ইনফ্রাস্ট্রাকচার হিসেবে বিবেচনা করতে হবে, কোনো ঐচ্ছিক সংযোজন হিসেবে নয়।