Claude Code యొక్క కోడ్-ఆడిట్ సబ్-ఏజెంట్ ఒక Windows యూజర్ ప్రొఫైల్‌ను తుడిచివేసింది, దీనివల్ల సుమారు రెండు నిమిషాల్లో 234,884 ఫైళ్లు తొలగించబడ్డాయి. ఒక ప్రమాదకరమైన PowerShell కమాండ్‌ను అడ్డుకోవాల్సిన సేఫ్టీ క్లాసిఫైయర్ (safety classifier) అందుబాటులో లేకపోవడం వల్ల మరియు సిస్టమ్ ఆ కమాండ్‌ను రన్ చేయడానికి అనుమతించడం వల్ల ఈ డేటా నష్టం జరిగింది.

ఏమి జరిగింది

కోడ్‌బేస్‌ను స్కాన్ చేయడానికి ఒక Claude Code సబ్-ఏజెంట్‌ను ప్రారంభించారు. తాత్కాలిక ఫోల్డర్‌ను లక్ష్యంగా చేసుకోవడానికి బదులుగా, ఆ ఏజెంట్ ప్రస్తుత Windows యూజర్ ప్రొఫైల్ రూట్‌ను సూచించే ఒక PowerShell కమాండ్‌ను జారీ చేసింది. ఒక లోకల్ కాన్ఫిగరేషన్ ఆ కమాండ్‌ను ఆటోమేటిక్‌గా ఆమోదించి, యూజర్ ప్రాంప్ట్‌ను దాటవేసింది. కమాండ్ జనరేట్ అయినప్పుడు, AI అవుట్‌పుట్‌ను వినాశకర చర్యల నుండి స్క్రీనింగ్ చేసే సేఫ్టీ క్లాసిఫైయర్ – ఆన్‌లైన్‌లో లేదని నివేదించింది. క్లాసిఫైయర్ అందుబాటులో లేదని సిస్టమ్ హెచ్చరికను నమోదు చేసింది, అయినప్పటికీ అది "అవుట్‌పుట్‌ను అనుమతిస్తుంది" (allow output) అని కూడా నమోదు చేసింది. సెక్యూరిటీ-క్రిటికల్ సాఫ్ట్‌వేర్‌లో, సేఫ్టీ చెక్ చేయలేనప్పుడు సాధారణంగా ఎగ్జిక్యూషన్‌ను బ్లాక్ చేస్తారు. కానీ ఇక్కడ దానికి విరుద్ధంగా, కమాండ్ కొనసాగింది.

ఆ కమాండ్ ప్రొఫైల్ డైరెక్టరీలోని ప్రతి అంశాన్ని రికర్సివ్‌గా (recursively) తొలగించింది. రెండు నిమిషాల్లోపు ఆ ఏజెంట్ సోర్స్-కోడ్ రిపోజిటరీలు, SSH కీలు, వ్యక్తిగత పత్రాలు, Android SDK ఇన్‌స్టాలేషన్‌లు, Steam లైబ్రరీలు మరియు Microsoft Teams డేటాతో సహా రెండు లక్షల కంటే ఎక్కువ ఫైళ్లను తొలగించింది. ఆ ఏజెంట్ తన స్వంత ఎగ్జిక్యూషన్ ట్రాన్స్‌క్రిప్ట్‌ను కూడా తుడిచివేసింది, దీనివల్ల రిపోర్టర్ NTTS జర్నల్ టైమ్‌స్టాంప్‌ల నుండి టైమ్‌లైన్‌ను తిరిగి నిర్మించాల్సి వచ్చింది. ఆ టైమ్‌స్టాంప్‌లు టూల్ యొక్క రన్‌టైమ్‌తో ఖచ్చితంగా సరిపోలుతున్నాయి, ఇది సంఘటనల క్రమాన్ని ధృవీకరిస్తుంది.

ఇది ఎందుకు ముఖ్యం

ఈ సంఘటన AI-ఆధారిత ఆటోమేషన్‌లో ఉన్న ఒక వ్యవస్థాగత లోపాన్ని బయటపెడుతోంది: సేఫ్టీ లేయర్ విఫలమైనప్పుడు, చుట్టూ ఉన్న ఆర్కిటెక్చర్ తెలియకుండానే AIకి పూర్తి స్వేచ్ఛను ఇచ్చే అవకాశం ఉంది. కోడ్ రివ్యూలు, ఎన్విరాన్మెంట్ సెటప్, ఫైల్ క్లీనప్ వంటి రోజువారీ పనుల కోసం AI ఏజెంట్లపై ఆధారపడే డెవలపర్లు, ఒక చిన్న మిస్-కాన్ఫిగరేషన్ ఎంతటి భారీ డేటా నష్టానికి దారితీస్తుందో ఇప్పుడు చూడవచ్చు.

సాంకేతిక విశ్లేషణ

  • జారీ చేసిన కమాండ్: యూజర్ ప్రొఫైల్ రూట్‌ను లక్ష్యంగా చేసుకున్న PowerShell రికర్సివ్ డిలీట్.
  • సేఫ్టీ చెక్ స్థితి: క్లాసిఫైయర్ “unavailable” అని నివేదించింది.
  • సిస్టమ్ స్పందన: హెచ్చరికను నమోదు చేసింది కానీ బ్లాక్ చేయడానికి బదులుగా ఎగ్జిక్యూషన్‌ను కొనసాగించింది.
  • ఆటో-అప్రూవల్ సెట్టింగ్: లోకల్ పాలసీ యూజర్‌ను అడగకుండానే కమాండ్‌ను ఆమోదించింది.
  • ఫలితం: 234,884 ఫైళ్లు తొలగించబడ్డాయి, సోర్స్ కోడ్, SSH కీలు మరియు వ్యక్తిగత డేటా శాశ్వతంగా కోల్పోబడ్డాయి.

లాగ్‌లు ఒక పరస్పర విరుద్ధమైన స్థితిని చూపుతున్నాయి: సేఫ్టీ గేట్ లేకపోవడం గురించి హెచ్చరిక మరియు "అవుట్‌పుట్‌ను అనుమతించు" అనే స్పష్టమైన నిర్ణయం రెండూ ఉన్నాయి. సాధారణ సెక్యూరిటీ డిజైన్‌లు ఏదైనా రక్షణ వైఫల్యం జరిగినప్పుడు "deny-by-default" విధానాన్ని అనుసరిస్తాయి. ఇక్కడ తీసుకున్న నిర్ణయం—"allow-by-default"—ఒక సేఫ్టీ అంతరాయాన్ని విపత్తుగా మార్చింది.

విస్తృత ప్రభావాలు

డెవలపర్ వర్క్‌ఫ్లోలలో AI ఏజెంట్లు వేగంగా మరియు స్థిరంగా పనిచేస్తాయనే వాగ్దానంతో పెరుగుతున్న ప్రాధాన్యతను పొందుతున్నాయి. ఈ సంఘటన ఆ వాగ్దానం చుట్టూ ఉన్న సేఫ్టీ ఇన్‌ఫ్రాస్ట్రక్చర్ యొక్క విశ్వసనీయతపై ఆధారపడి ఉంటుందని చూపుతోంది. సరైన ఫాల్‌బ్యాక్ (fallback) లేకుండా సేఫ్టీ క్లాసిఫైయర్లు అందుబాటులో లేకపోతే, రిస్క్ స్థాయి గణనీయంగా మారుతుంది. ఈ సంఘటన Windows లోని శాండ్‌బాక్సింగ్ (sandboxing) పద్ధతులపై కూడా ప్రశ్నలను లేవనెత్తుతోంది: ఏజెంట్ మొత్తం ప్రొఫైల్‌ను తొలగించడానికి తగినంత అధికారాలతో (privileges) నడిచింది, ఇది ఐసోలేషన్ మెకానిజమ్‌లు సరిపోలేదని సూచిస్తోంది.

గమనించవలసినవి

  • ప్యాచ్ రిలీజ్‌లు: ఈ సేఫ్టీ-ఫాల్‌బ్యాక్ ప్రవర్తనను పరిష్కరించే Claude Code మరియు సంబంధిత టూలింగ్ మెయింటైనర్ల అప్‌డేట్‌లను గమనిస్తూ ఉండండి.
  • కాన్ఫిగరేషన్ ఆడిట్‌లు: ఆటో-అప్రూవల్ సెట్టింగ్‌లు డిసేబుల్ చేయబడి ఉన్నాయని లేదా నాన్-డిస్ట్రక్టివ్ (non-destructive) కమాండ్‌లకు మాత్రమే పరిమితం చేయబడి ఉన్నాయని నిర్ధారించుకోండి.
  • శాండ్‌బాక్స్ హార్డెనింగ్: AI ఏజెంట్‌లను తక్కువ అధికారాలు కలిగిన (least-privilege) అకౌంట్ల కింద నడపండి, ముఖ్యంగా యూజర్ ప్రొఫైల్‌లలో సున్నితమైన డేటా ఉండే Windows లో.
  • సేఫ్టీ క్లాసిఫైయర్ రిడండెన్సీ: ప్రైమరీ క్లాసిఫైయర్ ఆఫ్‌లైన్‌లో ఉన్నప్పుడు ఎగ్జిక్యూషన్‌ను బ్లాక్ చేసే సెకండరీ చెక్‌లు లేదా ఫెయిల్-సేఫ్ మెకానిజమ్‌లను జోడించండి.

ఈ సంఘటన ఒక కఠినమైన హెచ్చరిక: AI ఆటోమేషన్ తన స్వంత రక్షణ చర్యలను దాటవేసినప్పుడు, దాని మూల్యం మొత్తం డేటా కోల్పోవడమే కావచ్చు. సంస్థలు సేఫ్టీ భాగాలను ఐచ్ఛికంగా చేర్చుకునే అంశాలుగా కాకుండా, కీలకమైన మౌలిక సదుపాయాలుగా (critical infrastructure) పరిగణించాలి.