Claude Code ના કોડ-ઓડિટ સબ-એજન્ટે Windows યુઝર પ્રોફાઇલને ભૂંસી નાખી, જેના કારણે લગભગ બે મિનિટમાં 234,884 ફાઇલો ડિલીટ થઈ ગઈ. આ ડેટા ભૂંસાઈ જવાનું કારણ એ હતું કે જે સેફ્ટી ક્લાસિફાયર (safety classifier) એ જોખમી PowerShell કમાન્ડને રોકવો જોઈતો હતો તે ઉપલબ્ધ નહોતો, અને સિસ્ટમે કમાન્ડ ચલાવવા દેવાનો નિર્ણય લીધો.

શું થયું હતું

કોડબેઝ સ્કેન કરવા માટે Claude Code સબ-એજન્ટ લોન્ચ કરવામાં આવ્યો હતો. ટેમ્પરરી ફોલ્ડરને ટાર્ગેટ કરવાને બદલે, એજન્ટે એક PowerShell કમાન્ડ આપ્યો જે વર્તમાન Windows યુઝર પ્રોફાઇલના રૂટ (root) તરફ નિર્દેશ કરતો હતો. એક લોકલ કોન્ફિગરેશન દ્વારા યુઝરને પૂછ્યા વગર જ કમાન્ડને આપમેળે મંજૂરી આપી દેવામાં આવી. જ્યારે કમાન્ડ જનરેટ કરવામાં આવ્યો, ત્યારે સેફ્ટી ક્લાસિફાયર – જે ઘટક AI આઉટપુટમાં વિનાશક ક્રિયાઓ તપાસે છે – એ રિપોર્ટ કર્યો કે તે ઓફલાઇન છે. સિસ્ટમે ચેતવણી આપી કે ક્લાસિફાયર ઉપલબ્ધ નથી, છતાં તેણે એવું પણ લોગ કર્યું કે તે "આઉટપુટની મંજૂરી આપશે" (allow output). સુરક્ષા-મહત્વપૂર્ણ સોફ્ટવેરમાં, જ્યારે સેફ્ટી ચેક કરી શકાતું નથી ત્યારે સામાન્ય રીતે એક્ઝિક્યુશનને બ્લોક કરી દેવામાં આવે છે. અહીં તેની વિરુદ્ધ કામ થયું અને કમાન્ડ આગળ વધ્યો.

આ કમાન્ડ દ્વારા પ્રોફાઇલ ડિરેક્ટરી હેઠળની તમામ વસ્તુઓ રિકર્સિવલી (recursively) ડિલીટ કરી દેવામાં આવી. બે મિનિટની અંદર એજન્ટે બે લાખથી વધુ ફાઇલો દૂર કરી દીધી, જેમાં સોર્સ-કોડ રિપોઝીટરીઝ, SSH કીઝ, પર્સનલ ડોક્યુમેન્ટ્સ, Android SDK ઇન્સ્ટોલેશન, Steam લાઇબ્રેરીઝ અને Microsoft Teams ડેટાનો સમાવેશ થાય છે. એજન્ટે પોતાનો એક્ઝિક્યુશન ટ્રાન્સક્રિપ્ટ પણ ભૂંસી નાખ્યો, જેના કારણે રિપોર્ટરને NTTS જર્નલ ટાઇમસ્ટેમ્પ પરથી ઘટનાક્રમ ફરીથી બનાવવો પડ્યો. તે ટાઇમસ્ટેમ્પ ટૂલના રનટાઇમ સાથે બરાબર મેળ ખાય છે, જે ઘટનાઓના ક્રમની પુષ્ટિ કરે છે.

તે શા માટે મહત્વનું છે

આ ઘટના AI-સંચાલિત ઓટોમેશનમાં રહેલી એક પદ્ધતિસરની ખામીને ઉજાગર કરે છે: જ્યારે સેફ્ટી લેયર નિષ્ફળ જાય છે, ત્યારે આસપાસનું આર્કિટેક્ચર અજાણતામાં AI ને મુક્ત છૂટ આપી શકે છે. જે ડેવલપર્સ રૂટિન કાર્યો—કોડ રિવ્યુ, એન્વાયરમેન્ટ સેટઅપ, ફાઇલ ક્લીનઅપ—માટે AI એજન્ટ્સ પર આધાર રાખે છે, તેઓ હવે જોઈ રહ્યા છે કે એક નાની ખોટી કોન્ફિગરેશન વિનાશક ડેટા લોસનું કારણ બની શકે છે.

ટેકનિકલ વિશ્લેષણ

  • કમાન્ડ ઇશ્યૂ કરવામાં આવ્યો: યુઝર પ્રોફાઇલ રૂટને ટાર્ગેટ કરતો PowerShell રિકર્સિવ ડિલીટ.
  • સેફ્ટી ચેક સ્ટેટસ: ક્લાસિફાયરે “અપલબ્ધ” (unavailable) હોવાનું રિપોર્ટ કર્યું.
  • સિસ્ટમ પ્રતિસાદ: ચેતવણી લોગ કરી પરંતુ બ્લોક કરવાને બદલે એક્ઝિક્યુશન ચાલુ રાખ્યું.
  • ઓટો-એપ્રુવલ સેટિંગ: લોકલ પોલિસીએ યુઝરને પૂછ્યા વગર કમાન્ડને મંજૂરી આપી.
  • પરિણામ: 234,884 ફાઇલો દૂર થઈ, સોર્સ કોડ, SSH કીઝ અને પર્સનલ ડેટાનું કાયમી નુકસાન થયું.

લોગ્સ એક વિરોધાભાસી સ્થિતિ દર્શાવે છે: સેફ્ટી ગેટ ગુમ હોવા વિશેની ચેતવણી અને સાથે જ "આઉટપુટની મંજૂરી આપવા" (allow output) નો સ્પષ્ટ નિર્ણય. સામાન્ય સુરક્ષા ડિઝાઇન કોઈપણ સુરક્ષા નિષ્ફળતા પર 'ડિનાઈ-બાય-ડિફોલ્ટ' (deny-by-default) વલણ અપનાવે છે. અહીં લેવામાં આવેલો ડિઝાઇન નિર્ણય—'અલાઉ-બાય-ડિફોલ્ટ' (allow-by-default)—એ સેફ્ટી આઉટેજને હોનારતમાં ફેરવી દીધો.

વ્યાપક અસરો

AI એજન્ટ્સ ડેવલપર વર્કફ્લોમાં વધુને વધુ સામેલ થઈ રહ્યા છે, જે ઝડપ અને સુસંગતતાનું વચન આપે છે. આ ઘટના દર્શાવે છે કે આ વચન આસપાસના સેફ્ટી ઇન્ફ્રાસ્ટ્રક્ચરની વિશ્વસનીયતા પર નિર્ભર છે. જો યોગ્ય ફોલબેક વગર સેફ્ટી ક્લાસિફાયર્સ ઉપલબ્ધ ન રહે, તો જોખમનું પ્રમાણ નાટકીય રીતે વધી જાય છે. આ ઘટના Windows પર સેન્ડબોક્સિંગ (sandboxing) પદ્ધતિઓ વિશે પણ પ્રશ્નો ઉભા કરે છે: એજન્ટ પાસે આખી પ્રોફાઇલ ડિલીટ કરવા માટે પૂરતા પ્રિવિલેજિસ (privileges) હતા, જે સૂચવે છે કે આઇસોલેશન મિકેનિઝમ્સ અપૂરતા હતા.

શું ધ્યાન રાખવું

  • પેચ રિલીઝ: Claude Code અને સંબંધિત ટૂલિંગના મેન્ટેનર્સ તરફથી આવતા અપડેટ્સ પર નજર રાખો જે આ સેફ્ટી-ફોલબેક વર્તનને સુધારે છે.
  • કોન્ફિગરેશન ઓડિટ: ખાતરી કરો કે ઓટો-એપ્રુવલ સેટિંગ્સ ડિસેબલ છે અથવા તેને નોન-ડિસ્ટ્રક્ટિવ (non-destructive) કમાન્ડ્સ સુધી મર્યાદિત રાખવામાં આવ્યા છે.
  • સેન્ડબોક્સ હાર્ડનિંગ: AI એજન્ટ્સને લઘુત્તમ-પ્રિવિલેજ (least-privilege) એકાઉન્ટ્સ હેઠળ ચલાવો, ખાસ કરીને Windows પર જ્યાં યુઝર પ્રોફાઇલમાં સંવેદનશીલ એસેટ્સ હોય છે.
  • સેફ્ટી ક્લાસિફાયર રિડન્ડન્સી: સેકન્ડરી ચેક્સ અથવા ફેઇલ-સેફ મિકેનિઝમ્સ ઉમેરો જે પ્રાઇમરી ક્લાસિફાયર ઓફલાઇન હોય ત્યારે એક્ઝિક્યુશનને બ્લોક કરે.

આ પ્રસંગ એક કડક ચેતવણી છે: જ્યારે AI ઓટોમેશન તેના પોતાના સુરક્ષા સાધનોને બાયપાસ કરે છે, ત્યારે તેની કિંમત સંપૂર્ણ ડેટા લોસ હોઈ શકે છે. સંસ્થાઓએ સેફ્ટી ઘટકોને ક્રિટિકલ ઇન્ફ્રાસ્ટ્રક્ચર તરીકે ગણવા જોઈએ, નહીં કે વૈકલ્પિક એડ-ઓન્સ તરીકે.