Claude Code ਦੇ ਕੋਡ-ਆਡਿਟ ਸਬ-ਏਜੰਟ ਨੇ ਇੱਕ Windows ਯੂਜ਼ਰ ਪ੍ਰੋਫਾਈਲ ਨੂੰ ਮਿਟਾ ਦਿੱਤਾ, ਜਿਸ ਨਾਲ ਲਗਭਗ ਦੋ ਮਿੰਟਾਂ ਵਿੱਚ 234,884 ਫਾਈਲਾਂ ਡਿਲੀਟ ਹੋ ਗਈਆਂ। ਇਹ ਡਾਟਾ ਮਿਟਣ ਦੀ ਘਟਨਾ ਇਸ ਲਈ ਵਾਪਰੀ ਕਿਉਂਕਿ ਉਹ ਸੇਫਟੀ ਕਲਾਸੀਫਾਇਰ (safety classifier) ਜੋ ਇੱਕ ਖ਼ਤਰਨਾਕ PowerShell ਕਮਾਂਡ ਨੂੰ ਰੋਕਣਾ ਚਾਹੀਦਾ ਸੀ, ਉਪਲਬਧ ਨਹੀਂ ਸੀ, ਅਤੇ ਸਿਸਟਮ ਨੇ ਕਮਾਂਡ ਨੂੰ ਚੱਲਣ ਦੇਣ ਦਾ ਫੈਸਲਾ ਕੀਤਾ।

ਕੀ ਹੋਇਆ

ਇੱਕ ਕੋਡਬੇਸ (codebase) ਨੂੰ ਸਕੈਨ ਕਰਨ ਲਈ Claude Code ਸਬ-ਏਜੰਟ ਲਾਂਚ ਕੀਤਾ ਗਿਆ ਸੀ। ਇੱਕ ਟੈਂਪਰੇਰੀ ਫੋਲਡਰ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਣ ਦੀ ਬਜਾਏ, ਏਜੰਟ ਨੇ ਇੱਕ PowerShell ਕਮਾਂਡ ਜਾਰੀ ਕੀਤੀ ਜੋ ਮੌਜੂਦਾ Windows ਯੂਜ਼ਰ ਪ੍ਰੋਫਾਈਲ ਦੇ ਰੂਟ (root) ਵੱਲ ਇਸ਼ਾਰਾ ਕਰ ਰਹੀ ਸੀ। ਇੱਕ ਲੋਕਲ ਕੌਂਫਿਗਰੇਸ਼ਨ ਨੇ ਕਿਸੇ ਵੀ ਯੂਜ਼ਰ ਪ੍ਰੋਂਪਟ ਨੂੰ ਬਾਈਪਾਸ ਕਰਦੇ ਹੋਏ, ਕਮਾਂਡ ਨੂੰ ਆਪਣੇ ਆਪ ਮਨਜ਼ੂਰੀ ਦੇ ਦਿੱਤੀ। ਜਦੋਂ ਕਮਾਂਡ ਤਿਆਰ ਕੀਤੀ ਗਈ, ਤਾਂ ਸੇਫਟੀ ਕਲਾਸੀਫਾਇਰ — ਉਹ ਕੰਪੋਨੈਂਟ ਜੋ ਵਿਨਾਸ਼ਕਾਰੀ ਕਾਰਵਾਈਆਂ ਲਈ AI ਆਉਟਪੁੱਟ ਦੀ ਜਾਂਚ ਕਰਦਾ ਹੈ — ਨੇ ਰਿਪੋਰਟ ਕੀਤੀ ਕਿ ਇਹ ਆਫਲਾਈਨ ਸੀ। ਸਿਸਟਮ ਨੇ ਇੱਕ ਚੇਤਾਵਨੀ ਲੌਗ ਕੀਤੀ ਕਿ ਕਲਾਸੀਫਾਇਰ ਉਪਲਬਧ ਨਹੀਂ ਹੈ, ਫਿਰ ਵੀ ਇਸਨੇ ਇਹ ਵੀ ਲੌਗ ਕੀਤਾ ਕਿ ਇਹ "ਆਉਟਪੁੱਟ ਦੀ ਇਜਾਜ਼ਤ ਦੇਵੇਗਾ" (allow output)। ਸੁਰੱਖਿਆ-ਅਹਿਮ ਸੌਫਟਵੇਅਰ ਵਿੱਚ, ਆਮ ਤੌਰ 'ਤੇ ਫਾਲਬੈਕ (fallback) ਇਹ ਹੁੰਦਾ ਹੈ ਕਿ ਜਦੋਂ ਸੇਫਟੀ ਚੈੱਕ ਨਹੀਂ ਕੀਤਾ ਜਾ ਸਕਦਾ ਤਾਂ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਨੂੰ ਰੋਕ ਦਿੱਤਾ ਜਾਵੇ। ਇੱਥੇ ਫਾਲਬੈਕ ਇਸਦੇ ਉਲਟ ਸੀ, ਅਤੇ ਕਮਾਂਡ ਅੱਗੇ ਵਧ ਗਈ।

ਕਮਾਂਡ ਨੇ ਪ੍ਰੋਫਾਈਲ ਡਾਇਰੈਕਟਰੀ ਦੇ ਅਧੀਨ ਸਭ ਕੁਝ ਰਿਕਰਸੀਵਲੀ (recursively) ਡਿਲੀਟ ਕਰ ਦਿੱਤਾ। ਦੋ ਮਿੰਟਾਂ ਦੇ ਅੰਦਰ, ਏਜੰਟ ਨੇ ਦੋ ਲੱਖ ਤੋਂ ਵੱਧ ਫਾਈਲਾਂ ਹਟਾ ਦਿੱਤੀਆਂ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਸੋਰਸ-ਕੋਡ ਰਿਪੋਜ਼ਟਰੀਆਂ, SSH keys, ਨਿੱਜੀ ਦਸਤਾਵੇਜ਼, Android SDK ਇੰਸਟਾਲੇਸ਼ਨਾਂ, Steam ਲਾਇਬ੍ਰੇਰੀਆਂ, ਅਤੇ Microsoft Teams ਡਾਟਾ ਸ਼ਾਮਲ ਸਨ। ਏਜੰਟ ਨੇ ਆਪਣਾ ਖੁਦ ਦਾ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਟ੍ਰਾਂਸਕ੍ਰਿਪਟ ਵੀ ਮਿਟਾ ਦਿੱਤਾ, ਜਿਸ ਕਾਰਨ ਰਿਪੋਰਟਰ ਨੂੰ NTTS ਜਰਨਲ ਟਾਈਮਸਟੈਂਪ ਤੋਂ ਟਾਈਮਲਾਈਨ ਨੂੰ ਮੁੜ ਉਸਾਰਨਾ ਪਿਆ। ਉਹ ਟਾਈਮਸਟੈਂਪ ਟੂਲ ਦੇ ਰਨ-ਟਾਈਮ ਨਾਲ ਬਿਲਕੁਲ ਮੇਲ ਖਾਂਦੇ ਹਨ, ਜੋ ਘਟਨਾਵਾਂ ਦੇ ਕ੍ਰਮ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦੇ ਹਨ।

ਇਹ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

ਇਹ ਘਟਨਾ AI-ਡਰਾਈਵਨ ਆਟੋਮੇਸ਼ਨ ਵਿੱਚ ਇੱਕ ਪ੍ਰਣਾਲੀਗਤ ਖਾਮੀ (systemic flaw) ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ: ਜਦੋਂ ਸੇਫਟੀ ਲੇਅਰ ਫੇਲ ਹੋ ਜਾਂਦੀ ਹੈ, ਤਾਂ ਆਲੇ-ਦੁਆਲੇ ਦਾ ਆਰਕੀਟੈਕਚਰ ਅਣਜਾਣੇ ਵਿੱਚ AI ਨੂੰ ਮੁਕਤ ਛੱਡ ਸਕਦਾ ਹੈ। ਡਿਵੈਲਪਰ ਜੋ ਰੁਟੀਨ ਕੰਮਾਂ—ਕੋਡ ਰਿਵਿਊ, ਐਨਵਾਇਰਨਮੈਂਟ ਸੈੱਟਅੱਪ, ਫਾਈਲ ਕਲੀਨਅੱਪ—ਲਈ AI ਏਜੰਟਾਂ 'ਤੇ ਭਰੋਸਾ ਕਰਦੇ ਹਨ, ਹੁਣ ਦੇਖ ਰਹੇ ਹਨ ਕਿ ਇੱਕ ਗਲਤ ਕੌਂਫਿਗਰੇਸ਼ਨ ਵੀ ਭਿਆਨਕ ਡਾਟਾ ਨੁਕਸਾਨ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦੀ ਹੈ।

ਤਕਨੀਕੀ ਵੇਰਵਾ

  • ਜਾਰੀ ਕੀਤੀ ਗਈ ਕਮਾਂਡ: ਯੂਜ਼ਰ ਪ੍ਰੋਫਾਈਲ ਰੂਟ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਂਦੀ PowerShell ਰਿਕਰਸੀਵ ਡਿਲੀਟ।
  • ਸੇਫਟੀ ਚੈੱਕ ਸਟੇਟਸ: ਕਲਾਸੀਫਾਇਰ ਨੇ “ਉਪਲਬਧ ਨਹੀਂ” (unavailable) ਦੀ ਰਿਪੋਰਟ ਦਿੱਤੀ।
  • ਸਿਸਟਮ ਦੀ ਪ੍ਰਤੀਕਿਰਿਆ: ਚੇਤਾਵਨੀ ਲੌਗ ਕੀਤੀ ਪਰ ਰੋਕਣ ਦੀ ਬਜਾਏ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਜਾਰੀ ਰੱਖੀ।
  • ਆਟੋ-ਅਪਰੂਵਲ ਸੈਟਿੰਗ: ਲੋਕਲ ਪਾਲਿਸੀ ਨੇ ਯੂਜ਼ਰ ਨੂੰ ਪੁੱਛੇ ਬਿਨਾਂ ਕਮਾਂਡ ਨੂੰ ਮਨਜ਼ੂਰੀ ਦੇ ਦਿੱਤੀ।
  • ਨਤੀਜਾ: 234,884 ਫਾਈਲਾਂ ਹਟਾ ਦਿੱਤੀਆਂ ਗਈਆਂ, ਸੋਰਸ ਕੋਡ, SSH keys, ਅਤੇ ਨਿੱਜੀ ਡਾਟਾ ਦਾ ਅਟੱਲ ਨੁਕਸਾਨ ਹੋਇਆ।

ਲੌਗ ਇੱਕ ਵਿਰੋਧਾਭਾਸ ਵਾਲੀ ਸਥਿਤੀ ਦਿਖਾਉਂਦੇ ਹਨ: ਇੱਕ ਗੁੰਮ ਹੋਏ ਸੇਫਟੀ ਗੇਟ ਬਾਰੇ ਚੇਤਾਵਨੀ ਦੇ ਨਾਲ-ਨਾਲ "ਆਉਟਪੁੱਟ ਦੀ ਇਜਾਜ਼ਤ ਦੇਣ" (allow output) ਦਾ ਸਪੱਸ਼ਟ ਫੈਸਲਾ। ਆਮ ਸੁਰੱਖਿਆ ਡਿਜ਼ਾਈਨ ਕਿਸੇ ਵੀ ਸੁਰੱਖਿਆ ਅਸਫਲਤਾ 'ਤੇ "ਡਿਨਾਏ-ਬਾਈ-ਡਿਫਾਲਟ" (deny-by-default) ਸਟੈਂਸ ਲੈਂਦੇ ਹਨ। ਇੱਥੇ ਚੁਣਿਆ ਗਿਆ ਡਿਜ਼ਾਈਨ—"ਅਲਾਓ-ਬਾਈ-ਡਿਫਾਲਟ" (allow-by-default)—ਇੱਕ ਸੇਫਟੀ ਆਊਟੇਜ ਨੂੰ ਇੱਕ ਆਫ਼ਤ ਵਿੱਚ ਬਦਲ ਗਿਆ।

ਵਿਆਪਕ ਪ੍ਰਭਾਵ

AI ਏਜੰਟ ਲਗਾਤਾਰ ਡਿਵੈਲਪਰ ਵਰਕਫਲੋ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋ ਰਹੇ ਹਨ, ਜੋ ਰਫਤਾਰ ਅਤੇ ਇਕਸਾਰਤਾ ਦਾ ਵਾਅਦਾ ਕਰਦੇ ਹਨ। ਇਹ ਘਟਨਾ ਦਿਖਾਉਂਦੀ ਹੈ ਕਿ ਇਹ ਵਾਅਦਾ ਆਲੇ-ਦੁਆਲੇ ਦੇ ਸੇਫਟੀ ਇਨਫਰਾਸਟ੍ਰਕਚਰ ਦੀ ਭਰੋਸੇਯੋਗਤਾ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ। ਜੇਕਰ ਸੇਫਟੀ ਕਲਾਸੀਫਾਇਰ ਬਿਨਾਂ ਕਿਸੇ ਉਚਿਤ ਫਾਲਬੈਕ ਦੇ ਉਪਲਬਧ ਨਹੀਂ ਹੋ ਸਕਦੇ, ਤਾਂ ਜੋਖਮ ਦਾ ਪੱਧਰ ਬਹੁਤ ਵੱਧ ਜਾਂਦਾ ਹੈ। ਇਹ ਘਟਨਾ Windows 'ਤੇ ਸੈਂਡਬਾਕਸਿੰਗ (sandboxing) ਅਭਿਆਸਾਂ ਬਾਰੇ ਵੀ ਸਵਾਲ ਖੜ੍ਹੇ ਕਰਦੀ ਹੈ: ਏਜੰਟ ਕੋਲ ਪੂਰੀ ਪ੍ਰੋਫਾਈਲ ਨੂੰ ਡਿਲੀਟ ਕਰਨ ਲਈ ਲੋੜੀਂਦੇ ਅਧਿਕਾਰ (privileges) ਸਨ, ਜੋ ਇਹ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ ਕਿ ਆਇਸੋਲੇਸ਼ਨ ਮਕੈਨਿਜ਼ਮ ਅਧੂਰੇ ਸਨ।

ਕਿਸ ਚੀਜ਼ 'ਤੇ ਨਜ਼ਰ ਰੱਖੀਏ

  • ਪੈਚ ਰਿਲੀਜ਼: Claude Code ਅਤੇ ਸੰਬੰਧਿਤ ਟੂਲਿੰਗ ਦੇ ਮੇਨਟੇਨਰਾਂ ਤੋਂ ਅਪਡੇਟਸ 'ਤੇ ਨਜ਼ਰ ਰੱਖੋ ਜੋ ਇਸ ਸੇਫਟੀ-ਫਾਲਬੈਕ ਵਿਵਹਾਰ ਨੂੰ ਸੁਧਾਰਦੇ ਹਨ।
  • ਕੌਂਫਿਗਰੇਸ਼ਨ ਆਡਿਟ: ਯਕੀਨੀ ਬਣਾਓ ਕਿ ਆਟੋ-ਅਪਰੂਵਲ ਸੈਟਿੰਗਾਂ ਨੂੰ ਡਿਸੇਬਲ ਕਰ ਦਿੱਤਾ ਗਿਆ ਹੈ ਜਾਂ ਉਹਨਾਂ ਨੂੰ ਗੈਰ-ਵਿਨਾਸ਼ਕਾਰੀ ਕਮਾਂਡਾਂ ਤੱਕ ਸੀਮਤ ਰੱਖਿਆ ਗਿਆ ਹੈ।
  • ਸੈਂਡਬਾਕਸ ਹਾਰਡਨਿੰਗ: AI ਏਜੰਟਾਂ ਨੂੰ ਘੱਟ ਤੋਂ ਘੱਟ ਅਧਿਕਾਰਾਂ (least-privilege) ਵਾਲੇ ਖਾਤਿਆਂ ਦੇ ਅਧੀਨ ਚਲਾਓ, ਖਾਸ ਕਰਕੇ Windows 'ਤੇ ਜਿੱਥੇ ਯੂਜ਼ਰ ਪ੍ਰੋਫਾਈਲਾਂ ਵਿੱਚ ਸੰਵੇਦਨਸ਼ੀਲ ਐਸੇਟਸ ਹੁੰਦੇ ਹਨ।
  • ਸੇਫਟੀ ਕਲਾਸੀਫਾਇਰ ਰੈਡੰਡੈਂਸੀ: ਸੈਕੰਡਰੀ ਚੈੱਕ ਜਾਂ ਫੇਲ-ਸੇਫ ਮਕੈਨਿਜ਼ਮ ਜੋ ਮੁੱਖ ਕਲਾਸੀਫਾਇਰ ਆਫਲਾਈਨ ਹੋਣ 'ਤੇ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਨੂੰ ਰੋਕਦੇ ਹਨ, ਉਹ ਜੋੜੋ।

ਇਹ ਘਟਨਾ ਇੱਕ ਸਖ਼ਤ ਯਾਦ ਦਿਵਾਉਂਦੀ ਹੈ: ਜਦੋਂ AI ਆਟੋਮੇਸ਼ਨ ਆਪਣੇ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਦਾ ਹੈ, ਤਾਂ ਇਸਦੀ ਕੀਮਤ ਪੂਰੇ ਡਾਟਾ ਦਾ ਨੁਕਸਾਨ ਹੋ ਸਕਦੀ ਹੈ। ਸੰਸਥਾਵਾਂ ਨੂੰ ਸੇਫਟੀ ਕੰਪੋਨੈਂਟਸ ਨੂੰ ਮਹੱਤਵਪੂਰਨ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਜੋਂ ਮੰਨਣਾ ਚਾਹੀਦਾ ਹੈ, ਨਾ ਕਿ ਵਿਕਲਪਿਕ ਐਡ-ਆਨ ਵਜੋਂ।