ਇੱਕ 70 ਸਾਲਾ ਆਸਟ੍ਰੇਲੀਅਨ ਵਿਅਕਤੀ ਇੱਕ ਜਟਿਲ AI-ਅਧਾਰਿਤ ਰੋਮਾਂਸ ਸਕੈਮ ਦਾ ਸ਼ਿਕਾਰ ਹੋ ਗਿਆ ਹੈ, ਜਿਸ ਨੇ ਇੱਕ "deepfake" ਪਛਾਣ ਨੂੰ $180,000 ਗੁਆ ਦਿੱਤੇ ਹਨ। ਇਹ ਘਟਨਾ ਸਾਈਬਰ ਅਪਰਾਧ ਦੇ ਭਿਆਨਕ ਵਿਕਾਸ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ, ਜਿੱਥੇ ਮਨੁੱਖੀ ਅੰਤਰਾਤਮਾ ਅਤੇ ਭਾਵਨਾਤਮਕ ਰੱਖਿਆ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਲਈ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਨੂੰ ਹਥਿਆਰ ਵਜੋਂ ਵਰਤਿਆ ਜਾ ਰਿਹਾ ਹੈ।

ਇੱਕ ਹਾਈ-ਟੈਕ ਰੋਮਾਂਸ ਸਕੈਮ ਦੀ ਬਣਤਰ

ਸ਼ਿਕਾਰ, ਇੱਕ ਬਜ਼ੁਰਗ ਆਸਟ੍ਰੇਲੀਅਨ ਨਿਵਾਸੀ, ਨੇ ਦੱਸਿਆ ਕਿ ਉਹ ਇੱਕ AI-ਨਿਰਮਿਤ ਪਛਾਣ ਨਾਲ ਭਾਵਨਾਤਮਕ ਤੌਰ 'ਤੇ ਜੁੜ ਗਿਆ ਸੀ, ਜਿਸ ਵਿੱਚ ਅੰਤ ਵਿੱਚ ਸਪੱਸ਼ਟ ਤਕਨੀਕੀ ਖਾਮੀਆਂ ਦਿਖਾਈ ਦਿੱਤੀਆਂ, ਜਿਵੇਂ ਕਿ ਡਿਜੀਟਲ ਤਸਵੀਰਾਂ ਵਿੱਚ ਛੇ ਉਂਗਲਾਂ ਹੋਣਾ। ਇਹਨਾਂ "uncanny valley" (ਅਜੀਬ ਲੱਗਣ ਵਾਲੇ) ਸੰਕੇਤਾਂ ਦੇ ਬਾਵਜੂਦ, ਭਾਵਨਾਤਮਕ ਮੈਨੀਪੂਲੇਸ਼ਨ ਉਸਨੂੰ ਠੱਗਾਂ ਨੂੰ $180,000 (ਲਗਭਗ ₹1.5 ਕਰੋੜ) ਟ੍ਰਾਂਸਫਰ ਕਰਨ ਲਈ ਮਨਾਉਣ ਲਈ ਕਾਫ਼ੀ ਸਫਲ ਰਹੀ।

ਇਹ ਮਾਮਲਾ ਇੱਕ ਮੀਲ ਪੱਥਰ ਦੀ ਉਦਾਹਰਣ ਹੈ ਕਿ ਕਿਵੇਂ Generative AI ਅੰਤਰਰਾਸ਼ਟਰੀ ਸਾਈਬਰ ਅਪਰਾਧੀ ਸਿੰਡੀਕੇਟਾਂ ਲਈ ਪ੍ਰਵੇਸ਼ ਦੀਆਂ ਰੁਕਾਵਟਾਂ ਨੂੰ ਘਟਾ ਰਿਹਾ ਹੈ। ਰਵਾਇਤੀ ਫਿਸ਼ਿੰਗ ਸਕੈਮਾਂ ਦੇ ਉਲਟ, ਜੋ ਕਿ ਮਾੜੇ ਲਿਖੇ ਗਏ ਈਮੇਲਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ, ਇਹ ਆਧੁਨਿਕ "pig butchering" ਸਕੈਮ ਲੰਬੇ ਸਮੇਂ ਦੇ ਮਨੋਵਿਗਿਆਨਕ ਵਿਸ਼ਵਾਸ ਨੂੰ ਬਣਾਉਣ ਲਈ ਅਤਿ-ਯਥਾਰਥਵਾਦੀ deepfake ਆਡੀਓ ਅਤੇ ਵੀਡੀਓ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ। ਸੱਚਾਈ ਦਾ ਅਹਿਸਾਸ ਹੋਣ ਤੋਂ ਬਾਅਦ ਸ਼ਿਕਾਰ ਦੁਆਰਾ ਆਪਣੇ ਸਾਰੇ ਇੰਟਰਨੈਟ ਖਾਤੇ ਬੰਦ ਕਰਨ ਦਾ ਫੈਸਲਾ, ਇਨ੍ਹਾਂ ਉੱਨਤ ਸੋਸ਼ਲ ਇੰਜੀਨੀਅਰਿੰਗ ਤਕਨੀਕਾਂ ਦੁਆਰਾ ਪੈਦਾ ਕੀਤੇ ਗਏ ਡੂੰਘੇ ਮਨੋਵਿਗਿਆਨਕ आघात ਅਤੇ ਡਿਜੀਟਲ ਵਿਸ਼ਵਾਸ ਦੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਟੁੱਟਣ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ।

AI-ਨਿਰਮਿਤ ਗਲਤ ਜਾਣਕਾਰੀ ਦਾ ਵਧਦਾ ਖਤਰਾ

ਇਸ ਖਾਸ ਸਕੈਮ ਵਿੱਚ ਤਕਨੀਕੀ ਗਲਤੀ—ਛੇ ਉਂਗਲਾਂ ਦੀ ਮੌਜੂਦਗੀ—ਮੌਜੂਦਾ AI ਇਮੇਜ ਜਨਰੇਸ਼ਨ ਮਾਡਲਾਂ ਦੀ ਇੱਕ ਆਮ ਵਿਸ਼ੇਸ਼ਤਾ ਹੈ। ਹਾਲਾਂਕਿ, ਜਿਵੇਂ-ਜਿਵੇਂ Large Language Models (LLMs) ਅਤੇ diffusion ਮਾਡਲ ਵਿਕਸਿਤ ਹੋ ਰਹੇ ਹਨ, ਇਹ ਵਿਜ਼ੂਅਲ ਗਲਤੀਆਂ ਤੇਜ਼ੀ ਨਾਲ ਅਲੋਪ ਹੋ ਰਹੀਆਂ ਹਨ। ਅਪਰਾਧਿਕ ਨੈੱਟਵਰਕ ਹੁਣ ਹਜ਼ਾਰਾਂ ਫਰਜ਼ੀ ਪਛਾਣਾਂ ਬਣਾਉਣ ਲਈ AI ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਨ, ਜਿਸ ਨਾਲ ਉਹ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਕਮਜ਼ੋਰ ਲੋਕਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾ ਸਕਦੇ ਹਨ।

ਇਹ ਤਬਦੀਲੀ "opportunistic hacking" ਤੋਂ "industrialized deception" (ਉਦਯੋਗਿਕ ਧੋਖਾਧੜੀ) ਵੱਲ ਇੱਕ ਪਰਿਵਰਤਨ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ। ਅਪਰਾਧਿਕ ਸਿੰਡੀਕੇਟ ਹੁਣ ਸਿਰਫ਼ ਪਾਸਵਰਡ ਹੀ ਨਹੀਂ ਚੋਰੀ ਕਰ ਰਹੇ; ਉਹ ਇਕੱਲਤਾ, ਸੋਗ, ਜਾਂ ਸਾਥ ਦੀ ਇੱਛਾ ਵਰਗੀਆਂ ਵਿਸ਼ੇਸ਼ ਮਨੁੱਖੀ ਕਮਜ਼ੋਰੀਆਂ ਦਾ ਫਾਇਦਾ ਉਠਾਉਣ ਲਈ ਪੂਰੀਆਂ ਮਨੁੱਖੀ ਸ਼ਖਸੀਅਤਾਂ ਤਿਆਰ ਕਰ ਰਹੇ ਹਨ। ਇਹ deepfakes ਜਿਸ ਰਫ਼ਤਾਰ ਨਾਲ ਤਾਇਨਾਤ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ, ਉਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੀਆਂ ਏਜੰਸੀਆਂ ਵਰਤਮਾਨ ਵਿੱਚ Generative AI ਦੇ "dark" ਪਾਸੇ ਵਿੱਚ ਤੇਜ਼ੀ ਨਾਲ ਹੋ ਰਹੀਆਂ ਤਕਨੀਕੀ ਤਰੱਕੀਆਂ ਨਾਲ ਕਦਮ ਮਿਲਾਉਣ ਲਈ ਸੰਘਰਸ਼ ਕਰ ਰਹੀਆਂ ਹਨ।

ਵਿਸ਼ਵਵਿਆਪੀ ਕਮਜ਼ੋਰੀਆਂ ਅਤੇ ਡਿਜੀਟਲ ਸੁਰੱਖਿਆ

ਇਹ ਘਟਨਾ ਆਪਸੀ ਸੰਚਾਰ ਵਿੱਚ AI ਦੀ ਵਰਤੋਂ ਨੂੰ ਨਿਯੰਤ੍ਰਿਤ ਕਰਨ ਲਈ ਮਜ਼ਬੂਤ ਅੰਤਰਰਾਸ਼ਟਰੀ ਢਾਂਚੇ ਦੀ ਘਾਟ ਦੇ ਸਬੰਧ ਵਿੱਚ ਇੱਕ ਵਿਸ਼ਵਵਿਆਪੀ ਚੇਤਾਵਨੀ ਵਜੋਂ ਕੰਮ ਕਰਦੀ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ deepfakes ਅਸਲੀਅਤ ਤੋਂ ਵੱਖਰੇ ਨਹੀਂ ਰਹਿ ਜਾਣਗੇ, "ਦੇਖਣਾ ਹੀ ਵਿਸ਼ਵਾਸ ਕਰਨਾ ਹੈ" ਦੀ ਮੂਲ ਧਾਰਨਾ ਨੂੰ ਤੋੜਿਆ ਜਾ ਰਿਹਾ ਹੈ। ਇਸ ਆਸਟ੍ਰੇਲੀਅਨ ਮਾਮਲੇ ਵਿੱਚ ਵਿੱਤੀ ਨੁਕਸਾਨ ਉਸ ਦਾ ਪੂਰਵ-ਸੰਕੇਤ ਹੈ ਜੋ ਘਰੇਲੂ ਦੌਲਤ 'ਤੇ ਇੱਕ ਵੱਡਾ ਵਿਸ਼ਵਵਿਆਪੀ ਨੁਕਸਾਨ ਬਣ ਸਕਦਾ ਹੈ, ਖਾਸ ਕਰਕੇ ਬਜ਼ੁਰਗ ਆਬਾਦੀ ਵਿੱਚ ਜੋ ਆਧੁਨਿਕ AI ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਬਾਰੇ ਡਿਜੀਟਲ ਤੌਰ 'ਤੇ ਘੱਟ ਜਾਣਕਾਰ ਹੋ ਸਕਦੇ ਹਨ।

ਭਾਰਤ ਲਈ ਇਸਦਾ ਕੀ ਮਤਲਬ ਹੈ

  • ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਵਜੋਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ: ਜਿਵੇਂ ਭਾਰਤ India Stack ਰਾਹੀਂ ਇੱਕ ਵਿਸ਼ਾਲ ਡਿਜੀਟਲ ਤਬਦੀਲੀ ਵਿੱਚੋਂ ਗੁਜ਼ਰ ਰਿਹਾ ਹੈ ਅਤੇ ਇੰਟਰਨੈਟ ਦੀ ਪਹੁੰਚ ਵਿਆਪਕ ਹੋ ਰਹੀ ਹੈ, AI-ਅਧਾਰਿਤ ਸੋਸ਼ਲ ਇੰਜੀਨੀਅਰਿੰਗ ਸਕੈਮਾਂ ਦਾ ਖਤਰਾ ਵਿੱਤੀ ਸਥਿਰਤਾ ਅਤੇ ਵਿਅਕਤੀਗਤ ਡਿਜੀਟਲ ਵਿਸ਼ਵਾਸ ਲਈ ਇੱਕ ਵੱਡਾ ਖਤਰਾ ਪੈਦਾ ਕਰਦਾ ਹੈ।
  • AI ਨਿਯਮਨ ਅਤੇ ਸਾਖਰਤਾ ਦੀ ਲੋੜ: ਭਾਰਤ ਸਰਕਾਰ ਅਤੇ CERT-In ਵਰਗੇ ਰੈਗੂਲੇਟਰੀ ਸੰਸਥਾਵਾਂ ਨੂੰ "AI-detection" ਟੂਲ ਵਿਕਸਿਤ ਕਰਨ ਨੂੰ ਤਰਜੀਹ ਦੇਣੀ ਚਾਹੀਦੀ ਹੈ ਅਤੇ ਸੀਨੀਅਰ ਸਿਟੀਜ਼ਨਾਂ ਨੂੰ deepfake ਪਛਾਣਾਂ ਦੀ ਮੌਜੂਦਗੀ ਬਾਰੇ ਜਾਗਰੂਕ ਕਰਨ ਲਈ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਡਿਜੀਟਲ ਸਾਖਰਤਾ ਮੁਹਿੰਮਾਂ ਚਲਾਉਣੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ।
  • ਅੰਤਰਰਾਸ਼ਟਰੀ ਸਹਿਯੋਗ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨਾ: ਕਿਉਂਕਿ ਇਹ ਸਕੈਮ ਅਕਸਰ ਸਰਹੱਦਾਂ ਤੋਂ ਪਾਰ ਕੰਮ ਕਰਨ ਵਾਲੇ ਅੰਤਰਰਾਸ਼ਟਰੀ ਸਿੰਡੀਕੇਟਾਂ ਦੁਆਰਾ ਚਲਾਏ ਜਾਂਦੇ ਹਨ, ਭਾਰਤ ਨੂੰ AI-ਅਧਾਰਿਤ ਧੋਖਾਧੜੀ ਦੁਆਰਾ ਪੈਦਾ ਕੀਤੇ ਗਏ ਗੈਰ-ਕਾਨੂੰਨੀ ਫੰਡਾਂ ਦੇ ਪ੍ਰਵਾਹ ਨੂੰ ਲੱਭਣ ਅਤੇ ਰੋਕਣ ਲਈ ਵਿਸ਼ਵਵਿਆਪੀ ਏਜੰਸੀਆਂ ਨਾਲ ਆਪਣੀ ਇੰਟੈਲੀਜੈਂਸ-ਸ਼ੇਅਰਿੰਗ ਅਤੇ ਕਾਨੂੰਨੀ ਸਹਿਯੋਗ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।

ਵਿਰੋਧੀ ਪੱਖ: ਪਛਾਣ ਅਤੇ ਜਾਗਰੂਕਤਾ ਪ੍ਰਭਾਵ ਨੂੰ ਘਟਾ ਸਕਦੀ ਹੈ

ਅੱਗੇ ਕੀ ਦੇਖਣਾ ਹੈ

  • ਨਿਯਮਤ ਢਾਂਚੇ (Regulatory frameworks) ਜੋ ਵਿੱਤੀ-ਸੇਵਾ ਸੰਦਰਭਾਂ ਵਿੱਚ ਸਿੰਥੈਟਿਕ ਮੀਡੀਆ ਨੂੰ ਸੰਬੋਧਿਤ ਕਰਦੇ ਹਨ।
  • ਤਕਨੀਕੀ ਫਰਮਾਂ ਅਤੇ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੀਆਂ ਏਜੰਸੀਆਂ ਵਿਚਕਾਰ ਸਹਿਯੋਗ ਤਾਂ ਜੋ ਰੀਅਲ-ਟਾਈਮ ਵਿੱਚ ਖਤਰੇ ਦੀ ਜਾਣਕਾਰੀ ਸਾਂਝੀ ਕੀਤੀ ਜਾ ਸਕੇ।

ਆਸਟ੍ਰੇਲੀਅਨ ਮਾਮਲਾ ਇੱਕ ਚੇਤਾਵਨੀ ਦਾ ਸੰਕੇਤ ਹੈ: ਜਿਵੇਂ-ਜਿਵੇਂ generative AI ਵਧੇਰੇ ਨਿਖਾਰਿਆ ਹੋਇਆ ਬਣਦਾ ਜਾ ਰਿਹਾ ਹੈ, ਅਸਲੀ ਸੰਪਰਕ ਅਤੇ ਇੰਜੀਨੀਅਰਡ ਧੋਖਾਧੜੀ ਦੇ ਵਿਚਕਾਰ ਦੀ ਰੇਖਾ ਧੁੰਦਲੀ ਹੁੰਦੀ ਜਾ ਰਹੀ ਹੈ। ਸੁਚੇਤ ਰਹਿਣਾ, ਬਿਹਤਰ ਡਿਟੈਕਸ਼ਨ ਤਕਨਾਲੋਜੀ ਅਤੇ ਵਿਆਪਕ ਡਿਜੀਟਲ ਸਾਖਰਤਾ ਹੀ ਉਸ ਭਵਿੱਖ ਦੇ ਵਿਰੁੱਧ ਇਕਲੌਤੇ ਸੁਰੱਖਿਆ ਕਵਚ ਹਨ ਜਿੱਥੇ ਇੱਕ ਸਧਾਰਨ ਵੀਡੀਓ ਕਾਲ ਇੱਕ ਮਹਿੰਗੀ ਜਾਲ ਹੋ ਸਕਦੀ ਹੈ।