ਅਮਰੀਕੀ ਸਟੇਟ ਵਿਭਾਗ ਨੇ ਬ੍ਰਾਜ਼ੀਲ ਵਿੱਚ ਇੱਕ ਡਿਪਲੋਮੈਟਿਕ ਕਾਨਫਰੰਸ ਦੌਰਾਨ ਇੱਕ AI-ਨਿਰਮਿਤ ਨਕਸ਼ਾ ਦਿਖਾਇਆ ਜਿਸ ਵਿੱਚ ਕਈ ਅਫਰੀਕੀ ਦੇਸ਼ਾਂ ਦੇ ਨਾਮ ਗਲਤ ਲਿਖੇ ਹੋਏ ਸਨ। ਇਹ ਗਲਤੀ, ਜੋ ਕਿ AI "ਹੈਲੂਸੀਨੇਸ਼ਨ" (hallucination) ਦਾ ਇੱਕ ਉਦਾਹਰਣ ਹੈ, ਨੇ ਇੱਕ ਤਕਨੀਕੀ ਚੁੱਕ ਨੂੰ ਡਿਪਲੋਮੈਟਿਕ ਭਰੋਸੇਯੋਗਤਾ ਦੇ ਸਵਾਲ ਵਿੱਚ ਬਦਲ ਦਿੱਤਾ।
ਸਾਹਮਣੇ ਆਈ ਇਹ ਗਲਤੀ
ਇੱਕ ਉੱਚ-ਪੱਧਰੀ ਇਕੱਠ ਦੌਰਾਨ, ਸਟੇਟ ਵਿਭਾਗ ਦੇ ਇੱਕ ਅਧਿਕਾਰੀ ਨੇ ਇੱਕ ਅਜਿਹੀ ਸਲਾਈਡ ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਜੋ ਆਪਣੇ ਨਕਸ਼ੇਬਾਜ਼ੀ (cartography) ਲਈ ਪੂਰੀ ਤਰ੍ਹਾਂ ਇੱਕ ਜਨਰੇਟਿਵ-AI ਟੂਲ 'ਤੇ ਨਿਰਭਰ ਸੀ। ਇਸ ਤਸਵੀਰ ਵਿੱਚ ਕਈ ਅਫਰੀਕੀ ਦੇਸ਼ਾਂ ਦੇ ਨਾਮ ਗਲਤ ਦੱਸੇ ਗਏ ਸਨ। ਇਸ ਘਟਨਾ ਨੇ ਦਿਖਾਇਆ ਕਿ ਕਿਵੇਂ ਇੱਕ ਗਲਤ ਗ੍ਰਾਫਿਕ ਕਿਸੇ ਅਜਿਹੀ ਏਜੰਸੀ ਦੇ ਅਧਿਕਾਰ ਨੂੰ ਕਮਜ਼ੋਰ ਕਰ ਸਕਦਾ ਹੈ ਜਿਸਦਾ ਕੰਮ ਦੁਨੀਆ ਦੇ ਸਭ ਤੋਂ ਨਾਜ਼ੁਕ ਰਾਜਨੀਤਿਕ ਖੇਤਰਾਂ ਵਿੱਚ ਰਾਹ ਦਿਖਾਉਣਾ ਹੈ।
ਨਕਸ਼ੇ ਸਿਰਫ਼ ਤਸਵੀਰਾਂ ਤੋਂ ਵੱਧ ਹਨ
ਡਿਪਲੋਮੈਟਿਕ ਕਾਰਜ ਪ੍ਰਣਾਲੀ ਵਿੱਚ, ਨਕਸ਼ੇ ਵਿਜ਼ੂਅਲ ਇਕਰਾਰਨਾਮਿਆਂ ਵਜੋਂ ਕੰਮ ਕਰਦੇ ਹਨ। ਇੱਕ ਪੰਨੇ 'ਤੇ ਖਿੱਚੀਆਂ ਗਈਆਂ ਸਰਹੱਦਾਂ ਪ੍ਰਭੂਸੱਤਾ ਦੀ ਮਾਨਤਾ ਦਾ ਸੰਕੇਤ ਦਿੰਦੀਆਂ ਹਨ, ਅਧਿਕਾਰ ਖੇਤਰ ਨੂੰ ਨਿਰਧਾਰਤ ਕਰਦੀਆਂ ਹਨ, ਅਤੇ ਅਕਸਰ ਇਤਿਹਾਸਕ ਸਮਝੌਤਿਆਂ ਦਾ ਭਾਰ ਰੱਖਦੀਆਂ ਹਨ। ਜਦੋਂ ਕੋਈ ਨਕਸ਼ਾ ਕਿਸੇ ਦੇਸ਼ ਦੇ ਖੇਤਰ ਦਾ ਗਲਤ ਪ੍ਰਦਰਸ਼ਨ ਕਰਦਾ ਹੈ, ਤਾਂ ਦੇਖਣ ਵਾਲੇ ਇਸ ਗਲਤੀ ਨੂੰ ਸਿਰਫ਼ ਇੱਕ ਮਾਮੂਲੀ ਟਾਈਪੋ (typo) ਨਹੀਂ, ਸਗੋਂ ਅਪਮਾਨ ਵਜੋਂ ਦੇਖਦੇ ਹਨ।
ਪਿਕਸਲ ਦੇ ਪਿੱਛੇ ਛੁਪਿਆ ਪੱਖਪਾਤ
ਜ਼ਿਆਦਾਤਰ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲ (large language models) ਅਤੇ ਇਮੇਜ ਜਨਰੇਟਰ ਇੰਟਰਨੈੱਟ ਤੋਂ ਇਕੱਠੇ ਕੀਤੇ ਗਏ ਡੇਟਾ 'ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹਨ। ਉਹ ਡੇਟਾ ਸੈੱਟ ਪੱਛਮੀ-ਕੇਂਦ੍ਰਿਤ ਸਰੋਤਾਂ ਨੂੰ ਜ਼ਿਆਦਾ ਦਰਸਾਉਂਦੇ ਹਨ ਅਤੇ ਅਕਸਰ ਉਹਨਾਂ ਖੇਤਰਾਂ ਨੂੰ ਛੱਡ ਦਿੰਦੇ ਹਨ ਜਾਂ ਸਰਲ ਬਣਾ ਦਿੰਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਘੱਟ ਕਵਰੇਜ ਮਿਲਦੀ ਹੈ। ਇਸਦਾ ਨਤੀਜਾ 'ਗਲੋਬਲ ਸਾਊਥ' (Global South) ਦੇ ਕਈ ਹਿੱਸਿਆਂ ਲਈ ਇੱਕ ਵਿਵਸਥਿਤ ਅੰਨ੍ਹੀ ਥਾਂ (blind spot) ਵਜੋਂ ਨਿਕਲਦਾ ਹੈ। ਜਦੋਂ ਸਟੇਟ ਵਿਭਾਗ ਦੇ AI ਟੂਲ ਨੇ ਗਲਤ ਨਕਸ਼ਾ ਤਿਆਰ ਕੀਤਾ, ਤਾਂ ਇਹ ਕਿਸੇ ਸਚੇਤ ਨੀਤੀਗਤ ਚੋਣ ਦੀ ਬਜਾਏ ਉਸ ਡੇਟਾ ਦੀ ਘਾਟ ਨੂੰ ਦਰਸਾ ਰਿਹਾ ਸੀ। ਇਹ ਘਟਨਾ ਡਿਜੀਟਲ-ਪ੍ਰਭੂਸੱਤਾ ਦੇ ਇੱਕ ਵਿਸ਼ਾਲ ਮੁੱਦੇ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ: ਵਿਦੇਸ਼ੀ-ਮੂਲ ਦੇ AI 'ਤੇ ਨਿਰਭਰਤਾ ਇਸਦੇ ਨਿਰਮਾਤਾਵਾਂ ਦੇ ਪੱਖਪਾਤ ਨੂੰ ਦੁਬਾਰਾ ਪੈਦਾ ਕਰ ਸਕਦੀ ਹੈ।
ਹਿਊਮਨ-ਇਨ-ਦ-ਲੂਪ: ਗੁੰਮ ਹੋਇਆ ਸੁਰੱਖਿਆ ਜਾਲ
ਸਭ ਤੋਂ ਸਿੱਧਾ ਉਪਾਅ ਇਹ ਹੈ ਕਿ ਕੋਈ ਵੀ AI-ਨਿਰਮਿਤ ਵਿਜ਼ੂਅਲ ਜਨਤਕ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਵਿਸ਼ੇ ਦੇ ਮਾਹਰਾਂ ਦੁਆਰਾ ਲਾਜ਼ਮੀ ਸਮੀਖਿਆ ਕੀਤੀ ਜਾਵੇ। ਇੱਕ "ਹਿਊਮਨ-ਇਨ-ਦ-ਲੂਪ" (human-in-the-loop) ਚੈੱਕਪੁਆਇੰਟ ਇੱਕ ਨਕਸ਼ੇਬਾਜ਼, ਖੇਤਰੀ ਵਿਸ਼ਲੇਸ਼ਕ, ਜਾਂ ਸੀਨੀਅਰ ਡਿਪਲੋਮੈਟ ਨੂੰ ਇਹ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਮਜਬੂਰ ਕਰਦਾ ਹੈ ਕਿ ਨਤੀਜਾ ਸਵੀਕਾਰਤ ਮਿਆਰਾਂ ਦੇ ਅਨੁਕੂਲ ਹੈ। ਇਹ ਪ੍ਰੋਟੋਕੋਲ AI ਦੀ ਸਹੂਲਤ ਨੂੰ ਖਤਮ ਨਹੀਂ ਕਰਦਾ; ਇਹ ਸਿਰਫ਼ ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਤਕਨਾਲੋਜੀ ਵਿੱਚ ਭਰੋਸਾ, ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਭਰੋਸੇ ਦੀ ਜਗ੍ਹਾ ਨਾ ਲੈ ਲਵੇ।
ਇਸ ਘਟਨਾ ਦਾ ਭਾਰਤ ਅਤੇ ਹੋਰ ਉਭਰਦੀਆਂ ਸ਼ਕਤੀਆਂ ਲਈ ਕੀ ਮਤਲਬ ਹੈ
ਭਾਰਤ, ਜੋ ਕਿ ਆਪਣੇ ਡਿਜੀਟਲ ਜਨਤਕ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦਾ ਤੇਜ਼ੀ ਨਾਲ ਵਿਸਥਾਰ ਕਰ ਰਿਹਾ ਹੈ ਅਤੇ ਗਲੋਬਲ AI ਅਖਾੜੇ ਵਿੱਚ ਇੱਕ ਲੀਡਰ ਵਜੋਂ ਆਪਣੀ ਪਛਾਣ ਬਣਾ ਰਿਹਾ ਹੈ, ਕਈ ਠੋਸ ਸਬਕ ਸਿੱਖ ਸਕਦਾ ਹੈ:
- ਪ੍ਰਭੂਸੱਤਾ ਸੰਪੰਨ AI ਵਿਕਾਸ ਨੂੰ ਤਰਜੀਹ ਦਿਓ। ਘਰੇਲੂ ਮਾਡਲ ਅਤੇ ਡੇਟਾ ਸੈੱਟ ਬਣਾਉਣ ਨਾਲ ਉਹਨਾਂ ਟੂਲਾਂ 'ਤੇ ਨਿਰਭਰਤਾ ਘਟਦੀ ਹੈ ਜੋ ਬਾਹਰੀ ਪੱਖਪਾਤ ਨੂੰ ਸ਼ਾਮਲ ਕਰ ਸਕਦੇ ਹਨ।
- ਤਸਦੀਕ ਫਰੇਮਵਰਕ ਨੂੰ ਸ਼ਾਮਲ ਕਰੋ। ਕਿਸੇ ਵੀ AI-ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਡਿਪਲੋਮੈਟਿਕ ਸਮੱਗਰੀ ਨੂੰ ਜਨਤਕ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਸਮਰਪਿਤ ਸਮੀਖਿਆ ਪੱਧਰ ਤੋਂ ਲੰਘਣਾ ਚਾਹੀਦਾ ਹੈ।
- ਨੈਤਿਕ ਮਿਆਰਾਂ ਦਾ ਸਮਰਥਨ ਕਰੋ। ਸ਼ਾਸਨ ਵਿੱਚ ਵਰਤੇ ਜਾਣ ਵਾਲੇ AI ਦੇ "ਸ਼ੁੱਧਤਾ ਆਡਿਟ" (accuracy audits) ਦੀ ਮੰਗ ਕਰਨ ਵਾਲੇ ਅੰਤਰਰਾਸ਼ਟਰੀ ਨਿਯਮਾਂ ਲਈ ਜ਼ੋਰ ਦੇ ਕੇ, ਭਾਰਤ ਇੱਕ ਅਜਿਹਾ ਨਿਯਮ-ਕਾਨੂੰਨ ਤਿਆਰ ਕਰ ਸਕਦਾ ਹੈ ਜੋ ਗਲੋਬਲ ਸਾਊਥ ਦੇ ਹਿੱਤਾਂ ਦੀ ਰੱਖਿਆ ਕਰਦਾ ਹੈ।
ਇਹ ਕਦਮ ਰਾਸ਼ਟਰੀ ਸਾਖ ਦੀ ਰੱਖਿਆ ਕਰਦੇ ਹਨ ਅਤੇ ਇੱਕ ਵਧੇਰੇ ਨਿਰਪੱਖ ਡਿਜੀਟਲ ਭਵਿੱਖ ਵਿੱਚ ਯੋਗਦਾਨ ਪਾਉਂਦੇ ਹਨ ਜਿੱਥੇ ਤਕਨਾਲੋਜੀ ਵਿਸ਼ਾਲ ਦ੍ਰਿਸ਼ਟੀਕੋਣਾਂ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ।
ਅੱਗੇ ਵੱਲ ਦੇਖਦੇ ਹੋਏ
ਸਿੱਖਿਆ: AI ਡਿਪਲੋਮੈਟਿਕ ਕੰਮ ਨੂੰ ਤੇਜ਼ ਕਰ ਸਕਦਾ ਹੈ, ਪਰ ਇੱਕ ਲਾਜ਼ਮੀ "ਹਿਊਮਨ-ਇਨ-ਦ-ਲੂਪ" ਚੈੱਕਪੁਆਇੰਟ ਤੋਂ ਬਿਨਾਂ, ਇੱਕ ਗਲਤ ਗ੍ਰਾਫਿਕ ਭਰੋਸੇਯੋਗਤਾ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦਾ ਹੈ, ਭੂ-ਰਾਜਨੀਤਿਕ ਤਣਾਅ ਵਧਾ ਸਕਦਾ ਹੈ, ਅਤੇ ਤਕਨਾਲੋਜੀ ਵਿੱਚ ਮੌਜੂਦ ਪੱਖਪਾਤ ਨੂੰ ਪ੍ਰਗਟ ਕਰ ਸਕਦਾ ਹੈ। ਅੱਗੇ ਵਧਣ ਦਾ ਸਭ ਤੋਂ ਸੁਰੱਖਿਅਤ ਰਸਤਾ AI ਨੂੰ ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸਹਾਇਕ ਵਜੋਂ ਦੇਖਣਾ ਹੈ—ਨਾ ਕਿ ਮਾਹਰਾਂ ਦੇ ਫੈਸਲੇ ਦਾ ਬਦਲ ਵਜੋਂ।