ਮੰਗਲਵਾਰ ਨੂੰ ਅਟਨੀਓ ਡੇ ਜ਼ਾਂਬੋਆਂਗਾ ਯੂਨੀਵਰਸਿਟੀ (Ateneo de Zamboanga University) ਵਿੱਚ ਇੱਕ ਹਾਈ-ਸਕੂਲ ਵਿਦਿਆਰਥੀ ਨੇ ਕਲਾਸਰੂਮ ਵਿੱਚ ਹਮਲਾ ਕਰ ਦਿੱਤਾ, ਦੋ ਬੰਦੂਕਾਂ ਦਿਖਾਈਆਂ, ਆਪਣੇ ਇੱਕ ਸਾਥੀ ਦੀ ਹੱਤਿਆ ਕਰ ਦਿੱਤੀ ਅਤੇ ਫਿਰ ਖੁਦ ਨੂੰ ਵੀ ਮਾਰ ਲਿਆ – ਇਹ ਸਭ ਇੱਕ ਬਾਡੀ-ਵੋਰਨ ਕੈਮਰੇ ਰਾਹੀਂ ਲਾਈਵ ਪ੍ਰਸਾਰਿਤ ਹੋ ਰਿਹਾ ਸੀ। ਦੋ ਹੋਰ ਲੋਕ ਜ਼ਖਮੀ ਹੋ ਗਏ। ਇਹ ਘਟਨਾ ਇਸ ਗੱਲ ਦੀ ਡੂੰਘਾਈ ਨਾਲ ਜਾਂਚ ਕਰਨ ਲਈ ਮਜਬੂਰ ਕਰਦੀ ਹੈ ਕਿ ਆਨਲਾਈਨ ਪਲੇਟਫਾਰਮ ਕਿੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਹਿੰਸਕ ਪ੍ਰਸਾਰਣ ਦਾ ਪਤਾ ਲਗਾ ਸਕਦੇ ਹਨ ਜਾਂ ਰੋਕ ਸਕਦੇ ਹਨ।
ਲਾਈਵ-ਸਟ੍ਰੀਮਿੰਗ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ
ਹਮਲੇ ਨੂੰ ਰੀਅਲ-ਟਾਈਮ ਵਿੱਚ ਪ੍ਰਸਾਰਿਤ ਕਰਕੇ, ਸ਼ੂਟਰ ਨੇ ਇੱਕ ਸਥਾਨਕ ਦੁਖਾਂਤ ਨੂੰ ਇੱਕ ਡਿਜੀਟਲ ਤਮਾਸ਼ੇ ਵਿੱਚ ਬਦਲ ਦਿੱਤਾ ਜਿਸ ਨੂੰ ਕੁਝ ਹੀ ਮਿੰਟਾਂ ਵਿੱਚ ਦੁਬਾਰਾ ਦੇਖਿਆ, ਸਾਂਝਾ ਕੀਤਾ ਅਤੇ ਵਧਾਇਆ ਜਾ ਸਕਦਾ ਸੀ। ਲਾਈਵ-ਵੀਡੀਓ ਪਲੇਟਫਾਰਮ ਨੁਕਸਾਨਦੇਹ ਸਮੱਗਰੀ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਯੂਜ਼ਰ ਰਿਪੋਰਟਾਂ ਅਤੇ ਆਟੋਮੇਟਡ ਡਿਟੈਕਸ਼ਨ (automated detection) 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ। ਇਸ ਮਾਮਲੇ ਵਿੱਚ, ਕੋਈ ਵੀ ਦਖਲਅੰਦਾਜ਼ੀ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਅਧਿਕਾਰੀਆਂ ਦੁਆਰਾ ਮੌਤ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਤੱਕ ਸਟ੍ਰੀਮ ਇੰਨੀ ਦੇਰ ਤੱਕ ਚੱਲਦੀ ਰਹੀ, ਜੋ ਰੀਅਲ-ਟਾਈਮ ਮੋਡਰੇਸ਼ਨ ਵਿੱਚ ਇੱਕ ਅਜਿਹੀ ਕਮੀ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ ਜਿਸ ਨੂੰ ਭਰਨ ਵਿੱਚ ਮੌਜੂਦਾ ਸਾਧਨ ਅਸਫਲ ਰਹੇ ਹਨ।
ਦੱਖਣ-ਪੂਰਬੀ ਏਸ਼ੀਆ ਵਿੱਚ ਉਭਰਦਾ ਇੱਕ ਪੈਟਰਨ
ਜ਼ਾਂਬੋਆਂਗਾ ਸ਼ੂਟਿੰਗ ਖੇਤਰ ਵਿੱਚ ਸਕੂਲ ਨਾਲ ਸਬੰਧਤ ਬੰਦੂਕਾਂ ਦੇ ਹਮਲਿਆਂ ਦੀ ਲੜੀ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋ ਗਈ ਹੈ। ਦੋ ਹਫ਼ਤਿਆਂ ਤੋਂ ਵੀ ਘੱਟ ਸਮੇਂ ਪਹਿਲਾਂ, ਥਾਈਲੈਂਡ ਦੇ ਨੋਂਥਾਬੁਰੀ ਸੂਬੇ ਵਿੱਚ ਇੱਕ 14 ਸਾਲਾ ਬੱਚੇ ਨੇ ਆਪਣੇ ਦਾਦਾ-ਦਾਦੀ, ਸਕੂਲ ਦੇ ਪੰਜ ਸਟਾਫ ਮੈਂਬਰਾਂ ਅਤੇ ਇੱਕ 12 ਸਾਲਾ ਕੁੜੀ ਦੀ ਹੱਤਿਆ ਕਰ ਦਿੱਤੀ ਸੀ। ਥਾਈਲੈਂਡ ਵਿੱਚ ਬੰਦੂਕਾਂ ਦੀ ਮਲਕੀਅਤ ਦੀ ਦਰ — ਜੋ ਏਸ਼ੀਆ ਵਿੱਚ ਸਿਰਫ ਪਾਕਿਸਤਾਨ ਤੋਂ ਬਾਅਦ ਦੂਜੇ ਨੰਬਰ 'ਤੇ ਹੈ — ਨੇ ਪਹਿਲਾਂ ਹੀ ਪ੍ਰਧਾਨ ਮੰਤਰੀ ਨੂੰ ਸਖ਼ਤ ਨਿਯੰਤਰਣਾਂ 'ਤੇ ਵਿਚਾਰ ਕਰਨ ਲਈ ਪ੍ਰੇਰਿਤ ਕੀਤਾ ਹੈ। ਫਿਲੀਪੀਨਜ਼ ਦਾ ਇਹ ਮਾਮਲਾ ਉਸੇ ਮੂਲ ਸਮੱਸਿਆ ਵਿੱਚ ਇੱਕ ਡਿਜੀਟਲ ਪਹਿਲੂ ਜੋੜਦਾ ਹੈ: ਹਥਿਆਰਾਂ ਤੱਕ ਆਸਾਨ ਪਹੁੰਚ ਅਤੇ ਆਨਲਾਈਨ ਪ੍ਰਸਿੱਧੀ ਦੀ ਵਧਦੀ ਭੁੱਖ।
ਤਕਨੀਕੀ ਅੰਨ੍ਹੀ ਥਾਂ (The technical blind spot)
ਲਾਈਵ-ਸਟ੍ਰੀਮਿੰਗ ਪਲੇਟਫਾਰਮ ਆਮ ਤੌਰ 'ਤੇ ਅਜਿਹੇ AI ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ ਜੋ ਹਥਿਆਰਾਂ, ਖੂਨ ਜਾਂ ਤੇਜ਼ ਗਤੀ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਫਰੇਮਾਂ ਦੀ ਜਾਂਚ ਕਰਦੇ ਹਨ। ਉਹ ਮਾਡਲ ਅਜਿਹੇ ਡੇਟਾਸੈਟਾਂ 'ਤੇ ਟ੍ਰੇਨ ਕੀਤੇ ਜਾਂਦੇ ਹਨ ਜੋ ਅਕਸਰ ਸਕੂਲ ਦੇ ਮਾਹੌਲ ਦੀ ਬਾਰੀਕੀ ਨੂੰ ਸਮਝਣ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦੇ ਹਨ, ਜਿੱਥੇ ਅਧਿਆਪਕ ਦੀ ਡੈਸਕ ਜਾਂ ਖੇਡਾਂ ਵਾਲਾ ਬੈਗ ਵੀ ਹਥਿਆਰ ਵਾਂਗ ਦਿਖਾਈ ਦੇ ਸਕਦਾ ਹੈ। ਲੇਟੈਂਸੀ (Latency) ਦੀਆਂ ਲੋੜਾਂ ਐਲਗੋਰਿਦਮ ਨੂੰ ਕੁਝ ਹੀ ਸਕਿੰਟਾਂ ਵਿੱਚ ਫੈਸਲਾ ਲੈਣ ਲਈ ਮਜਬੂਰ ਕਰਦੀਆਂ ਹਨ, ਇੱਕ ਅਜਿਹੀ ਸੀਮਾ ਜੋ ਗਲਤ ਨਕਾਰਾਤਮਕ ਦਰਾਂ (false-negative rates) ਨੂੰ ਵਧਾਉਂਦੀ ਹੈ। ਜ਼ਾਂਬੋਆਂਗਾ ਵਿੱਚ, ਸ਼ੂਟਰ ਦੇ ਬਾਡੀ ਕੈਮਰੇ ਨੇ ਸ਼ਾਇਦ ਇੱਕ ਕੰਜ਼ਿਊਮਰ-ਗ੍ਰੇਡ ਪਲੇਟਫਾਰਮ ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਸੀ ਜੋ ਪੇਸ਼ੇਵਰ ਪ੍ਰਸਾਰਕਾਂ ਲਈ ਰਾਖਵੇਂ ਸਖ਼ਤ ਵੈਰੀਫਿਕੇਸ਼ਨ ਸਟੈਪਸ ਨੂੰ ਛੱਡ ਦਿੰਦਾ ਹੈ।
ਮੌਤਕਾਰੀ ਗੋਲੀ ਚਲਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਫੀਡ ਨੂੰ ਕੱਟਣ ਵਿੱਚ ਅਸਫਲਤਾ ਤਿੰਨ ਤਕਨੀਕੀ ਕਮੀਆਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ:
- ਸਕੂਲ-ਵਾਤਾਵਰਣ ਦੇ ਦ੍ਰਿਸ਼ਾਂ ਲਈ ਅਧੂਰਾ ਟ੍ਰੇਨਿੰਗ ਡੇਟਾ।
- ਨਵੇਂ ਖਤਰੇ ਦੇ ਪੈਟਰਨ ਦੇ ਉਭਰਨ 'ਤੇ ਤੇਜ਼ ਮਾਡਲ ਅੱਪਡੇਟਾਂ ਲਈ ਸੀਮਤ ਬੈਂਡਵਿਡਥ।
- ਪ੍ਰਾਕਟਿਕ ਸ਼ਟਡਾਊਨ ਦੀ ਬਜਾਏ ਘਟਨਾ ਤੋਂ ਬਾਅਦ ਮਨੁੱਖੀ ਸਮੀਖਿਆ 'ਤੇ ਨਿਰਭਰਤਾ।
ਸਰਕਾਰਾਂ ਅਤੇ ਪਲੇਟਫਾਰਮਾਂ ਲਈ ਜੋਖਮ
ਜੇਕਰ ਇੱਕ ਲਾਈਵ-ਸਟ੍ਰੀਮ ਕਿਸੇ ਹੱਤਿਆ ਨੂੰ ਕੈਪਚਰ ਕਰਨ ਲਈ ਇੰਨੀ ਦੇਰ ਤੱਕ ਚੱਲ ਸਕਦੀ ਹੈ, ਤਾਂ ਨਕਲ ਕਰਨ ਵਾਲੇ ਹਮਲੇ (copycat attacks) ਹੋਣ ਦੀ ਸੰਭਾਵਨਾ ਵਧ ਜਾਂਦੀ ਹੈ। ਨੌਜਵਾਨ ਦਰਸ਼ਕ "ਡਿਜੀਟਲ ਪ੍ਰਸਿੱਧੀ" ਨੂੰ ਇੱਕ ਇਨਾਮ ਵਜੋਂ ਦੇਖ ਸਕਦੇ ਹਨ, ਜਦੋਂ ਕਿ ਅੱਤਵਾਦੀ ਸਮੂਹ ਪ੍ਰਚਾਰ ਲਈ ਕੱਚੀ ਫੁਟੇਜ ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦੇ ਹਨ। ਸਰਕਾਰਾਂ 'ਤੇ ਤੇਜ਼ੀ ਨਾਲ ਸਮੱਗਰੀ ਹਟਾਉਣ ਦੀ ਮੰਗ ਕਰਨ ਦਾ ਦਬਾਅ ਹੁੰਦਾ ਹੈ, ਪਰ ਹਮਲਾਵਰ ਫਿਲਟਰਿੰਗ ਨਾਲ ਜਾਇਜ਼ ਸਮੱਗਰੀ ਨੂੰ ਬਲਾਕ ਕਰਨ ਅਤੇ ਪ੍ਰਗਟਾਵੇ ਦੀ ਆਜ਼ਾਦੀ ਦੇ ਉਲੰਘਣ ਦਾ ਖਤਰਾ ਹੁੰਦਾ ਹੈ।
ਪਲੇਟਫਾਰਮਾਂ ਨੂੰ ਨਾਮ (reputational) ਨੁਕਸਾਨ ਅਤੇ ਸੰਭਾਵੀ ਰੈਗੂਲੇਟਰੀ ਜੁਰਮਾਨਿਆਂ ਦਾ ਖਤਰਾ ਹੈ। ਵਧੇਰੇ ਉੱਨਤ AI — ਵੱਡੇ ਮਾਡਲ, ਸਮਰਪਿਤ ਮੋਡਰੇਸ਼ਨ ਟੀਮਾਂ, ਰੀਅਲ-ਟਾਈਮ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ — ਨੂੰ ਲਾਗੂ ਕਰਨਾ ਬਹੁਤ ਮਹਿੰਗਾ ਹੈ, ਖਾਸ ਕਰਕੇ ਉਨ੍ਹਾਂ ਸੇਵਾਵਾਂ ਲਈ ਜੋ ਘੱਟ ਮੁਨਾਫੇ 'ਤੇ ਕੰਮ ਕਰਦੀਆਂ ਹਨ। ਫਿਰ
- ਨਿਯਮਤ ਪ੍ਰਸਤਾਵ ਫ਼ਿਲਿਪੀਨਜ਼ ਅਤੇ ਗੁਆਂਢੀ ਦੇਸ਼ਾਂ ਵਿੱਚ, ਜੋ ਲਾਈਵ-ਸਟ੍ਰੀਮ ਹਟਾਉਣ ਲਈ ਘੱਟੋ-ਘੱਟ ਪ੍ਰਤੀਕਿਰਿਆ ਸਮੇਂ ਨੂੰ ਲਾਜ਼ਮੀ ਬਣਾ ਸਕਦੇ ਹਨ।
- ਪਲੇਟਫਾਰਮ ਰੋਲਆਊਟਸ ਅਪਗ੍ਰੇਡ ਕੀਤੇ ਗਏ AI ਮੋਡਰੇਸ਼ਨ ਸੂਟਾਂ ਦੇ, ਜੋ ਸਕੂਲ ਨਾਲ ਸਬੰਧਤ ਸਮੱਗਰੀ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਂਦੇ ਹਨ।
- ਅਕਾਦਮਿਕ ਖੋਜ ਕਿਸ਼ੋਰ ਦਰਸ਼ਕਾਂ 'ਤੇ ਲਾਈਵ-ਸਟ੍ਰੀਮ ਕੀਤੀ ਗਈ ਹਿੰਸਾ ਦੇ ਮਨੋਵਿਗਿਆਨਕ ਪ੍ਰਭਾਵ ਬਾਰੇ, ਜੋ ਭਵਿੱਖ ਦੀ ਨੀਤੀ ਨੂੰ ਰੂਪ ਦੇ ਸਕਦੀ ਹੈ।
Ateneo de Zamboanga ਦੀ ਤ੍ਰਾਸਦੀ ਦਿਖਾਉਂਦੀ ਹੈ ਕਿ ਬੰਦੂਕਾਂ ਦੀ ਹਿੰਸਾ ਅਤੇ ਡਿਜੀਟਲ ਕੱਟੜਪੰਥ ਮੌਜੂਦਾ ਸੁਰੱਖਿਆ ਨੈੱਟਾਂ ਦੀ ਸਮਰੱਥਾ ਨਾਲੋਂ ਤੇਜ਼ੀ ਨਾਲ ਮਿਲ ਰਹੇ ਹਨ। ਰੀਅਲ-ਟਾਈਮ ਮੋਡਰੇਸ਼ਨ ਦੇ ਪਾੜੇ ਨੂੰ ਭਰਨ ਲਈ ਤੇਜ਼, ਸਮਾਰਟ AI ਅਤੇ ਇਸ ਨਾਲ ਜੁੜੇ ਪ੍ਰਾਈਵੇਸੀ ਦੇ ਸਮਝੌਤਿਆਂ ਨਾਲ ਨਜਿੱਠਣ ਦੀ ਇੱਛਾ ਦੀ ਲੋੜ ਹੋਵੇਗੀ। ਅਣਗਹਿਲੀ ਦੀ ਕੀਮਤ ਸਿਰਫ਼ ਗਵਾਚੀਆਂ ਗਈਆਂ ਜਾਨਾਂ ਨਾਲ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਉਸ ਰਫ਼ਤਾਰ ਨਾਲ ਵੀ ਮਾਪੀ ਜਾਂਦੀ ਹੈ ਜਿਸ ਨਾਲ ਭਵਿੱਖ ਦੇ ਹਮਲਾਵਰ ਆਪਣੇ ਅਪਰਾਧਾਂ ਨੂੰ ਵਿਸ਼ਵਵਿਆਪੀ ਦਰਸ਼ਕਾਂ ਨੂੰ ਪ੍ਰਸਾਰਿਤ ਕਰ ਸਕਦੇ ਹਨ।