Hugging Face ਨੇ 207 WebGPU kernels ਜਾਰੀ ਕੀਤੇ ਹਨ ਜੋ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਸਿੱਧੇ ਵੈੱਬ ਬ੍ਰਾਊਜ਼ਰ ਵਿੱਚ AI ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੇ ਹਨ। ਇਹ kernels ਤੇਜ਼ ਇਨਫਰੈਂਸ (inference), ਆਫਲਾਈਨ ਕੰਮਕਾਜ, ਅਤੇ ਅਜਿਹੇ ਡੇਟਾ ਦਾ ਵਾਅਦਾ ਕਰਦੇ ਹਨ ਜੋ ਉਪਭੋਗਤਾ ਦੇ ਡਿਵਾਈਸ 'ਤੇ ਹੀ ਰਹਿੰਦਾ ਹੈ।

ਬ੍ਰਾਊਜ਼ਰ ਵਿੱਚ AI ਚਲਾਉਣਾ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

ਜ਼ਿਆਦਾਤਰ AI ਸੇਵਾਵਾਂ ਰੀਮੋਟ ਸਰਵਰਾਂ 'ਤੇ ਹੁੰਦੀਆਂ ਹਨ। ਤੁਸੀਂ ਇੱਕ ਪ੍ਰੋਂਪਟ (prompt) ਟਾਈਪ ਕਰਦੇ ਹੋ, ਟੈਕਸਟ ਨੈੱਟਵਰਕ ਰਾਹੀਂ ਸਫ਼ਰ ਕਰਦਾ ਹੈ, ਇੱਕ ਡੇਟਾ-ਸੈਂਟਰ ਪ੍ਰੋਸੈਸਰ ਇਸ ਨੂੰ ਪ੍ਰੋਸੈਸ ਕਰਦਾ ਹੈ, ਅਤੇ ਜਵਾਬ ਵਾਪਸ ਆਉਂਦਾ ਹੈ। ਇਹ ਸੈੱਟਅੱਪ ਪ੍ਰਦਾਤਾਵਾਂ ਨੂੰ ਹਾਰਡਵੇਅਰ, ਕੀਮਤ ਅਤੇ ਸਾਫਟਵੇਅਰ ਸਟੈਕ 'ਤੇ ਕੰਟਰੋਲ ਦਿੰਦਾ ਹੈ। ਇਹ ਹਰ ਕੁਐਰੀ (query) ਨੂੰ ਤੀਜੀ-ਪਾਰਟੀ ਪਾਈਪਲਾਈਨ ਰਾਹੀਂ ਭੇਜਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਕੱਚਾ ਇਨਪੁਟ (raw input) ਪ੍ਰਦਾਤਾ ਦੁਆਰਾ ਕੀਤੇ ਜਾਣ ਵਾਲੇ ਲੌਗਿੰਗ (logging) ਲਈ ਖੁੱਲ੍ਹਾ ਹੋ ਜਾਂਦਾ ਹੈ।

ਇੱਕ ਬ੍ਰਾਊਜ਼ਰ-ਅਧਾਰਤ kernel ਉਸ ਪਾਈਪਲਾਈਨ ਨੂੰ ਖਤਮ ਕਰ ਦਿੰਦਾ ਹੈ। ਮਾਡਲ ਦਾ ਕੰਪਿਊਟੇਸ਼ਨ ਉਸੇ ਮਸ਼ੀਨ 'ਤੇ ਹੁੰਦਾ ਹੈ ਜੋ ਨਤੀਜਾ ਦਿਖਾਉਂਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਲੇਟੈਂਸੀ (latency) ਘਟ ਜਾਂਦੀ ਹੈ ਅਤੇ ਨੈੱਟਵਰਕ ਦੀ ਲੋੜ ਖਤਮ ਹੋ ਜਾਂਦੀ ਹੈ। ਜੇਕਰ ਡੇਟਾ ਸੈਂਟਰ ਨਾਲ ਸੰਪਰਕ ਟੁੱਟ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਵੀ ਇਨਫਰੈਂਸ ਚਲਦਾ ਰਹਿੰਦਾ ਹੈ। ਡਿਵੈਲਪਰ ਕਈ GPUs 'ਤੇ ਪ੍ਰਦਰਸ਼ਨ ਦੀ ਜਾਂਚ ਕਰਨ ਲਈ ਉਸੇ ਬ੍ਰਾਊਜ਼ਰ ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦੇ ਹਨ, ਜਦੋਂ ਕਿ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਪਤਾ ਹੁੰਦਾ ਹੈ ਕਿ ਕਿਹੜਾ ਹਾਰਡਵੇਅਰ ਉਹਨਾਂ ਦੇ ਡੇਟਾ ਨੂੰ ਸੰਭਾਲ ਰਿਹਾ ਹੈ।

ਤਕਨੀਕੀ ਪੈਕੇਜ

ਹਰੇਕ 207 kernels ਦੇ ਨਾਲ ਇੱਕ ਵਰਜ਼ਨਡ ਕੰਟਰੈਕਟ (versioned contract) ਆਉਂਦਾ ਹੈ ਜੋ ਉਮੀਦ ਕੀਤੇ ਗਏ ਇਨਪੁਟ ਅਤੇ ਆਉਟਪੁਟ ਨੂੰ ਦੱਸਦਾ ਹੈ, shader ਵਿਵਹਾਰ ਦੀ ਜਾਂਚ ਕਰਨ ਲਈ ਸਹੀ ਹੋਣ ਦੇ ਕੇਸਾਂ (correctness cases) ਦਾ ਇੱਕ ਸਮੂਹ, ਵੱਖ-ਵੱਖ GPUs 'ਤੇ ਪ੍ਰਦਰਸ਼ਨ ਦਿਖਾਉਣ ਵਾਲਾ ਬੈਂਚਮਾਰਕ ਡੇਟਾ, ਅਤੇ ਮੁੜ ਵਰਤੋਂ ਯੋਗ shader ਟੈਂਪਲੇਟ ਜੋ ਡਿਵੈਲਪਰ ਬਦਲ ਸਕਦੇ ਹਨ।

ਸਿਰਫ਼ ਰਫ਼ਤਾਰ ਤੋਂ ਪਰੇ ਹੋਣ ਵਾਲੇ ਫਾਇਦੇ

  • ਪ੍ਰਾਈਵੇਸੀ-ਪਹਿਲ ਵਾਲਾ ਇਨਫਰੈਂਸ – ਡੇਟਾ ਕਦੇ ਵੀ ਉਪਭੋਗਤਾ ਦੇ ਡਿਵਾਈਸ ਤੋਂ ਬਾਹਰ ਨਹੀਂ ਜਾਂਦਾ, ਜਿਸ ਨਾਲ ਛੇਤੀ ਸੁਣਨ (eavesdropping) ਜਾਂ ਕਲਾਉਡ-ਪ੍ਰਦਾਤਾ ਡੇਟਾ ਮਾਈਨਿੰਗ ਲਈ ਖ਼ਤਰੇ ਨੂੰ ਘਟਾਇਆ ਜਾਂਦਾ ਹੈ।
  • ਆਫਲਾਈਨ ਸਮਰੱਥਾ – ਐਪਲੀਕੇਸ਼ਨਾਂ ਕਮਜ਼ੋਰ ਜਾਂ ਬਿਨਾਂ ਇੰਟਰਨੈਟ ਦੇ ਵੀ ਕੰਮ ਕਰਦੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ, ਜੋ ਰੀਮੋਟ ਵਰਕ, ਫੀਲਡ ਡਿਪਲਾਈਮੈਂਟ ਅਤੇ ਆਫ਼ਤ ਪ੍ਰਬੰਧਨ ਲਈ ਇੱਕ ਵਰਦਾਨ ਹੈ।
  • ਹਾਰਡਵੇਅਰ ਦਾ ਲੋਕਤੰਤਰੀਕਰਨ – ਕੋਈ ਵੀ ਬ੍ਰਾਊਜ਼ਰ ਜੋ WebGPU ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ, ਉਹ ਇੱਕੋ ਜਿਹੇ AI primitives ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਮਹਿੰਗੇ ਸਰਵਰ ਕੰਟਰੈਕਟਾਂ ਦੀ ਲੋੜ ਖਤਮ ਹੋ ਜਾਂਦੀ ਹੈ।

ਇਹ ਫਾਇਦੇ "AI ਆਜ਼ਾਦੀ" ਦੀ ਵਧਦੀ ਮੰਗ ਦੇ ਅਨੁਕੂਲ ਹਨ – ਯਾਨੀ ਕੁਝ ਵੱਡੀਆਂ ਕੰਪਨੀਆਂ ਤੋਂ ਕੰਪਿਊਟ ਕਿਰਾਏ 'ਤੇ ਲਏ ਬਿਨਾਂ ਇੰਟੈਲੀਜੈਂਟ ਏਜੰਟਾਂ ਨੂੰ ਚਲਾਉਣ ਦੀ ਸਮਰੱਥਾ।

ਦੂਜਾ ਪਹਿਲੂ: ਨਵੇਂ ਜੋਖਮ

ਸਥਾਨਕ (Local) ਕਾਰਜ ਪ੍ਰਣਾਲੀ ਮਾੜੇ ਇਰਾਦੇ ਵਾਲੇ ਲੋਕਾਂ ਲਈ ਰੁਕਾਵਟਾਂ ਨੂੰ ਵੀ ਘਟਾਉਂਦੀ ਹੈ। ਇੱਕ ਨੁਕਸਾਨਦੇਹ ਮਾਡਲ ਬ੍ਰਾਊਜ਼ਰ ਐਕਸਟੈਂਸ਼ਨ ਜਾਂ ਇੱਕ ਸਟੈਟਿਕ ਵੈੱਬ ਪੇਜ ਵਜੋਂ ਦਿਖਾਈ ਦੇ ਸਕਦਾ ਹੈ ਅਤੇ ਪੀੜਤ ਦੀ ਮਸ਼ੀਨ 'ਤੇ ਚੁੱਪਚਾਪ ਚੱਲ ਸਕਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਹਰ ਕਨੈਕਟਡ ਡਿਵਾਈਸ ਇੱਕ ਇਨਫਰੈਂਸ ਇੰਜਣ ਵਿੱਚ ਬਦਲ ਜਾਂਦਾ ਹੈ। ਸਹਿਮਤੀ ਮਕੈਨਿਜ਼ਮ ਅਕਸਰ ਬਿਨਾਂ ਚੈੱਕ ਕੀਤੇ ਬਾਕਸਾਂ ਤੱਕ ਸੀਮਤ ਰਹਿ ਜਾਂਦੇ ਹਨ, ਅਤੇ ਡਿਵਾਈਸ 'ਤੇ ਇਨਫਰੈਂਸ ਦੀ ਰਫ਼ਤਾਰ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਨਿਗਰਾਨੀ (surveillance) ਨੂੰ ਸਸਤਾ ਬਣਾ ਸਕਦੀ ਹੈ।

ਕਿਸ ਨੂੰ ਫਾਇਦਾ ਹੋਵੇਗਾ, ਅਤੇ ਕਿਸ ਦਾ ਨੁਕਸਾਨ ਹੋ ਸਕਦਾ ਹੈ

  • ਡਿਵੈਲਪਰਾਂ ਨੂੰ AI ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਲਈ ਇੱਕ ਘੱਟ ਲਾਗਤ ਵਾਲਾ, ਕਰਾਸ-ਪਲੇਟਫਾਰਮ ਟਾਰਗੇਟ ਮਿਲਦਾ ਹੈ, ਖਾਸ ਕਰਕੇ ਉੱਥੇ ਜਿੱਥੇ ਲੇਟੈਂਸੀ ਅਤੇ ਡੇਟਾ ਪ੍ਰਭੂਸੱਤਾ (data sovereignty) ਮਹੱਤਵਪੂਰਨ ਹੁੰਦੀ ਹੈ।
  • ਅੰਤਮ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਪ੍ਰਾਈਵੇਸੀ ਅਤੇ ਆਫਲਾਈਨ ਸਮਰੱਥਾ ਮਿਲਦੀ ਹੈ, ਪਰ ਉਹਨਾਂ ਨੂੰ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਚੱਲਣ ਵਾਲੇ ਕੋਡ ਦੀ ਜਾਂਚ ਕਰਨ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਵੀ ਮਿਲਦੀ ਹੈ।
  • ਹਾਰਡਵੇਅਰ ਨਿਰਮਾਤਾਵਾਂ ਨੂੰ ਇੱਕ ਬਿਹਤਰ ਫੀਡਬੈਕ ਲੂਪ ਮਿਲਦਾ ਹੈ: ਬ੍ਰਾਊਜ਼ਰਾਂ ਦੁਆਰਾ ਖਾਸ GPUs 'ਤੇ kernel ਅਸਫਲਤਾਵਾਂ ਦੀ ਰਿਪੋਰਟ ਕਰਨ ਨਾਲ ਅਜਿਹੇ ਬੱਗ (bugs) ਸਾਹਮਣੇ ਆਉਂਦੇ ਹਨ ਜੋ ਲੈਬ ਟੈਸਟਿੰਗ ਵਿੱਚ ਕਦੇ ਨਹੀਂ ਦਿਖੇ ਸਨ।

ਵਿਸ਼ਵਾਸ ਦਾ ਸਵਾਲ

ਜੇਕਰ ਕੋਈ AI ਮਾਡਲ ਤੁਹਾਡੇ ਕੰਟਰੋਲ ਵਾਲੇ ਹਾਰਡਵੇਅਰ 'ਤੇ ਚੱਲਦਾ ਹੈ, ਤਾਂ ਕੀ ਇਹ ਇਸਨੂੰ ਵਧੇਰੇ ਭਰੋਸੇਯੋਗ ਬਣਾਉਂਦਾ ਹੈ, ਜਾਂ ਕੇਂਦਰੀ ਨਿਗਰਾਨ ਦੀ ਘਾਟ ਜਵਾਬਦੇਹੀ ਨੂੰ ਹੋਰ ਮੁਸ਼ਕਲ ਬਣਾ ਦਿੰਦੀ ਹੈ? ਇਸਦਾ ਜਵਾਬ ਇਹ ਤੈਅ ਕਰੇਗਾ ਕਿ ਡਿਵੈਲਪਰ AI ਨੂੰ ਕਿਵੇਂ ਪੈਕੇਜ ਕਰਦੇ ਹਨ, ਨਿਯਮ ਲਾਗੂ ਕਰਨ ਵਾਲੇ ਨੀਤੀਆਂ ਕਿਵੇਂ ਤਿਆਰ ਕਰਦੇ ਹਨ, ਅਤੇ ਕੀ AI ਆਜ਼ਾਦੀ ਦਾ ਵਾਅਦਾ ਰੋਜ਼ਾਨਾ ਅਭਿਆਸ ਵਿੱਚ ਬਦਲਦਾ ਹੈ ਜਾਂ ਨਹੀਂ।

ਸਿੱਟਾ: Hugging Face ਦੇ ਬ੍ਰਾਊਜ਼ਰ kernels ਕੰਪਿਊਟੇਸ਼ਨ ਨੂੰ ਵਾਪਸ ਉਪਭੋਗਤਾਵਾਂ ਦੇ ਹੱਥਾਂ ਵਿੱਚ ਪਾਉਂਦੇ ਹਨ, ਜੋ ਤੇਜ਼, ਆਫਲਾਈਨ ਅਤੇ ਨਿੱਜੀ AI ਦਾ ਮਾਰਗ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ। ਇਹੀ ਆਜ਼ਾਦੀ ਨਵੀਆਂ ਸੁਰੱਖਿਆ ਚੁਣੌਤੀਆਂ ਵੀ ਲਿਆਉਂਦੀ ਹੈ, ਅਤੇ ਈਕੋਸਿਸਟਮ ਦਾ ਹੁੰਗਾਰਾ ਇਹ ਫੈਸਲਾ ਕਰੇਗਾ ਕਿ ਡਿਵਾਈਸ 'ਤੇ ਇਨਫਰੈਂਸ ਮੁੱਖ ਧਾਰਾ ਦਾ ਹਿੱਸਾ ਬਣੇਗਾ ਜਾਂ ਇੱਕ ਸੀਮਤ ਪ੍ਰਯੋਗ ਬਣ ਕੇ ਰਹਿ ਜਾਵੇਗਾ।