ਏਅਰ ਕੈਨੇਡਾ ਨੂੰ $812.02 CAD ਅਦਾ ਕਰਨ ਦਾ ਹੁਕਮ ਦਿੱਤਾ ਗਿਆ ਹੈ, ਕਿਉਂਕਿ ਇੱਕ ਟ੍ਰਿਬਿਊਨਲ ਨੇ ਇੱਕ ਚੈਟਬੋਟ ਲਈ ਏਅਰਲਾਈਨ ਨੂੰ ਜ਼ਿੰਮੇਵਾਰ ਪਾਇਆ ਹੈ ਜਿਸ ਨੇ ਅਜਿਹੀ ਰਿਫੰਡ ਦਾ ਵਾਅਦਾ ਕੀਤਾ ਸੀ ਜੋ ਕਦੇ ਸੀ ਹੀ ਨਹੀਂ।

ਵਿਵਾਦ ਕਿਵੇਂ ਵਧਿਆ

2022 ਵਿੱਚ, ਜੇਕ ਮੌਫੈਟ (Jake Moffatt) ਨੂੰ ਇੱਕ ਅੰਤਿਮ ਸੰਸਕਾਰ ਲਈ ਆਖਰੀ ਮਿੰਟ ਵਿੱਚ ਫਲਾਈਟ ਦੀ ਲੋੜ ਸੀ। ਉਸਨੇ ਏਅਰਲਾਈਨ ਦੇ ਆਨਲਾਈਨ ਚੈਟਬੋਟ ਤੋਂ ਸੋਗ (bereavement) ਦੇ ਭਾੜੇ ਬਾਰੇ ਪੁੱਛਿਆ। ਬੋਟ ਨੇ ਜਵਾਬ ਦਿੱਤਾ ਕਿ ਉਹ ਪੂਰੀ ਕੀਮਤ ਵਾਲਾ ਟਿਕਟ ਖਰੀਦ ਸਕਦਾ ਹੈ ਅਤੇ ਬਾਅਦ ਵਿੱਚ ਰਿਫੰਡ ਲਈ ਬੇਨਤੀ ਕਰ ਸਕਦਾ ਹੈ। ਉਸ ਜਵਾਬ 'ਤੇ ਭਰੋਸਾ ਕਰਦੇ ਹੋਏ, ਮੌਫੈਟ ਨੇ $1,630.36 CAD ਅਦਾ ਕੀਤੇ। ਜਦੋਂ ਉਸਨੇ ਵਾਅਦਾ ਕੀਤੇ ਅਨੁਸਾਰ ਰਿਫੰਡ ਮੰਗਿਆ, ਤਾਂ ਏਅਰ ਕੈਨੇਡਾ ਨੇ ਬੇਨਤੀ ਨੂੰ ਰੱਦ ਕਰ ਦਿੱਤਾ।

ਮੌਫੈਟ ਨੇ ਮਾਮਲਾ ਟ੍ਰਿਬਿਊਨਲ ਕੋਲ ਲੈ ਗਿਆ। ਨਿਰਣਾਇਕਾਂ (adjudicators) ਨੇ ਕਿਹਾ ਕਿ ਏਅਰਲਾਈਨ ਨੇ ਲਾਪਰਵਾਹੀ ਭਰੀ ਗਲਤ ਪੇਸ਼ਕਾਰੀ (negligent misrepresentation) ਕੀਤੀ ਹੈ – ਚੈਟਬੋਟ ਦਾ ਬਿਆਨ ਇੱਕ ਝੂਠਾ ਵਾਅਦਾ ਸੀ ਜਿਸ ਨੇ ਖਰੀਦਦਾਰੀ ਕਰਨ ਲਈ ਪ੍ਰੇਰਿਤ ਕੀਤਾ। ਉਨ੍ਹਾਂ ਨੇ ਏਅਰ ਕੈਨੇਡਾ ਦੇ ਇਸ ਦਾਅਵੇ ਨੂੰ ਰੱਦ ਕਰ ਦਿੱਤਾ ਕਿ ਇੱਕ ਸਾਫਟਵੇਅਰ ਏਜੰਟ ਇਕਰਾਰਨਾਮਾ ਕਰਨ ਵਾਲਾ ਪੱਖ ਨਹੀਂ ਹੋ ਸਕਦਾ, ਇਹ ਨੋਟ ਕਰਦੇ ਹੋਏ ਕਿ ਬੋਟ ਕੰਪਨੀ ਦੀ ਜਨਤਕ ਵੈੱਬਸਾਈਟ 'ਤੇ ਮੌਜੂਦ ਹੈ ਅਤੇ ਇਸ ਲਈ ਏਅਰਲਾਈਨ ਦੇ ਵਲੋਂ ਕੰਮ ਕਰਦਾ ਹੈ। ਟ੍ਰਿਬਿਊਨਲ ਨੇ ਏਅਰਲਾਈਨ ਨੂੰ ਮੌਫੈਟ ਨੂੰ $812.02 CAD ਵਾਪਸ ਕਰਨ ਦਾ ਹੁਕਮ ਦਿੱਤਾ।

ਇਹ ਕੇਸ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

AI ਦੀਆਂ ਗਲਤੀਆਂ ਬਾਰੇ ਜ਼ਿਆਦਾਤਰ ਜਨਤਕ ਰੋਸ ਸਪੱਸ਼ਟ ਅਸਫਲਤਾਵਾਂ—ਡਾਟਾ ਦੀ ਗੁੰਮ ਹੋਣਾ, ਟੁੱਟਿਆ ਹੋਇਆ ਕੋਡ, ਜਾਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਪੱਖਪਾਤੀ ਨਤੀਜਿਆਂ—'ਤੇ ਕੇਂਦਰਿਤ ਹੁੰਦੇ ਹਨ। ਇਹ ਫੈਸਲਾ ਇੱਕ ਬਾਰੀਕ ਖ਼ਤਰੇ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦਾ ਹੈ: ਇੱਕ AI ਜੋ ਨੀਤੀ ਦੇ ਵੇਰਵਿਆਂ ਨੂੰ ਘੜਦੇ ਹੋਏ ਆਤਮ-ਵਿਸ਼ਵਾਸ ਨਾਲ ਗੱਲ ਕਰਦਾ ਹੈ, ਉਹ ਲਾਗੂ ਕਰਨ ਯੋਗ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ। ਬੋਟ ਨੇ ਕੁਝ ਵੀ “ਡਿਲੀਟ” ਨਹੀਂ ਕੀਤਾ ਸੀ; ਇਸਨੇ ਸਿਰਫ਼ ਇੱਕ ਸਪੱਸ਼ਟ, ਬਿਨਾਂ ਕਿਸੇ ਸ਼ਰਤ ਦੇ ਜਵਾਬ ਦਿੱਤਾ ਜਿਸ ਨੂੰ ਇੱਕ ਤਰਕਸੰਗਤ ਗਾਹਕ ਏਅਰਲਾਈਨ ਦੇ ਅਧਿਕਾਰਤ ਰੁਖ ਵਜੋਂ ਮੰਨੇਗਾ।

ਇਹ ਫੈਸਲਾ ਇੱਕ ਕਾਨੂੰਨੀ ਨਜ਼ੀਰ ਸਥਾਪਿਤ ਕਰਦਾ ਹੈ ਕਿ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਗਏ ਬਿਆਨ "ਸਾਫਟਵੇਅਰ ਸਿਰਫ਼ ਇੱਕ ਸਾਧਨ ਹੈ" ਦੇ ਬਚਾਅ ਰਾਹੀਂ ਸੁਰੱਖਿਅਤ ਨਹੀਂ ਹਨ। ਜੇਕਰ ਕੋਈ ਵਰਚੁਅਲ ਅਸਿਸਟੈਂਟ ਅਜਿਹੀ ਜਾਣਕਾਰੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ ਜਿਸ 'ਤੇ ਖਪਤਕਾਰ ਖਰੀਦਦਾਰੀ ਕਰਨ ਲਈ ਭਰੋਸਾ ਕਰਦਾ ਹੈ, ਤਾਂ ਉਸ ਜਾਣਕਾਰੀ ਨੂੰ ਇਕਰਾਰਨਾਮੇ ਦੀ ਸ਼ਰਤ ਵਜੋਂ ਮੰਨਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਉਹ ਕੰਪਨੀਆਂ ਜੋ ਸਖ਼ਤ ਨਿਯੰਤਰਣਾਂ ਤੋਂ ਬਿਨਾਂ ਚੈਟਬੋਟ ਦੀ ਵਰਤੋਂ ਕਰਦੀਆਂ ਹਨ, ਉਹਨਾਂ ਨੂੰ ਅਜਿਹੀ ਹੀ ਜ਼ਿੰਮੇਵਾਰੀ ਦਾ ਖ਼ਤਰਾ ਰਹਿੰਦਾ ਹੈ।

ਗਲਤੀ ਦੀ ਤਕਨੀਕੀ ਜੜ੍ਹ

ਇਹ ਗਲਤੀ ਰਿਟ੍ਰੀਵਲ-ਔਗਮੈਂਟਡ ਜਨਰੇਸ਼ਨ (RAG) ਪਾਈਪਲਾਈਨ ਤੋਂ ਪੈਦਾ ਹੋਈ ਸੀ। ਸਿਸਟਮ ਨੇ ਸਹੀ ਨੀਤੀ ਦਸਤਾਵੇਜ਼ ਲੱਭ ਲਿਆ ਸੀ ਪਰ ਗਲਤ ਵਾਕ ਚੁਣ ਲਿਆ ਅਤੇ ਇਸਨੂੰ ਤੱਥ ਵਜੋਂ ਪੇਸ਼ ਕੀਤਾ। ਗਾਰਡਰੇਲਜ਼ (Guardrails) ਜੋ ਬੇਮਤਲਬ ਜਾਂ ਅਪਮਾਨਜਨਕ ਭਾਸ਼ਾ ਨੂੰ ਫਿਲਟਰ ਕਰਦੇ ਹਨ, ਉਹ ਅਕਸਰ ਚੰਗੀ ਤਰ੍ਹਾਂ ਲਿਖੇ ਹੋਏ ਪਰ ਗਲਤ ਅੰਸ਼ਾਂ ਨੂੰ ਛੱਡ ਦਿੰਦੇ ਹਨ। ਇਸ ਮਾਮਲੇ ਵਿੱਚ, ਬੋਟ ਦੀ ਰਵਾਨਗੀ—ਉਸਦੀ ਹਿਚਕਿਚਾਹਟ ਦੀ ਘਾਟ ਜਾਂ “ਮੈਨੂੰ ਯਕੀਨ ਨਹੀਂ ਹੈ”—ਨੇ ਝੂਠੇ ਵਾਅਦੇ ਨੂੰ ਇੱਕ ਅਧਿਕਾਰਤ ਰੂਪ ਦੇ ਦਿੱਤਾ।

ਏਅਰਲਾਈਨਾਂ ਅਤੇ ਹੋਰ ਫਰਮਾਂ ਹੁਣ ਕੀ ਕਰ ਸਕਦੀਆਂ ਹਨ

  • ਕਿਸੇ ਵੀ ਵਿੱਤੀ ਜਾਂ ਹੱਕਦਾਰੀ ਸ਼ਬਦਾਵਲੀ ਨੂੰ ਹਾਰਡ-ਕੋਡ ਕਰੋ। ਰਿਫੰਡ, ਡਿਸਕਾਊਂਟ ਜਾਂ ਫੀਸਾਂ ਬਾਰੇ ਬਿਆਨਾਂ ਲਈ ਨਿਸ਼ਚਿਤ ਟੈਂਪਲੇਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰੋ।
  • ਚੈਟਬੋਟ ਨੂੰ ਫਰੰਟਲਾਈਨ ਕਰਮਚਾਰੀ ਵਜੋਂ ਮੰਨੋ। ਇਹ ਮੰਨ ਕੇ ਚੱਲੋ ਕਿ ਕਾਨੂੰਨ ਦੀ ਨਜ਼ਰ ਵਿੱਚ ਇਹ ਇਕਰਾਰਨਾਮੇ “ਦਸਤਖਤ” ਕਰ ਸਕਦਾ ਹੈ ਅਤੇ ਇਸਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਮਨੁੱਖੀ ਏਜੰਟ ਵਾਂਗ ਹੀ ਸਮਾਨ ਸਮੀਖਿਆ ਪ੍ਰਕਿਰਿਆ ਦੇ ਅਧੀਨ ਰੱਖੋ।
  • ਖੋਜ (search) ਨੂੰ ਜਨਰੇਸ਼ਨ (generation) ਤੋਂ ਵੱਖ ਕਰੋ। ਜਦੋਂ ਕੰਮ ਨੀਤੀ ਦੇ ਟੈਕਸਟ ਨੂੰ ਲੱਭਣਾ ਹੋਵੇ, ਤਾਂ ਪੈਰਾਫਰੇਜ਼ ਕੀਤੇ ਹੋਏ ਜਵਾਬ ਦੀ ਬਜਾਏ ਇੱਕ ਲਿੰਕ ਜਾਂ ਕੋਟ ਕੀਤਾ ਹੋਇਆ ਅੰਸ਼ ਪ੍ਰਦਾਨ ਕਰੋ।

ਇਹ ਕਦਮ ਗੱਲਬਾਤ ਨੂੰ ਘੱਟ ਸੁਭਾਵਿਕ ਬਣਾ ਸਕਦੇ ਹਨ, ਪਰ ਇਹ ਉਸ ਤਰ੍ਹਾਂ ਦੀ ਭਰੋਸੇਯੋਗ ਗਲਤ ਜਾਣਕਾਰੀ ਨੂੰ ਰੋਕਦੇ ਹਨ ਜਿਸ ਕਾਰਨ ਏਅਰ ਕੈਨੇਡਾ ਨੂੰ ਅਦਾਲਤ ਦੁਆਰਾ ਹੁਕਮਿਤ ਭੁਗਤਾਨ ਕਰਨਾ ਪਿਆ।

ਵਿਰੋਧੀ ਦਲੀਲ: ਕੀ ਜ਼ਿੰਮੇਵਾਰੀ ਨਿਰਪੱਖ ਹੈ?

ਏਅਰ ਕੈਨੇਡਾ ਨੇ ਦਲੀਲ ਦਿੱਤੀ ਕਿ ਕੋਡ ਦੇ ਇੱਕ ਟੁਕੜੇ ਵਿੱਚ ਕਾਨੂੰਨੀ ਵਿਅਕਤੀਤਵ (legal personhood) ਦੀ ਕਮੀ ਹੈ ਅਤੇ ਇਸਨੂੰ ਇਕਰਾਰਨਾਮੇ ਨਾਲ ਬੰਨ੍ਹਿਆ ਨਹੀਂ ਜਾ ਸਕਦਾ। ਟ੍ਰਿਬਿਊਨਲ ਦਾ ਰੱਦ ਕਰਨਾ ਇਸ ਸਿਧਾਂਤ 'ਤੇ ਅਧਾਰਤ ਹੈ ਕਿ ਕੰਪਨੀ ਚੈਟਬੋਟ ਨੂੰ ਸੰਪਰਕ ਦੇ ਇੱਕ ਅਧਿਕਾਰਤ ਬਿੰਦੂ ਵਜੋਂ ਪੇਸ਼ ਕਰਦੀ ਹੈ। ਆਲੋਚਕ ਚਿੰਤਾ ਕਰਦੇ ਹਨ ਕਿ AI ਤੱਕ ਜ਼ਿੰਮੇਵਾਰੀ ਦਾ ਵਿਸਤਾਰ ਕਰਨ ਨਾਲ ਨਵੀਨਤਾ ਰੁਕ ਸਕਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਫਰਮਾਂ ਨੂੰ ਅਜਿਹੇ ਸੁਰੱਖਿਆ ਨੈੱਟ ਬਣਾਉਣ ਲਈ ਮਜਬੂਰ ਹੋਣਾ ਪਵੇਗਾ ਜੋ ਉਪਭੋਗਤਾ ਦੇ ਅਨੁਭਵ ਨੂੰ ਘਟਾਉਂਦੇ ਹਨ। ਉਪਭੋਗਤਾਵਾਂ ਦੀ ਰੱਖਿਆ ਕਰਨ ਅਤੇ AI ਦੀ ਚੁਸਤੀ ਨੂੰ ਬਣਾਈ ਰੱਖਣ ਵਿਚਕਾਰ ਸੰਤੁਲਨ 'ਤੇ ਸ਼ਾਇਦ ਭਵਿੱਖ ਦੇ ਮਾਮਲਿਆਂ ਵਿੱਚ ਬਹਿਸ ਹੋਵੇਗੀ।

ਅੱਗੇ ਕੀ ਦੇਖਣਾ ਹੈ

  • ਅਗਲੀ ਕਾਨੂੰਨੀ ਕਾਰਵਾਈ। ਜੇਕਰ ਏਅਰ ਕੈਨੇਡਾ ਅਪੀਲ ਕਰਦਾ ਹੈ, ਤਾਂ ਉੱਚ ਅਦਾਲਤਾਂ AI-ਇਕਰਾਰਨਾਮਾ ਜ਼ਿੰਮੇਵਾਰੀ ਦੇ ਦਾਇਰੇ ਨੂੰ ਸਪੱਸ਼ਟ ਕਰ ਸਕਦੀਆਂ ਹਨ।
  • ਨਿਯਮਕ ਮਾਰਗਦਰਸ਼ਨ। ਉਪਭੋਗਤਾ ਸੁਰੱਖ