OpenAI ਨੇ ਅਧਿਕਾਰਤ ਤੌਰ 'ਤੇ ਆਪਣੀ ਸਮਰਪਿਤ ਤਿਆਰੀ (preparedness) ਟੀਮ ਨੂੰ ਭੰਗ ਕਰ ਦਿੱਤਾ ਹੈ, ਜੋ ਕਿ AI ਦੀ ਇਸ ਦਿੱਗਜ ਕੰਪਨੀ ਦੁਆਰਾ ਹੋਂਦ ਦੇ ਖ਼ਤਰੇ ਅਤੇ ਪ੍ਰਣਾਲੀਗਤ ਜੋਖਮਾਂ ਨੂੰ ਸੰਭਾਲਣ ਦੇ ਤਰੀਕੇ ਵਿੱਚ ਇੱਕ ਸਪੱਸ਼ਟ ਸੰਰਚਨਾਤਮਕ ਤਬਦੀਲੀ ਹੈ। ਇਹ ਕਦਮ ਇੱਕ ਕੇਂਦਰੀਕ੍ਰਿਤ ਸੁਰੱਖਿਆ ਯੂਨਿਟ ਦੀ ਜਗ੍ਹਾ ਇੱਕ ਵੰਡੇ ਹੋਏ ਮਾਡਲ ਨੂੰ ਲਿਆ ਰਿਹਾ ਹੈ, ਜੋ ਕਿ ਮੌਜੂਦਾ ਵਿਕਾਸ ਪਾਈਪਲਾਈਨਾਂ ਵਿੱਚ ਹੀ ਸ਼ਾਮਲ ਕੀਤਾ ਗਿਆ ਹੈ।

ਕੇਂਦਰੀਕ੍ਰਿਤ ਸੁਰੱਖਿਆ ਤੋਂ ਵੰਡੇ ਹੋਏ ਜੋਖਮ ਪ੍ਰਬੰਧਨ ਵੱਲ ਇੱਕ ਤਬਦੀਲੀ

ਤਿਆਰੀ ਟੀਮ ਪਹਿਲਾਂ ਇਹ ਮੁਲਾਂਕਣ ਕਰਦੀ ਸੀ ਕਿ ਕੀ ਉੱਨਤ AI ਮਾਡਲ, ਉਦਾਹਰਨ ਲਈ, ਕਾਰਪੋਰੇਟ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਹੈਕ ਕਰ ਸਕਦੇ ਹਨ, ਅਤੇ ਫਿਰ ਉਹਨਾਂ ਨੂੰ ਰੋਕਣ ਲਈ ਰਣਨੀਤੀਆਂ ਤਿਆਰ ਕਰਦੀ ਸੀ। Financial Times ਦੀ ਰਿਪੋਰਟ ਅਨੁਸਾਰ, ਇਹ ਯੂਨਿਟ ਪਿਛਲੇ ਮਹੀਨੇ ਦੇ ਅੰਤ ਵਿੱਚ ਬੰਦ ਕਰ ਦਿੱਤਾ ਗਿਆ ਸੀ।

OpenAI ਸੁਰੱਖਿਆ ਪ੍ਰੋਟੋਕੋਲ ਨੂੰ ਤਿਆਗ ਨਹੀਂ ਰਿਹਾ ਹੈ। ਇਸ ਦੀ ਬਜਾਏ, ਇਹ ਨਿਗਰਾਨੀ ਦੇ ਕੰਮ ਨੂੰ ਵਿਸ਼ੇਸ਼ ਖੇਤਰਾਂ—ਜਿਵੇਂ ਕਿ ਜੈਵਿਕ ਜੋਖਮ, ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਖ਼ਤਰੇ—ਵਿੱਚ ਵੰਡ ਰਿਹਾ ਹੈ ਅਤੇ ਉਹਨਾਂ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਨੂੰ ਪ੍ਰੋਡਕਟ ਅਤੇ ਖੋਜ ਟੀਮਾਂ ਦੇ ਅੰਦਰ ਸਥਾਪਿਤ ਕਰ ਰਿਹਾ ਹੈ। Dylan Scandinaro, ਜਿਨ੍ਹਾਂ ਨੇ ਫਰਵਰੀ ਵਿੱਚ Anthropic ਤੋਂ ਜੁੜਨ ਤੋਂ ਬਾਅਦ ਤਿਆਰੀ ਟੀਮ ਦੀ ਅਗਵਾਈ ਕੀਤੀ ਸੀ, ਹੁਣ “recursive self-improving” AI ਦੇ ਪ੍ਰਭਾਵਾਂ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਨਗੇ, ਜੋ ਕਿ Artificial General Intelligence ਲਈ ਇੱਕ ਮੁੱਖ ਮੈਦਾਨ ਹੈ।

ਅੰਦਰੂਨੀ ਉਥਲ-ਪੁਥਲ ਅਤੇ "ਪ੍ਰੋਡਕਟ ਬਨਾਮ ਸੁਰੱਖਿਆ" ਬਹਿਸ

ਇਹ ਪੁਨਰਗਠਨ ਕਈ ਉੱਚ-ਪੱਧਰੀ ਅਹੁਦਿਆਂ ਤੋਂ ਜਾਣੀਆਂ ਗਈਆਂ ਅਲਵਿਦਾਵਾਂ ਅਤੇ ਹੋਰ ਸੁਰੱਖਿਆ ਯੂਨਿਟਾਂ ਦੇ ਖ਼ਤਮ ਹੋਣ ਤੋਂ ਬਾਅਦ ਹੋਇਆ ਹੈ, ਜਿਸ ਵਿੱਚ AGI ਤਿਆਰੀ ਅਤੇ super-alignment ਟੀਮਾਂ ਵੀ ਸ਼ਾਮਲ ਹਨ। ਨੈਤਿਕਤਾ ਲੀਡ (Ethics Lead) Chloé Bakalar, ਚੀਫ਼ ਫਿਊਚਰਿਸਟ Josh Achiam, ਅਤੇ ਸੁਰੱਖਿਆ ਮੁਖੀ Johannes Heidecke ਦੇ ਜਾਣ ਨੇ ਨਿਰੀਖਕਾਂ ਵਿੱਚ ਚਿੰਤਾ ਵਧਾ ਦਿੱਤੀ ਹੈ।

OpenAI ਦੇ ਸਾਬਕਾ ਖੋਜਕਰਤਾ Jan Leike ਦਾ ਤਰਕ ਹੈ ਕਿ ਕੰਪਨੀ ਲੰਬੇ ਸਮੇਂ ਦੀ ਸੁਰੱਖਿਆ ਖੋਜ ਦੀ ਬਜਾਏ "ਚਮਕਦਾਰ ਪ੍ਰੋਡਕਟਸ" ਨੂੰ ਪਹਿਲ ਦੇ ਰਹੀ ਹੈ। ਇਹ ਟਕਰਾਅ ਇੱਕ ਵਧਦੀ ਹੋਈ ਦੂਰੀ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ: ਤੇਜ਼ੀ ਨਾਲ ਬਾਜ਼ਾਰ 'ਤੇ ਕਬਜ਼ਾ ਕਰਨਾ ਬਨਾਮ ਭਿਆਨਕ ਗਲਤ-ਅਲਾਈਨਮੈਂਟ (misalignments) ਤੋਂ ਬਚਣ ਲਈ ਲੋੜੀਂਦਾ ਸਾਵਧਾਨੀਪੂਰਵਕ ਅਤੇ ਖੋਜ-ਅਧਾਰਤ ਕੰਮ।

IPO ਵੱਲ ਰਣਨੀਤਕ ਮੋੜ

OpenAI ਇੱਕ ਵੱਡੇ Initial Public Offering (IPO) ਦੀ ਤਿਆਰੀ ਕਰਦੇ ਹੋਏ ਆਪਣੇ ਸੰਗਠਨ ਨੂੰ ਨਵਾਂ ਰੂਪ ਦੇ ਰਿਹਾ ਹੈ। ਇੱਕ ਖੋਜ-ਅਧਾਰਤ ਗੈਰ-ਮੁਨਾਫ਼ਾ ਹਾਈਬ੍ਰਿਡ ਤੋਂ ਇੱਕ ਰਵਾਇਤੀ ਵਪਾਰਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸੰਸਥਾ ਵੱਲ ਇਹ ਤਬਦੀਲੀ, ਵਿਕਾਸਯੋਗ ਅਤੇ ਉਪਭੋਗਤਾ-ਤਿਆਰ ਪ੍ਰੋਡਕਟਸ ਲਾਂਚ ਕਰਨ ਦੇ ਦਬਾਅ ਨੂੰ ਵਧਾਉਂਦੀ ਹੈ।

ਵਿਆਪਕ AI ਖੇਤਰ ਲਈ, ਇਹ ਵਿਕਾਸ ਇੱਕ ਸੰਕੇਤ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ। ਇਹ ਉਸ ਰਗੜ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ ਜੋ ਉਦੋਂ ਪੈਦਾ ਹੁੰਦੀ ਹੈ ਜਦੋਂ ਅਗਾਂਹਵਧੂ ਲੈਬਾਂ ਅਕਾਦਮਿਕ ਉਤਸੁਕਤਾ ਤੋਂ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਸਾਫਟਵੇਅਰ ਵੱਲ ਵਧਦੀਆਂ ਹਨ। ਮੁੱਖ ਟੀਮਾਂ ਦੇ ਅੰਦਰ ਸੁਰੱਖਿਆ ਨੂੰ ਸ਼ਾਮਲ ਕਰਨਾ ਚੁਸਤੀ ਨੂੰ ਵਧਾ ਸਕਦਾ ਹੈ, ਪਰ ਇਹ ਉੱਚ-ਦਰਜੇ ਦੀਆਂ ਪ੍ਰਾਪਤੀਆਂ ਦੇ ਪ੍ਰਬੰਧਨ ਲਈ ਲੋੜੀਂਦੀ ਸੁਤੰਤਰ ਜਾਂਚ ਲਈ ਖ਼ਤਰਾ ਵੀ ਪੈਦਾ ਕਰਦਾ ਹੈ।

ਮੁੱਖ ਗੱਲਾਂ

  • ਵਿਕੇਂਦਰੀਕ੍ਰਿਤ ਸੁਰੱਖਿਆ: OpenAI ਸਥਾਪਿਤ ਤਿਆਰੀ ਟੀਮ ਨੂੰ ਖਤਮ ਕਰ ਰਿਹਾ ਹੈ ਅਤੇ ਜੈਵਿਕ ਅਤੇ ਸਾਈਬਰ ਜੋਖਮਾਂ ਨੂੰ ਰੋਕਣ ਦੇ ਕੰਮ ਨੂੰ ਮੌਜੂਦਾ ਯੂਨਿਟਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰ ਰਿਹਾ ਹੈ।
  • ਲੀਡਰਸ਼ਿਪ ਦਾ ਘਾਟਾ: ਟੀਮ ਦਾ ਭੰਗ ਹੋਣਾ ਕਈ ਸੁਰੱਖਿਆ ਅਤੇ ਨੈਤਿਕਤਾ ਲੀਡਰਾਂ ਦੇ ਜਾਣ ਤੋਂ ਬਾਅਦ ਹੋਇਆ ਹੈ, ਜਿਸ ਨਾਲ ਤਰਜੀਹਾਂ ਬਦਲਣ ਬਾਰੇ ਚਿੰਤਾਵਾਂ ਪੈਦਾ ਹੋ ਗਈਆਂ ਹਨ।
  • ਵਪਾਰਕ ਗਤੀ: ਇਹ ਪੁਨਰਗਠਨ OpenAI ਦੇ ਵੱਡੇ IPO ਵੱਲ ਵਧ ਰਹੇ ਕਦਮਾਂ ਦੇ ਅਨੁਕੂਲ ਹੈ, ਜੋ ਕਿ ਸ਼ੁੱਧ ਸੁਰੱਖਿਆ ਖੋਜ ਤੋਂ ਪ੍ਰੋਡਕਟ-ਅਧਾਰਤ ਵਿਸਤਾਰ ਵੱਲ ਮੋੜ ਦਾ ਇਸ਼ਾਰਾ ਕਰਦਾ ਹੈ।