AI ਸੁਰੱਖਿਆ ਦਾ ਬਲੈਕ ਬਾਕਸ: OpenAI ਦੇ Sol ਨੂੰ ਹਰੀ ਝੰਡੀ ਕਿਵੇਂ ਮਿਲੀ

ਜਿਵੇਂ ਹੀ OpenAI ਆਪਣਾ ਨਵਾਂ ਫਰੰਟੀਅਰ ਮਾਡਲ, Sol, ਲਾਂਚ ਕਰ ਰਿਹਾ ਹੈ, ਇੱਕ ਅਹਿਮ ਸਵਾਲ ਟੈਕ ਇੰਡਸਟਰੀ ਨੂੰ ਪਰੇਸ਼ਾਨ ਕਰ ਰਿਹਾ ਹੈ: ਸਰਕਾਰ ਨੇ ਇਹ ਕਿਵੇਂ ਫੈਸਲਾ ਕੀਤਾ ਕਿ ਇਹ ਮਾਡਲ ਜਨਤਕ ਰਿਲੀਜ਼ ਲਈ ਸੁਰੱਖਿਅਤ ਹੈ? ਹਾਲਾਂਕਿ Sol ਦਾ ਉਦੇਸ਼ Anthropic ਦੇ Fable ਦਾ ਮੁਕਾਬਲਾ ਕਰਨਾ ਹੈ—ਜਿਸ ਮਾਡਲ 'ਤੇ ਪਹਿਲਾਂ ਵ੍ਹਾਈਟ ਹਾਊਸ ਦੁਆਰਾ ਪਾਬੰਦੀ ਲਗਾਈ ਗਈ ਸੀ—ਪਰ ਪ੍ਰਵਾਨਗੀ ਪ੍ਰਕਿਰਿਆ ਦੇ ਸਬੰਧ ਵਿੱਚ ਪਾਰਦਰਸ਼ਤਾ ਦੀ ਘਾਟ ਨੇ ਨਿਯਮ ਲਾਗੂ ਕਰਨ ਵਾਲਿਆਂ ਅਤੇ ਖੋਜਕਰਤਾਵਾਂ ਵਿਚਕਾਰ ਭਾਰੀ ਬਹਿਸ ਛੇੜ ਦਿੱਤੀ ਹੈ।

ਮਿਆਰੀ ਸੁਰੱਖਿਆ ਪ੍ਰੋਟੋਕੋਲ ਦੀ ਘਾਟ

ਫਰੰਟੀਅਰ ਮਾਡਲਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੇ ਉੱਚ ਜੋਖਮਾਂ ਦੇ ਬਾਵਜੂਦ, ਵਰਤਮਾਨ ਵਿੱਚ AI ਸੁਰੱਖਿਆ ਪ੍ਰਮਾਣਿਕਤਾ ਲਈ ਕੋਈ ਇੱਕਜੁੱਟ, ਪਾਰਦਰਸ਼ੀ ਢਾਂਚਾ ਨਹੀਂ ਹੈ। ਹਾਲਾਂਕਿ OpenAI ਦੇ CEO Sam Altman ਨੇ ਪੁਸ਼ਟੀ ਕੀਤੀ ਹੈ ਕਿ ਵਪਾਰ ਮੰਤਰੀ Howard Lutnick ਅਤੇ U.S. National Cyber Director Sean Cairncross ਸਮੇਤ ਉੱਚ ਅਧਿਕਾਰੀਆਂ ਨਾਲ ਗੱਲਬਾਤ ਹੋਈ ਸੀ—ਪਰ Sol ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਵਰਤੇ ਗਏ ਖਾਸ ਤਕਨੀਕੀ ਬੈਂਚਮਾਰਕ ਅਜੇ ਵੀ ਅਣਜਾਣ ਹਨ।

ਮਾਹਿਰਾਂ ਦੁਆਰਾ ਮੌਜੂਦਾ ਰੈਗੂਲੇਟਰੀ ਲੈਂਡਸਕੇਪ ਨੂੰ "ad hoc" ਦੱਸਿਆ ਗਿਆ ਹੈ। ਹਾਲਾਂਕਿ ਹਾਲ ਹੀ ਵਿੱਚ ਇੱਕ ਕਾਰਜਕਾਰੀ ਆਦੇਸ਼ (executive order) ਨੇ ਫਰੰਟੀਅਰ ਮਾਡਲਾਂ ਦੇ ਮੁਲਾਂਕਣ ਲਈ ਇੱਕ ਰੋਡਮੈਪ ਤਿਆਰ ਕੀਤਾ ਹੈ, ਪਰ ਇਸਦੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਅਜੇ ਵੀ ਤਿਆਰ ਕੀਤੀਆਂ ਜਾ ਰਹੀਆਂ ਹਨ। ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਗੱਲ ਇਹ ਹੈ ਕਿ "AI ਲਈ ਕੋਈ FDA" ਨਹੀਂ ਹੈ, ਜਿਸਦਾ ਜ਼ਿਕਰ ਸਾਬਕਾ ਵ੍ਹਾਈਟ ਹਾਊਸ AI ਸਲਾਹਕਾਰ Sriram Krishnan ਨੇ ਵੀ ਕੀਤਾ ਹੈ। ਇੱਕ ਕੇਂਦਰੀ ਰੈਗੂਲੇਟਰੀ ਸੰਸਥਾ ਦੀ ਇਸ ਅਣਹੋਂਦ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣ ਵਰਤਮਾਨ ਵਿੱਚ ਕੰਪਨੀ ਦੀਆਂ ਅੰਦਰੂਨੀ ਪ੍ਰਕਿਰਿਆਵਾਂ ਅਤੇ ਸਵੈ-ਇੱਛਤ ਬਾਹਰੀ ਆਡਿਟਾਂ ਦੇ ਮਿਸ਼ਰਣ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ।

ਨਵੀਨਤਾ ਅਤੇ ਨਿਯਮਾਂ ਵਿਚਕਾਰ ਤਣਾਅ

Anthropic ਦੇ Fable ਦੀ ਰਿਲੀਜ਼ ਇਸ ਅਨਿਯੰਤਿਤ ਮਾਹੌਲ ਦੀ ਅਸਥਿਰਤਾ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ। "Jailbreaking" ਸਮਰੱਥਾਵਾਂ ਬਾਰੇ ਚਿੰਤਾਵਾਂ ਕਾਰਨ, ਜੋ ਹੈਕਿੰਗ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦੀਆਂ ਹਨ, ਵਿਦੇਸ਼ੀ ਨਾਗਰਿਕਾਂ ਲਈ Fable ਦੀ ਜਨਤਕ ਪਹੁੰਚ 'ਤੇ ਕੁਝ ਸਮੇਂ ਲਈ ਪਾਬੰਦੀ ਲਗਾਈ ਗਈ ਸੀ। ਇਸ ਦੇ ਉਲਟ, OpenAI ਦੇ Sol ਨੇ ਚੁਣੇ ਹੋਏ ਸਰਕਾਰੀ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਮਾਡਲ ਦੇ ਪ੍ਰੀਵਿਊ ਦੀ ਮਿਆਦ ਤੋਂ ਬਾਅਦ ਵਿਆਪਕ ਰਿਲੀਜ਼ ਵੱਲ ਕਦਮ ਵਧਾਏ ਹਨ।

ਇਸ ਅਸਮਾਨਤਾ ਨੇ ਰਾਜਨੀਤਿਕ ਸਬੰਧਾਂ ਦੇ ਪ੍ਰਭਾਵ ਬਾਰੇ ਸਵਾਲ ਖੜ੍ਹੇ ਕਰ ਦਿੱਤੇ ਹਨ। OpenAI ਦੀ ਲੀਡਰਸ਼ਿਪ ਦੇ ਪ੍ਰਸ਼ਾਸਨ ਨਾਲ ਜੁੜਨ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਨੇ ਕੁਝ ਨਿਰੀਖਕਾਂ ਨੂੰ ਇਹ ਸਵਾਲ ਪੁੱਛਣ ਲਈ ਮਜਬੂਰ ਕੀਤਾ ਹੈ ਕਿ ਕੀ ਨਿਯਮਾਂ ਲਈ "lighter-touch" (ਹਲਕਾ) ਪਹੁੰਚ ਅਪਣਾਈ ਜਾ ਰਹੀ ਹੈ। ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਸੰਸਥਾਪਕਾਂ ਲਈ, ਇਹ ਇੱਕ ਅਸੁਰੱਖਿਅਤ ਮਾਹੌਲ ਪੈਦਾ ਕਰਦਾ ਹੈ ਜਿੱਥੇ ਮਾਡਲ ਦੀ ਤੈਅਤ (deployment) ਮਿਆਰੀ ਤਕਨੀਕੀ ਸੁਰੱਖਿਆ ਮਾਪਦੰਡਾਂ ਦੀ ਬਜਾਏ ਰਾਜਨੀਤਿਕ ਚਾਲਾਂ 'ਤੇ ਵਧੇਰੇ ਨਿਰਭਰ ਕਰ ਸਕਦੀ ਹੈ।

ਤੀਜੀ-ਪੱਖੀ ਆਡਿਟਿੰਗ ਅਤੇ ਓਪਨ ਕਾਮਨਜ਼ ਵੱਲ ਵਧਣਾ

ਉਦਯੋਗ ਦੇ ਲੀਡਰ ਕੁਝ ਫੈਸਲਾ ਲੈਣ ਵਾਲਿਆਂ ਦੁਆਰਾ "gatekeeping" ਨੂੰ ਰੋਕਣ ਲਈ ਇੱਕ ਸੰਰਚਨਾਤਮਕ ਤਬਦੀਲੀ ਦੀ ਮੰਗ ਕਰ ਰਹੇ ਹਨ। ਕੰਪਿਊਟਰ ਵਿਗਿਆਨੀ Andy Konwinski ਦਾ ਸੁਝਾਅ ਹੈ ਕਿ ਮੌਜੂਦਾ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਅਸਲ ਮਾਹਿਰਾਂ: ਸੁਰੱਖਿਆ, alignment, ਅਤੇ interpretability ਖੋਜਕਰਤਾਵਾਂ ਦੇ ਲੋੜੀਂਦੇ ਸੁਝਾਵਾਂ ਦੀ ਘਾਟ ਹੈ।

ਇਸ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ, ਭਵਿੱਖ ਲਈ ਦੋ ਮੁੱਖ ਮਾਡਲ ਸਾਹਮਣੇ ਆਏ ਹਨ:

• ਇੰਸਟੀਚਿਊਸ਼ਨਲ ਮਾਡਲ (The Institutional Model): FDA ਜਾਂ NIH ਦੀ ਨਕਲ ਕਰਦੇ ਹੋਏ, ਇਸ ਵਿੱਚ ਸੁਰੱਖਿਆ ਮਿਆਰਾਂ 'ਤੇ ਸਹਿਮਤੀ ਬਣਾਉਣ ਲਈ ਖੋਜਕਰਤਾਵਾਂ, ਸਰਕਾਰੀ ਅਧਿਕਾਰੀਆਂ ਅਤੇ ਨਿੱਜੀ ਕੰਪਨੀਆਂ ਨੂੰ ਇਕੱਠਾ ਕਰਨਾ ਸ਼ਾਮਲ ਹੋਵੇਗਾ।
• ਤੀਜੀ-ਪੱਖੀ ਆਡਿਟਿੰਗ ਮਾਡਲ (The Third-Party Auditing Model): ਜਿਵੇਂ ਕਿ ਸਾਬਕਾ ਨੀਤੀ ਸਲਾਹਕਾਰ Dean W. Ball ਨੇ ਸੁਝਾਅ ਦਿੱਤਾ ਹੈ, ਸਰਕਾਰ ਫਰੰਟੀਅਰ ਲੈਬਾਂ ਦੇ ਸੁਰੱਖਿਆ ਪ੍ਰੋਟੋਕੋਲ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਸੁਤੰਤਰ ਆਡਿਟਿੰਗ ਸੰਸਥਾਵਾਂ ਨੂੰ ਲਾਇਸੈਂਸ ਦੇ ਸਕਦੀ ਹੈ।

AI ਈਕੋਸਿਸਟਮ ਨੂੰ ਲੰਬੇ ਸਮੇਂ ਦੀ ਸਥਿਰਤਾ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ, ਉਦਯੋਗ ਨੂੰ ਨਿੱਜੀ ਗੱਲਬਾਤ ਤੋਂ ਦੂਰ ਹੋ ਕੇ ਇੱਕ ਅਨੁਮਾਨਿਤ, ਮਾਹਿਰ-ਅਧਾਰਤ ਢਾਂਚੇ ਵੱਲ ਵਧਣਾ ਚਾਹੀਦਾ ਹੈ ਜੋ ਜਨਤਕ ਸੁਰੱਖਿਆ ਦੇ ਨਾਲ ਵਿਸ਼ਵਾਸਪਾਤਰ ਜ਼ਿੰਮੇਵਾਰੀਆਂ ਦਾ ਸੰਤੁਲਨ ਬਣਾਏ।

ਮੁੱਖ ਗੱਲਾਂ

• ਨਿਯਮਾਂ ਦੀ ਅਸਪਸ਼ਟਤਾ: ਵਰਤਮਾਨ ਵਿੱਚ Sol ਵਰਗੇ ਫਰੰਟੀਅਰ ਮਾਡਲਾਂ ਦੀ ਰਿਲੀਜ਼ ਨੂੰ ਕੰਟਰੋਲ ਕਰਨ ਲਈ ਕੋਈ ਮਿਆਰੀ "ਸੁਰੱਖਿਆ ਲਾਇਸੈਂਸ" ਜਾਂ ਕੇਂਦਰੀ ਸੰਸਥਾ (ਜਿਵੇਂ ਕਿ FDA) ਨਹੀਂ ਹੈ।
• ਪਾਰਦਰਸ਼ਤਾ ਦੀ ਘਾਟ: ਹਾਲਾਂਕਿ OpenAI U.K. AISI ਅਤੇ SecureBio ਤੋਂ ਬਾਹਰੀ ਮੁਲਾਂਕਣਾਂ ਦਾ ਹਵਾਲਾ ਦਿੰਦਾ ਹੈ, ਪਰ ਮਾਡਲ ਦੀ ਪ੍ਰਵਾਨਗੀ ਲਈ ਖਾਸ ਸਰਕਾਰੀ ਗੱਲਬਾਤ ਅਤੇ ਤਕਨੀਕੀ ਲੋੜਾਂ ਅਜੇ ਵੀ ਅਸਪਸ਼ਟ ਹਨ।
• ਮਾਹਿਰਾਂ ਦੀ ਮੰਗ: ਉਦਯੋਗ ਦੇ ਮਾਹਿਰ ਤੀਜੀ-ਪੱਖੀ ਆਡਿਟਿੰਗ ਅਤੇ "open commons" ਢਾਂਚੇ ਦੀ ਵਕਾਲਤ ਕਰ ਰਹੇ ਹਨ ਤਾਂ ਜੋ ਇਹ ਯਕੀਨੀ ਬਣਾਇਆ ਜਾ ਸਕੇ ਕਿ ਸੁਰੱਖਿਆ ਫੈਸਲੇ ਰਾਜਨੀਤਿਕ ਵਿਚੋਲਿਆਂ ਦੀ ਬਜਾਏ ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਲਏ ਜਾਣ।