Claude Fable 5.1 ਹੁਣ ਮਾਰਕੀਟ ਵਿੱਚ ਉਪਲਬਧ ਹੈ, ਅਤੇ Anthropic ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਨਵਾਂ ਮਾਡਲ ਆਮ ਚੈਟ ਲਈ 25% ਘੱਟ ਅਤੇ ਉਹਨਾਂ ਕਿਸਮ ਦੇ ਵਾਰ-ਵਾਰ ਪ੍ਰੋਂਪਟ ਵਾਲੇ ਏਜੰਟ ਲੂਪਸ (agent loops) ਲਈ 45% ਘੱਟ ਲਾਗਤ ਵਾਲਾ ਹੈ ਜੋ ਕਈ ਆਟੋਮੇਸ਼ਨ ਟੂਲਸ ਨੂੰ ਚਲਾਉਂਦੇ ਹਨ। ਕੀਮਤ ਵਿੱਚ ਇਹ ਕਟੌਤੀ ਕੈਸ਼ਡ ਡੇਟਾ (cached data) ਤੱਕ ਸਸਤੀ ਪਹੁੰਚ ਕਾਰਨ ਹੋਈ ਹੈ—ਇਹ ਉਹ ਜਾਣਕਾਰੀ ਹੈ ਜਿਸ ਨੂੰ ਕੰਪਨੀ ਪਹਿਲਾਂ ਹੀ ਪ੍ਰੋਸੈਸ ਅਤੇ ਸਟੋਰ ਕਰ ਚੁੱਕੀ ਹੈ।
ਕੀਮਤ ਵਿੱਚ ਗਿਰਾਵਟ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ
ਉਹ ਡਿਵੈਲਪਰ ਜੋ ਭਾਸ਼ਾ ਮਾਡਲ (language model) ਨੂੰ ਵੱਡੀ ਗਿਣਤੀ ਵਿੱਚ ਕਾਲ ਕਰਦੇ ਹਨ, ਅਕਸਰ ਦੇਖਦੇ ਹਨ ਕਿ ਉਹਨਾਂ ਦਾ ਬਿੱਲ ਵਧ ਜਾਂਦਾ ਹੈ ਕਿਉਂਕਿ ਹਰ ਰਿਕਵੈਸਟ ਦੀ ਬਿਲਿੰਗ ਮਾਡਲ ਦੀ ਪ੍ਰਤੀ-ਟੋਕਨ (per-token) ਦਰ 'ਤੇ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਭਾਵੇਂ ਉਹ ਰਿਕਵੈਸਟ ਉਸੇ ਸਮੱਗਰੀ ਨੂੰ ਦੁਹਰਾ ਰਹੀ ਹੋਵੇ ਜੋ ਪ੍ਰੋਵਾਈਡਰ ਦੇ ਕੈਸ਼ (cache) ਵਿੱਚ ਪਹਿਲਾਂ ਹੀ ਮੌਜੂਦ ਹੈ। ਕੈਸ਼ਡ ਡੇਟਾ ਦੀ ਵਰਤੋਂ ਕਰਕੇ, Fable 5.1 "ਸਟੈਂਡਰਡ" ਰਿਕਵੈਸਟਾਂ ਦੇ ਖਰਚੇ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ ਅਤੇ ਜਦੋਂ ਇੱਕੋ ਹੀ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ ਅਤੇ ਟੂਲ ਸਕੀਮਾ (tool schema) ਨੂੰ ਕਈ ਵਾਰ ਵਰਤਿਆ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਵੱਡੀ ਛੋਟ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ਉਹਨਾਂ ਟੀਮਾਂ ਲਈ ਜਿਨ੍ਹਾਂ ਨੇ ਏਜੰਟ ਪਾਈਪਲਾਈਨਾਂ ਬਣਾਈਆਂ ਹਨ—ਜਿਵੇਂ ਕਿ ਆਟੋਨੋਮਸ ਕੋਡ ਰਿਵਿਊਅਰ, ਟਿਕਟ-ਟ੍ਰਾਇਜ ਬੋਟਸ, ਜਾਂ ਡੇਟਾ-ਐਕਸਟਰੈਕਸ਼ਨ ਲੂਪਸ—45% ਦੀ ਬਚਤ ਫੈਸਲਾਕੁੰਨ ਹੋ ਸਕਦੀ ਹੈ।
ਇਹ ਕਿਵੇਂ ਫੈਸਲਾ ਕਰੀਏ ਕਿ ਕੀ ਬਦਲਾਅ ਕਰਨਾ ਫਾਇਦੇਮੰਦ ਹੈ
- ਆਪਣੀ ਕੈਸ਼ ਹਿੱਟ ਰੇਟ (cache hit rate) ਮਾਪੋ – ਜੇਕਰ ਤੁਹਾਡੀਆਂ ਜ਼ਿਆਦਾਤਰ ਕਾਲਾਂ ਕੈਸ਼ਡ ਸਮੱਗਰੀ ਤੱਕ ਪਹੁੰਚਦੀਆਂ ਹਨ, ਤਾਂ ਘੱਟ ਪ੍ਰਤੀ-ਟੋਕਨ ਲਾਗਤ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਘੱਟ ਬਿੱਲ ਵਿੱਚ ਬਦਲ ਜਾਵੇਗੀ।
- ਆਪਣੇ ਵਰਕਲੋਡ ਦੇ ਰੂਪ ਦੀ ਪਛਾਣ ਕਰੋ – ਵਾਰ-ਵਾਰ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਏਜੰਟ ਲੂਪਸ ਜੋ ਇੱਕੋ ਪ੍ਰੋਂਪਟ ਅਤੇ ਟੂਲ ਡੈਫੀਨੇਸ਼ਨ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, 45% ਛੋਟ ਦੇ ਯੋਗ ਹਨ। ਬਦਲਦੇ ਰਹਿੰਦੇ ਪ੍ਰੋਂਪਟਾਂ ਵਾਲੀਆਂ ਵਨ-ਆਫ (one-off) ਚੈਟਾਂ ਵਿੱਚ ਸਿਰਫ਼ 25% ਦੀ ਕਟੌਤੀ ਦੇਖਣ ਨੂੰ ਮਿਲੇਗੀ।
- ਐਂਡ-ਟੂ-ਐਂਡ ਟਾਸਕ ਲਾਗਤ ਦੀ ਤੁਲਨਾ ਕਰੋ – ਸਿਰਫ਼ ਪ੍ਰਤੀ-ਟੋਕਨ ਕੀਮਤ ਨੂੰ ਹੀ ਨਾ ਦੇਖੋ। ਇੱਕ ਸਸਤਾ ਮਾਡਲ ਜੋ ਤੁਹਾਨੂੰ ਇੱਕ ਕੰਮ ਨੂੰ ਵਧੇਰੇ ਕਾਲਾਂ ਵਿੱਚ ਵੰਡਣ ਲਈ ਮਜਬੂਰ ਕਰਦਾ ਹੈ, ਉਹ ਕੁੱਲ ਮਿਲਾ ਕੇ ਵਧੇਰੇ ਮਹਿੰਗਾ ਹੋ ਸਕਦਾ ਹੈ।
- ਸਾਈਡ-ਬਾਈ-ਸਾਈਡ ਟੈਸਟ ਕਰੋ – ਮੌਜੂਦਾ ਮਾਡਲ ਨੂੰ ਪ੍ਰੋਡਕਸ਼ਨ ਵਿੱਚ ਰੱਖਦੇ ਹੋਏ, ਆਪਣੇ ਟ੍ਰੈਫਿਕ ਦੇ ਇੱਕ ਹਿੱਸੇ 'ਤੇ Fable 5.1 ਨੂੰ ਲਾਗੂ ਕਰੋ। ਲੇਟੈਂਸੀ (latency), ਟੋਕਨ ਦੀ ਵਰਤੋਂ, ਅਤੇ ਆਊਟਪੁੱਟ ਗੁਣਵੱਤਾ ਵਿੱਚ ਕਿਸੇ ਵੀ ਤਬਦੀਲੀ 'ਤੇ ਨਜ਼ਰ ਰੱਖੋ।
ਜੇਕਰ ਤੁਹਾਡੀ ਕੈਸ਼ ਹਿੱਟ ਰੇਟ ਘੱਟ ਹੈ ਜਾਂ ਤੁਹਾਡਾ ਵਰਤੋਂ ਦਾ ਤਰੀਕਾ ਮੁੱਖ ਤੌਰ 'ਤੇ ਸਿੰਗਲ, ਵਿਲੱਖਣ ਪ੍ਰੋਂਪਟਾਂ 'ਤੇ ਅਧਾਰਤ ਹੈ, ਤਾਂ ਵਿੱਤੀ ਲਾਭ ਮਾਮੂਲੀ ਹੋ ਸਕਦਾ ਹੈ। ਅਜਿਹੀ ਸਥਿਤੀ ਵਿੱਚ, ਮੌਜੂਦਾ ਮਾਡਲ ਨਾਲ ਉਦੋਂ ਤੱਕ ਜੁੜੇ ਰਹਿਣਾ ਬਿਹਤਰ ਹੋ ਸਕਦਾ ਹੈ ਜਦੋਂ ਤੱਕ ਤੁਸੀਂ ਕੈਸ਼ ਦੀ ਬਿਹਤਰ ਵਰਤੋਂ ਲਈ ਪ੍ਰੋਂਪਟਾਂ ਨੂੰ ਮੁੜ ਢਾਂਚਾਗਤ ਨਹੀਂ ਕਰ ਲੈਂਦੇ।
ਸੁਰੱਖਿਆ ਅਤੇ ਸੁਰੱਖਿਆ ਅੱਪਗ੍ਰੇਡ
Anthropic ਨੇ ਮਾਡਲ ਦੇ ਸੁਰੱਖਿਆ ਉਪਾਅਾਂ (safeguards) ਨੂੰ ਸਖ਼ਤ ਕਰ ਦਿੱਤਾ ਹੈ। ਨਵਾਂ ਵਰਜ਼ਨ ਰੁਟੀਨ ਜੈਵਿਕ (biological) ਸਵਾਲਾਂ ਨੂੰ ਘੱਟ ਰੋਕਦਾ ਹੈ, ਜਿਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਲਾਈਫ-ਸਾਇੰਸ ਖੇਤਰਾਂ ਦੇ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਘੱਟ ਗਲਤ ਪਲੱਸ (false positives) ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਵੇਗਾ। ਇਹ ਸਾਫਟਵੇਅਰ ਕਮੀਆਂ (vulnerabilities) ਨੂੰ ਫਲੈਗ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਵੀ ਜੋੜਦਾ ਹੈ, ਇੱਕ ਅਜਿਹੀ ਵਿਸ਼ੇਸ਼ਤਾ ਜੋ ਸੁਰੱਖਿਆ-ਮੁਖੀ ਟੀਮਾਂ ਨੂੰ ਵੱਖਰੇ ਮਾਡਲ ਤੋਂ ਬਿਨਾਂ ਜੋਖਮ ਭਰੇ ਕੋਡ ਨੂੰ ਲੱਭਣ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦੀ ਹੈ।
ਮਾਡਲ ਅਜੇ ਵੀ ਉੱਚ-ਜੋਖਮ ਵਾਲੀਆਂ ਗਤੀਵਿਧੀਆਂ 'ਤੇ ਸਖ਼ਤ ਸੀਮਾਵਾਂ ਦਾ ਸਤਿਕਾਰ ਕਰਦਾ ਹੈ। ਇਹ ਪੈਨਟਰੇਸ਼ਨ ਟੈਸਟਿੰਗ (penetration testing) ਨਹੀਂ ਕਰ ਸਕਦਾ ਜਾਂ ਐਕਸਪਲੋਇਟ ਕੋਡ (exploit code) ਤਿਆਰ ਨਹੀਂ ਕਰ ਸਕਦਾ; ਉਹ ਸਥਿਤੀਆਂ Anthropic ਦੇ Opus ਮਾਡਲ ਦੇ ਅਧੀਨ ਹਨ। ਉਹਨਾਂ ਉਦਯੋਗਾਂ ਲਈ ਜਿਨ੍ਹਾਂ ਨੂੰ ਸਖ਼ਤ ਡੇਟਾ ਹੈਂਡਲਿੰਗ ਦੀ ਲੋੜ ਹੈ, ਆਉਣ ਵਾਲੇ “Enterprise Frontier Safeguards” ਜ਼ੀਰੋ ਡੇਟਾ ਰਿਟੈਂਸ਼ਨ (zero data retention) ਦਾ ਵਾਅਦਾ ਕਰਦੇ ਹਨ, ਜੋ ਇਸ ਅਸਤ (autumn) ਵਿੱਚ ਰੋਲਆਊਟ ਹੋਣ ਵਾਲੇ ਹਨ। ਉਦੋਂ ਤੱਕ, ਸੰਸਥਾਵਾਂ ਨੂੰ ਇਹ ਮੰਨ ਕੇ ਚੱਲਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ API ਨੂੰ ਭੇਜਿਆ ਗਿਆ ਕੋਈ ਵੀ ਡੇਟਾ ਮਾਡਲ ਵਿੱਚ ਸੁਧਾਰ ਲਈ ਰੱਖਿਆ ਜਾ ਸਕਦਾ ਹੈ।
ਵਚਨਬੱਧ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਕੀ ਟੈਸਟ ਕਰੀਏ
- ਕੈਸ਼ ਪ੍ਰਦਰਸ਼ਨ – Fable 5.1 ਦੇ ਕੀਮਤ ਨਿਯਮਾਂ ਦੇ ਤਹਿਤ ਕਿੰਨੀਆਂ ਰਿਕਵੈਸਟਾਂ ਕੈਸ਼ ਤੱਕ ਪਹੁੰਚਣਗੀਆਂ, ਇਸਦੀ ਗਣਨਾ ਕਰਨ ਲਈ ਆਪਣੇ ਮੌਜੂਦਾ ਲੌਗਸ (logs) ਦੀ ਵਰਤੋਂ ਕਰੋ।
- ਸੁਰੱਖਿਆ ਸੀਮਾਵਾਂ – ਮਾਡਲ ਨੂੰ ਉਹ ਪ੍ਰੋਂਪਟ ਦਿਓ ਜਿਨ੍ਹਾਂ ਨੇ ਪਹਿਲਾਂ ਬਲਾਕ ਕੀਤੇ ਸਨ (ਜਿਵੇਂ ਕਿ ਬੇਸਿਕ ਬਾਇਓਲੋਜੀ ਸਵਾਲ) ਅਤੇ ਪੁਸ਼ਟੀ ਕਰੋ ਕਿ ਉਹ ਹੁਣ ਪਾਸ ਹੋ ਰਹੇ ਹਨ।
- ਬੈਂਚਮਾਰਕ ਸਕੋਰ – ਸ਼ੁਰੂਆਤੀ ਕਮਿਊਨਿਟੀ ਰਿਪੋਰਟਾਂ Terminal-Bench 4.0 ਅਤੇ Humanity’s Last Exam 'ਤੇ ਮਜ਼ਬੂਤ ਨਤੀਜੇ ਦੱਸਦੀਆਂ ਹਨ। ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਕਿ ਪ੍ਰਦਰਸ਼ਨ ਵਿੱਚ ਸੁਧਾਰ ਤੁਹਾਡੀਆਂ ਗੁਣਵੱਤਾ ਦੀਆਂ ਉਮੀਦਾਂ ਦੇ ਅਨੁਕੂਲ ਹੈ, ਜਨਤਕ ਬੈਂਚਮਾਰਕ ਰਿਲੀਜ਼ਾਂ 'ਤੇ ਨਜ਼ਰ ਰੱਖੋ।
ਅੱਜ ਕੌਣ ਇਸਨੂੰ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦਾ ਹੈ
Fable 5.1 ਕਲਾਉਡ ਪਲੇਟਫਾਰਮਾਂ ਅਤੇ API ਐਂਡਪੁਆਇੰਟਸ ਰਾਹੀਂ ਜਨਤਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਹੈ। Anthropic ਦਾ “Mythos 5.1” ਅਜੇ ਵੀ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਅਤੇ ਲਾਈਫ-ਸਾਇੰਸ ਖੋਜ ਵਿੱਚ ਕੁਝ ਚੁਣਿੰਦਾ ਭਾਈਵਾਲਾਂ ਤੱਕ ਸੀਮਤ ਹੈ, ਇਸ ਲਈ ਵਿਸ਼ਾਲ ਡਿਵੈਲਪਰ ਭਾਈਵੈਰੀ ਨੂੰ ਫਿਲਹਾਲ Fable 5.1 ਨਾਲ ਕੰਮ ਕਰਨਾ ਪਵੇਗਾ।
ਨਿਚੋੜ
ਜੇਕਰ ਤੁਹਾਡੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਏਜੰਟ ਲੂਪਸ 'ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਿਰਭਰ ਹਨ ਜਾਂ ਪ੍ਰੋਂਪਟਾਂ ਨੂੰ ਦੁਬਾਰਾ ਵਰਤਦੀਆਂ ਹਨ, ਤਾਂ ਕੈਸ਼ਡ ਕਾਰਜਾਂ 'ਤੇ 45% ਦੀ ਛੋਟ Claude Fable 5.1 'ਤੇ ਜਾਣ ਲਈ ਇੱਕ ਮਜ਼ਬੂਤ ਆਰਥਿਕ ਕਾਰਨ ਬਣਾਉਂਦੀ ਹੈ। ਉਹ ਟੀਮਾਂ ਜੋ ਜ਼ਿਆਦਾਤਰ ਵਿਲੱਖਣ, ਸਿੰਗਲ-ਸ਼ੌਟ ਕੁਏਰੀਆਂ ਚਲਾਉਂਦੀਆਂ ਹਨ, ਉਹਨਾਂ ਨੂੰ 25% ਦੀ ਮਾਮੂਲੀ ਕਟੌਤੀ ਦੇਖਣ ਨੂੰ ਮਿਲੇਗੀ, ਜੋ ਸ਼ਾਇਦ ਮਾਈਗ੍ਰੇਸ਼ਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਨੂੰ ਜਾਇਜ਼ ਨਾ ਠਹਿਰਾਵੇ। ਅੱਪਗ੍ਰੇਡ ਕੀਤੇ ਸੁਰੱਖਿਆ ਉਪਾਅ ਨਿਯਮਿਤ ਖੇਤਰਾਂ ਵਿੱਚ ਮਾਡਲ ਦੀ ਵਰਤੋਂਯੋਗਤਾ ਨੂੰ ਵਧਾਉਂਦੇ