ਇੱਕ ਸਪੋਰਟ ਬੋਟ ਜੋ ਖਾਤੇ ਦੇ ਬੈਲੇਂਸ (account balances) ਬਣਾਉਂਦਾ ਹੈ, ਉਹ ਇੱਕ ਡਿਜੀਟਲ ਬੈਂਕ ਵਿੱਚ ਸਿਰਫ਼ ਬੇਕਾਰ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਖ਼ਤਰਨਾਕ ਵੀ ਹੈ। ਵਿੱਤੀ ਗੱਲਬਾਤ ਲਈ ਸਹੀ ਅੰਕੜਿਆਂ, ਤਸਦੀਕ ਕੀਤੇ ਹੋਏ ਭੁਗਤਾਨਕਰਤਾਵਾਂ (payees), ਅਤੇ ਹਰ ਦਾਅਵੇ ਲਈ ਇੱਕ ਆਡਿਟ ਟ੍ਰੇਲ (audit trail) ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਲਾਰਜ ਲੈਂਗੂਏਜ ਮਾਡਲ (Large language models) ਗੱਲਬਾਤ ਕਰਨ ਵਿੱਚ ਮਾਹਰ ਹੁੰਦੇ ਹਨ, ਪਰ ਉਹ ਭਰਮ (hallucinate) ਪੈਦਾ ਕਰ ਸਕਦੇ ਹਨ। ਜਦੋਂ ਕੋਈ ਉਪਭੋਗਤਾ ਪੁੱਛਦਾ ਹੈ, “ਮੇਰੇ ਖਾਤੇ ਵਿੱਚ ਕਿੰਨਾ ਬਾਕੀ ਹੈ?”, ਤਾਂ ਮਾਡਲ ਨੂੰ ਡਾਟਾਬੇਸ ਦੀ ਵਰਤੋਂ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ, ਕਲਪਨਾ ਦੀ ਨਹੀਂ। ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ (function calling) ਬਿਲਕੁਲ ਇਹੀ ਯਕੀਨੀ ਬਣਾਉਂਦੀ ਹੈ, ਅਤੇ ਇਹ ਇਸ ਬਿਲਡ ਦਾ ਮੁੱਖ ਹਿੱਸਾ ਹੈ।
Google ਦਾ Gemma 4 ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਇੱਕ ਸਮਰੱਥ 31-ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰ ਮਾਡਲ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ ਜੋ ਗੁੰਝਲਦਾਰ ਹਦਾਇਤਾਂ ਦੀ ਪਾਲਣਾ ਕਰ ਸਕਦਾ ਹੈ ਅਤੇ ਖੇਤਰੀ ਉਪ-ਭਾਸ਼ਾਵਾਂ ਸਮੇਤ ਕੁਦਰਤੀ ਗੱਲਬਾਤ ਕਰ ਸਕਦਾ ਹੈ। Google AI Studio ਦੇ ਨਾਲ ਮਿਲ ਕੇ, ਇਹ ਇੱਕ ਤੇਜ਼ ਪ੍ਰੋਟੋਟਾਈਪਿੰਗ ਵਾਤਾਵਰਣ ਬਣ ਜਾਂਦਾ ਹੈ ਜਿੱਥੇ ਤੁਸੀਂ ਸਰਵਰ ਨੂੰ ਛੂਹਣ ਤੋਂ ਪਹਿਲਾਂ ਟੂਲਸ (tools) ਨੂੰ ਪਰਿਭਾਸ਼ਿਤ ਕਰ ਸਕਦੇ ਹੋ, ਐਜ ਕੇਸਾਂ (edge cases) ਦੀ ਜਾਂਚ ਕਰ ਸਕਦੇ ਹੋ, ਅਤੇ ਕੰਮ ਕਰਦੇ JavaScript ਨੂੰ ਐਕਸਪੋਰਟ ਕਰ ਸਕਦੇ ਹੋ। ਇੱਥੇ ਟੀਚਾ ਇੱਕ ਫਿਨਟੈਕ (fintech) ਸਪੋਰਟ ਏਜੰਟ ਬਣਾਉਣਾ ਹੈ ਜੋ ਖਾਤੇ ਦੇ ਬੈਲੇਂਸ ਦੀ ਜਾਂਚ ਕਰਦਾ ਹੈ, ਟ੍ਰਾਂਜੈਕਸ਼ਨ ਸਟੇਟਸ ਨੂੰ ਟ੍ਰੈਕ ਕਰਦਾ ਹੈ, ਅਤੇ ਬਿੱਲਾਂ ਦਾ ਭੁਗਤਾਨ ਕਰਦਾ ਹੈ। ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਗੱਲ ਇਹ ਹੈ ਕਿ ਜਦੋਂ ਉਪਭੋਗਤਾ Nigerian Pidgin ਵਿੱਚ ਗੱਲ ਕਰਦਾ ਹੈ, ਤਾਂ ਇਹ ਉਸੇ ਭਾਸ਼ਾ ਵਿੱਚ ਜਵਾਬ ਦਿੰਦਾ ਹੈ, ਵਿੱਤੀ ਤੱਥਾਂ ਵਿੱਚ ਕੋਈ ਬਦਲਾਅ ਕੀਤੇ ਬਿਨਾਂ ਉਸੇ ਲਹਿਜੇ ਨੂੰ ਬਰਕਰਾਰ ਰੱਖਦਾ ਹੈ।
ਵਿੱਤੀ ਬੋਟਸ ਲਈ ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ
ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਤੋਂ ਬਿਨਾਂ, ਇੱਕ ਲੈਂਗੂਏਜ ਮਾਡਲ ਹਰ ਸਵਾਲ ਨੂੰ ਰਚਨਾਤਮਕ ਲੇਖਣ (creative writing) ਵਜੋਂ ਲੈਂਦਾ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਇਸਨੂੰ ਬੈਲੇਂਸ ਪੁੱਛਦੇ ਹੋ, ਤਾਂ ਇਹ ਆਪਣੇ ਟ੍ਰੇਨਿੰਗ ਡੇਟਾ ਦੇ ਪੈਟਰਨਾਂ ਤੋਂ ਕੋਈ ਅੰਕੜਾ ਕਲਪਨਾ ਕਰ ਸਕਦਾ ਹੈ ਜੋ ਸੁਣਨ ਵਿੱਚ ਸਹੀ ਲੱਗੇ। ਜਦੋਂ ਅਸਲ ਪੈਸੇ ਦਾ ਮਾਮਲਾ ਹੋਵੇ, ਤਾਂ ਅਜਿਹੀ ਗਲਤੀ ਬਿਲਕੁਲ ਸਵੀਕਾਰਯੋਗ ਨਹੀਂ ਹੈ।
ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਇਸ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਉਲਟਾ ਦਿੰਦੀ ਹੈ। ਮਾਡਲ ਦਾ ਕੰਮ ਬੈਲੇਂਸ ਨੂੰ ਜਾਣਨਾ ਨਹੀਂ ਹੈ। ਇਸਦਾ ਕੰਮ ਇਰਾਦੇ (intent) ਨੂੰ ਪਛਾਣਨਾ, ਸਹੀ ਟੂਲ ਚੁਣਨਾ ਅਤੇ ਪੈਰਾਮੀਟਰਾਂ (parameters) ਨੂੰ ਕੱਢਣਾ ਹੈ। ਜਦੋਂ ਕੋਈ ਉਪਭੋਗਤਾ “Check my balance” ਲਿਖਦਾ ਹੈ, ਤਾਂ Gemma 4 ਇੱਕ ਸਟ੍ਰਕਚਰਡ JSON ਰਿਕਵੈਸਟ ਜਾਰੀ ਕਰਦਾ ਹੈ—ਜਿਵੇਂ ਕਿ account_id ਦੇ ਨਾਲ get_balance ਨੂੰ ਇੱਕ ਕਾਲ। ਤੁਹਾਡਾ ਬੈਕਐਂਡ (backend) ਕੋਰ ਬੈਂਕਿੰਗ ਸਿਸਟਮ ਦੇ ਵਿਰੁੱਧ ਉਸ ਕਾਲ ਨੂੰ ਚਲਾਉਂਦਾ ਹੈ, ਅਸਲ ਅੰਕੜਾ ਪ੍ਰਾਪਤ ਕਰਦਾ ਹੈ, ਅਤੇ ਇਸਨੂੰ ਵਾਪਸ ਗੱਲਬਾਤ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰਦਾ ਹੈ। ਉਸ ਤੋਂ ਬਾਅਦ ਹੀ ਮਾਡਲ ਮਨੁੱਖੀ ਭਾਸ਼ਾ ਵਿੱਚ ਵਾਕ ਤਿਆਰ ਕਰਦਾ ਹੈ। ਹਰ ਜਵਾਬ ਬੈਕਐਂਡ ਨੂੰ ਕੀਤੇ ਗਏ ਟੂਲ ਕਾਲ ਤੋਂ ਆਉਂਦਾ ਹੈ। ਕਿਉਂਕਿ ਮਾਡਲ ਬਾਹਰੀ ਲੌਜਿਕ ਦੁਆਰਾ ਨਿਯੰਤਰਿਤ ਹੁੰਦਾ ਹੈ, ਇਸ ਲਈ ਭਰਮ (hallucinations) API ਸੀਮਾ 'ਤੇ ਹੀ ਰੁਕ ਜਾਂਦੇ ਹਨ।
ਇਹ ਪੈਟਰਨ ਸਪਸ਼ਟ ਆਡਿਟ ਟ੍ਰੇਲ (audit trails) ਵੀ ਬਣਾਉਂਦਾ ਹੈ। ਹਰੇਕ ਟੂਲ ਰਿਕਵੈਸਟ ਅਤੇ ਉਸਦੇ ਨਾਲ ਸੰਬੰਧਿਤ ਨਤੀਜੇ ਮੈਸੇਜ ਹਿਸਟਰੀ ਵਿੱਚ ਰਿਕਾਰਡ ਕੀਤੇ ਜਾਂਦੇ ਹਨ। ਰੈਗੂਲੇਟਰ ਅਤੇ ਰਿਸਕ ਟੀਮਾਂ ਇਹ ਜਾਂਚ ਕਰ ਸਕਦੇ ਹਨ ਕਿ ਬੈਲੇਂਸ ਕਦੋਂ ਚੈੱਕ ਕੀਤਾ ਗਿਆ ਸੀ ਅਤੇ ਉਪਭੋਗਤਾ ਨੂੰ ਕਿਹੜਾ ਅੰਕੜਾ ਮਿਲਿਆ ਸੀ।
Google AI Studio ਵਿੱਚ ਏਜੰਟ ਨੂੰ ਡਿਜ਼ਾਈਨ ਕਰਨਾ
ਵਰਕਫਲੋ Google AI Studio ਦੇ ਅੰਦਰੋਂ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ। gemma-4-31b-it ਚੁਣੋ, ਜੋ ਕਿ ਗੱਲਬਾਤ ਅਤੇ ਹਦਾਇਤਾਂ ਦੀ ਪਾਲਣਾ ਲਈ ਅਨੁਕੂਲਿਤ (optimized) ਇੰਸਟ੍ਰਕਟ-ਟਿਊਨਡ (instruct-tuned) ਵੇਰੀਐਂਟ ਹੈ।
ਅੱਗੇ, ਅਜਿਹੀਆਂ ਸਿਸਟਮ ਹਦਾਇਤਾਂ ਲਿਖੋ ਜੋ ਸਖ਼ਤ ਸੀਮਾਵਾਂ ਨਿਰਧਾਰਤ ਕਰਨ। ਇੱਕ ਡਿਜੀਟਲ ਬੈਂਕ ਲਈ, ਲਹਿਜਾ ਪੇਸ਼ੇਵਰ, ਸਿੱਧਾ ਅਤੇ ਸ਼ਾਂਤ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਪਰ ਹਦਾਇਤਾਂ ਇਸ ਤੋਂ ਵੀ ਅੱਗੇ ਹੋਣੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ। ਮਾਡਲ ਨੂੰ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਦੱਸੋ ਕਿ ਇਹ ਕਦੇ ਵੀ ਖਾਤੇ ਦੇ ਡੇਟਾ ਦਾ ਅੰਦਾਜ਼ਾ ਨਹੀਂ ਲਗਾਉਂਦਾ, ਕਦੇ ਵੀ ਟ੍ਰਾਂਜੈਕਸ਼ਨ ਸਟੇਟਸ ਦੀ ਕਲਪਨਾ ਨਹੀਂ ਕਰਦਾ, ਅਤੇ ਟੂਲ ਦੇ ਨਤੀਜੇ ਦੀ ਪੁਸ਼ਟੀ ਕੀਤੇ ਬਿਨਾਂ ਕਦੇ ਵੀ ਬਿੱ
ਫੇਲ੍ਹ ਹੋਣ ਦੇ ਤਰੀਕਿਆਂ (failure modes) ਦੀ ਵੀ ਜਾਂਚ ਕਰੋ। ਬਿਨਾਂ ਰੈਫਰੈਂਸ ਨੰਬਰ ਦਿੱਤੇ ਟ੍ਰਾਂਜੈਕਸ਼ਨ ਸਟੇਟਸ ਮੰਗੋ। ਇੱਕ ਚੰਗੀ ਤਰ੍ਹਾਂ ਨਿਰਦੇਸ਼ਿਤ ਮਾਡਲ ਨੂੰ ਜਾਂ ਤਾਂ ਉਪਭੋਗਤਾ ਤੋਂ ਗੁੰਮ ਹੋਏ ਪੈਰਾਮੀਟਰ ਬਾਰੇ ਪੁੱਛਣਾ ਚਾਹੀਦਾ ਹੈ ਜਾਂ ਉਸ ਕੋਲ ਜੋ ਹੈ ਉਸ ਨਾਲ ਟੂਲ ਨੂੰ ਕਾਲ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਅਤੇ ਬੈਕਐਂਡ ਨੂੰ ਵੈਲੀਡੇਸ਼ਨ ਐਰਰ (validation error) ਵਾਪਸ ਕਰਨ ਦੇਣਾ ਚਾਹੀਦਾ ਹੈ। ਤੁਸੀਂ ਇਹ ਵਿਵਹਾਰ ਸੈਂਡਬਾਕਸ (sandbox) ਵਿੱਚ ਦੇਖਣਾ ਚਾਹੁੰਦੇ ਹੋ, ਪ੍ਰੋਡਕਸ਼ਨ ਵਿੱਚ ਨਹੀਂ।
ਇੱਕ ਵਾਰ ਜਦੋਂ ਪ੍ਰੋਂਪਟ (prompts) ਅਤੇ ਸਕੀਮਾ (schemas) ਸਹੀ ਤਰ੍ਹਾਂ ਕੰਮ ਕਰਨ ਲੱਗ ਜਾਣ, ਤਾਂ JavaScript ਕੋਡ ਐਕਸਪੋਰਟ ਕਰੋ। AI Studio ਇੱਕ ਸਾਫ਼ ਸਨੀਪੇਟ (snippet) ਤਿਆਰ ਕਰਦਾ ਹੈ ਜੋ ਤੁਹਾਡੇ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ, ਯੂਜ਼ਰ ਮੈਸੇਜ ਅਤੇ ਟੂਲ ਡੈਫੀਨੇਸ਼ਨਾਂ ਦੇ ਨਾਲ API ਰਿਕੁਐਸਟ ਨੂੰ ਸਟ੍ਰਕਚਰ ਕਰਦਾ ਹੈ। ਇਹ ਤੁਹਾਡੇ ਬੈਕਐਂਡ ਲੌਜਿਕ ਦਾ ਅਧਾਰ ਬਣ ਜਾਂਦਾ ਹੈ।
Express Backend ਨੂੰ ਜੋੜਨਾ
ਐਕਸਪੋਰਟ ਕੀਤੇ ਹੋਏ ਕੋਡ ਨੂੰ ਲਓ ਅਤੇ ਇਸਨੂੰ ਇੱਕ Express ਐਪਲੀਕੇਸ਼ਨ ਵਿੱਚ ਪਾ ਦਿਓ। ਆਰਕੀਟੈਕਚਰ ਸਿੱਧਾ ਹੈ, ਪਰ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਲੂਪ (execution loop) ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਹਿੱਸਾ ਹੈ।
ਇੱਕ POST endpoint ਸੈੱਟਅੱਪ ਕਰੋ—ਸ਼ਾਇਦ /chat—ਜੋ ਯੂਜ਼ਰ ਦੇ ਮੈਸੇਜ ਅਤੇ ਕਿਸੇ ਵੀ ਸੈਸ਼ਨ ਹਿਸਟਰੀ ਨੂੰ ਸਵੀਕਾਰ ਕਰਦਾ ਹੋਵੇ। ਇਹਨਾਂ ਨੂੰ Gemma 4 endpoint 'ਤੇ ਫਾਰਵਰਡ ਕਰੋ, ਜਿਸ ਨੂੰ ਤੁਸੀਂ ਆਪਣੀ ਹੋਸਟਿੰਗ ਦੀ ਚੋਣ ਦੇ ਅਧਾਰ 'ਤੇ OpenAI-compatible API ਜਾਂ Google ਦੇ ਆਪਣੇ inference endpoint ਰਾਹੀਂ ਕਾਲ ਕਰ ਸਕਦੇ ਹੋ।
ਮਾਡਲ ਤੋਂ ਮਿਲਿਆ ਜਵਾਬ ਦੋ ਸ਼੍ਰੇਣੀਆਂ ਵਿੱਚੋਂ ਇੱਕ ਵਿੱਚ ਆਉਂਦਾ ਹੈ। ਜਾਂ ਤਾਂ ਇਹ ਇੱਕ ਅੰਤਿਮ ਟੈਕਸਟ ਮੈਸੇਜ ਹੈ, ਜਾਂ ਇਸ ਵਿੱਚ ਡੇਟਾ ਦੀ ਮੰਗ ਕਰਨ ਵਾਲਾ ਇੱਕ tool_call ਹੁੰਦਾ ਹੈ। ਜਦੋਂ ਤੁਹਾਨੂੰ ਟੂਲ ਕਾਲ ਮਿਲਦਾ ਹੈ, ਤਾਂ ਆਪਣੇ ਬੈਕਐਂਡ ਵਿਰੁੱਧ ਸੰਬੰਧਿਤ ਫੰਕਸ਼ਨ ਨੂੰ ਚਲਾਓ। ਬੈਲੇਂਸ ਲਈ ਡੇਟਾਬੇਸ ਨੂੰ ਕੁਐਰੀ ਕਰੋ। ਬਿੱਲ ਸਟੇਟਸ ਲਈ ਪੇਮੈਂਟ ਪ੍ਰੋਸੈਸਰ ਨੂੰ ਕਾਲ ਕਰੋ। ਟੂਲ ਦੇ ਨਤੀਜੇ ਨੂੰ tool ਰੋਲ ਦੇ ਨਾਲ ਇੱਕ ਨਵੇਂ ਮੈਸੇਜ ਵਜੋਂ ਗੱਲਬਾਤ ਦੇ ਇਤਿਹਾਸ (conversation history) ਵਿੱਚ ਜੋੜੋ, ਅਤੇ ਪੂਰਾ ਅਪਡੇਟ ਕੀਤਾ ਹੋਇਆ ਐਰੇ (array) Gemma 4 ਨੂੰ ਵਾਪਸ ਭੇਜੋ।
ਇਸ ਲੂਪ ਨੂੰ ਉਦੋਂ ਤੱਕ ਦੁਹਰਾਓ ਜਦੋਂ ਤੱਕ ਮਾਡਲ ਅੰਤਿਮ ਟੈਕਸਟ ਜਵਾਬ ਨਹੀਂ ਦਿੰਦਾ। ਉਹ ਜਵਾਬ ਤੁਹਾਡੇ ਦੁਆਰਾ ਦਿੱਤੇ ਗਏ ਅਸਲ ਡੇਟਾ 'ਤੇ ਅਧਾਰਤ ਹੋਵੇਗਾ। Express ਇਸ ਨੂੰ ਤਾਲਮੇਲ ਕਰਨਾ ਆਸਾਨ ਬਣਾਉਂਦਾ ਹੈ ਕਿਉਂਕਿ ਲੂਪ ਵਿੱਚੋਂ ਹਰ ਇੱਕ ਵਾਰ ਇੱਕ ਹੋਰ HTTP ਰਿਕੁਐਸ ਹੁੰਦੀ ਹੈ, ਅਤੇ ਤੁਸੀਂ ਟੂਲ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਨੂੰ ਸਾਫ਼ ਤਰੀਕੇ ਨਾਲ async/await ਕਰ ਸਕਦੇ ਹੋ।
ਸ਼ੁਰੂਆਤੀ ਵਿਕਾਸ ਦੌਰਾਨ, ਇਹਨਾਂ ਟੂਲ ਕਾਲਾਂ ਨੂੰ ਮੌਕ ਡੇਟਾ (mock data) ਨਾਲ ਚਲਾਓ। ਸੈਂਪਲ ਅਕਾਊਂਟ ID ਨੂੰ ਬੈਲੇਂਸ ਨਾਲ ਮੈਪ ਕਰਨ ਵਾਲਾ ਇੱਕ ਸਧਾਰਨ JavaScript ਆਬਜੈਕਟ ਇਹ ਸਾਬਤ ਕਰਨ ਲਈ ਕਾਫ਼ੀ ਹੈ ਕਿ ਲੂਪ ਕੰਮ ਕਰ ਰਿਹਾ ਹੈ। ਮਕਸਦ ਅਸਲ ਬੈਂਕਿੰਗ APIs ਦੇ ਨਾਲ ਜੋੜਨ ਤੋਂ ਪਹਿਲਾਂ ਇੰਟਰੈਕਸ਼ਨ ਪੈਟਰਨ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨਾ ਹੈ।
ਪ੍ਰੋਟੋਟਾਈਪ ਤੋਂ ਪ੍ਰੋਡਕਸ਼ਨ ਤੱਕ
ਇੱਕ ਕੰਮ ਕਰਦਾ ਪ੍ਰੋਟੋਟਾਈਪ ਪ੍ਰੋਡਕਸ਼ਨ ਬੈਂਕਿੰਗ ਇਨਫਰਾਸਟ੍ਰਕਚਰ ਨਹੀਂ ਹੈ, ਪਰ ਇੱਕ ਤੋਂ ਦੂਜੇ ਤੱਕ ਦਾ ਰਸਤਾ ਸਪੱਸ਼ਟ ਹੈ।
ਮੌਕ ਡੇਟਾ ਨੂੰ ਅਸਲ ਕੋਰ ਬੈਂਕਿੰਗ APIs ਨਾਲ ਬਦਲੋ। ਆਪਣੇ get_balance ਟੂਲ ਨੂੰ REST ਜਾਂ gRPC ਰਾਹੀਂ ਲੈਜਰ ਸਿਸਟਮ ਨਾਲ ਜੋੜੋ। pay_bill ਨੂੰ ਆਪਣੇ ਅਸਲ ਪੇਮੈਂਟ ਸਵਿੱਚ ਨਾਲ ਜੋੜੋ। ਜਦੋਂ ਤੁਸੀਂ ਇਹ ਕਰਦੇ ਹੋ, ਤਾਂ ਤੁਹਾਨੂੰ ਮਾਡਲ ਜਾਂ ਗੱਲਬਾਤ ਦੇ ਲੌਜਿਕ ਨੂੰ ਬਦਲਣ ਦੀ ਲੋੜ ਨਹੀਂ ਹੁੰਦੀ; ਤੁਹਾਨੂੰ ਸਿਰਫ਼ ਟੂਲ ਹੈਂਡਲਰਾਂ ਦੇ ਇੰਪਲੀਮੈਂਟੇਸ਼ਨ ਨੂੰ ਬਦਲਣਾ ਪੈਂਦਾ ਹੈ।
ਸੈਸ਼ਨ ਪ੍ਰਬੰਧਨ (session management) ਲਈ Redis ਜੋੜੋ। ਬੈਂਕਿੰਗ ਵਿੱਚ ਗੱਲਬਾਤ ਦੀ ਸਥਿਤੀ (conversational state) ਸੰਵੇਦਨਸ਼ੀਲ ਅਤੇ ਨਿਯਮਤ ਹੁੰਦੀ ਹੈ। ਤੁਹਾਨੂੰ ਮੈਸੇਜ ਇਤਿਹਾਸ ਨੂੰ ਸੁਰੱਖਿਅਤ ਰੂਪ ਵਿੱਚ ਸਟੋਰ ਕਰਨ ਦੀ ਲੋੜ ਹੈ, ਇੱਕ ਨਿਰਧਾਰਤ ਸਮੇਂ ਤੋਂ ਬਾਅਦ ਉਹਨਾਂ ਨੂੰ ਖਤਮ ਕਰਨ ਦੀ ਲੋੜ ਹੈ, ਅਤੇ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਦੀ ਲੋੜ ਹੈ ਕਿ ਯੂਜ਼ਰ ਦਾ ਸੈਸ਼ਨ ਰਿਕੁਐਸਾਂ ਵਿੱਚੋਂ ਲੀਕ ਨਾ ਹੋਵੇ। Redis ਇਸ ਨੂੰ TTL ਪਾਲਿਸੀਆਂ ਅਤੇ ਤੇਜ਼ ਕੀ ਲੁੱਕਅੱਪ (key lookups) ਨਾਲ ਸੰਭਾਲਦਾ ਹੈ।
ਜਦੋਂ ਟ੍ਰੈਫਿਕ ਵਧਦਾ ਹੈ, ਤਾਂ inference ਨੂੰ vLLM 'ਤੇ ਲੈ ਜਾਓ। AI Studio ਪ੍ਰੋਟੋਟਾਈਪਿੰਗ ਲਈ ਵਧੀਆ ਹੈ, ਪਰ GPU ਕਲਸਟਰਾਂ 'ਤੇ vLLM ਦੇ ਨਾਲ ਸੈਲਫ-ਹੋਸਟਡ ਇਨਫਰੈਂਸ ਤੁਹਾਨੂੰ ਲੇਟੈਂਸੀ (latency), ਬੈਚਿੰਗ ਅਤੇ ਪੈਮਾਨੇ 'ਤੇ ਲਾਗਤ 'ਤੇ ਕੰਟਰੋਲ ਦਿੰਦਾ ਹੈ। Gemma 4 vLLM ਦੇ ਅਧੀਨ ਕੁਸ਼ਲਤਾ ਨਾਲ ਚੱਲਦਾ ਹੈ, ਅਤੇ ਟੂਲ-ਕਾਲਿੰਗ ਵਿਵਹਾਰ ਬਿਲਕੁਲ ਉਹੀ ਰਹਿੰਦਾ ਹੈ।
ਅਸਲ ਸਿੱਖਿਆ
ਇੱਕ ਭਰੋਸੇਮੰਦ ਫਿਨਟੈਕ (fintech) ਏਜੰਟ ਬਣਾਉਣਾ ਮਾਡਲ ਦੇ ਆਕਾਰ ਬਾਰੇ ਘੱਟ ਅਤੇ ਆਰਕੀਟੈਕਚਰਲ ਪਾਬੰਦੀਆਂ ਬਾਰੇ ਜ਼ਿਆਦਾ ਹੈ। Gemma 4 ਕੋਡ-ਸਵਿਚਡ ਨਾਈਜੀਰੀਅਨ ਪਿਡਜਿਨ (Nigerian Pidgin) ਨੂੰ ਪਾਰਸ ਕਰਨ ਅਤੇ ਗੁੰਝਲਦਾਰ ਇੰਟੈਂਟਸ (intents) ਨੂੰ ਰੂਟ ਕਰਨ ਲਈ ਲੋੜੀਂਦੀ ਤਰਕ ਸ਼ਕਤੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਪਰ ਸੁਰੱਖਿਆ ਟੂਲ ਲੂਪ ਤੋਂ ਆਉਂਦੀ ਹੈ। ਹਰ ਬੈਲੇਂਸ ਲਾਈਵ ਫੈਚ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਹਰ ਬਿੱਲ ਭੁਗਤਾਨ ਦੀ ਬਾਹਰੀ ਸਿਸਟਮ ਦੁਆਰਾ ਪੁਸ਼ਟੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਕੁਝ ਵੀ ਕਲਪਨਾਤਮਕ ਨਹੀਂ ਹੁੰਦਾ।
AI Studio ਦੇ ਨਾਲ ਬ੍ਰਾਊਜ਼ਰ ਵਿੱਚ ਸ਼ੁਰੂ ਕਰੋ, Express ਲੂਪ ਵਿੱਚ ਲੌਜਿਕ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰੋ, ਅਤੇ ਇੱਕ ਵਾਰ ਜਦੋਂ ਗੱਲਬਾਤ ਦਾ ਪ੍ਰਵਾਹ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਹੀ ਹੋ ਜਾਵੇ ਤਾਂ ਅਸਲ ਬੈਂਕਿੰਗ ਇਨਫਰਾਸਟ੍ਰਕਚਰ ਨੂੰ ਜੋੜ ਦਿਓ। ਇਸ ਤਰ੍ਹਾਂ ਹੀ ਤੁਸੀਂ ਇੱਕ ਅਜਿਹਾ ਬੋਟ ਤਿਆਰ ਕਰਦੇ ਹੋ ਜਿਸ 'ਤੇ ਲੋਕ ਅਸਲ ਵਿੱਚ ਆਪਣੇ ਪੈਸੇ ਲਈ ਭਰੋਸਾ ਕਰ ਸਕਦੇ ਹਨ।
Source: Building a Full Gemma 4 Google AI Studio Project: A Fintech Support Agent
Optional learning community: GyaanSetu AI on Telegram