ಡಿಜಿಟಲ್ ಬ್ಯಾಂಕ್‌ನಲ್ಲಿ ಖಾತೆ ಬಾಕಿಗಳನ್ನು (account balances) ಕಲ್ಪಿತವಾಗಿ ಹೇಳುವ ಸಪೋರ್ಟ್ ಬಾಟ್ ಕೇವಲ ನಿಷ್ಪ್ರಯೋಜಕವಲ್ಲ, ಅದು ಅಪಾಯಕಾರಿ ಕೂಡ. ಹಣಕಾಸಿನ ಸಂಭಾಷಣೆಗಳು ನಿಖರವಾದ ಅಂಕಿಅಂಶಗಳು, ಪರಿಶೀಲಿಸಿದ ಪಾವತಿದಾರರು (payees) ಮತ್ತು ಪ್ರತಿಯೊಂದು ವಾದಕ್ಕೂ ಆಡಿಟ್ ಟ್ರೈಲ್ (audit trail) ಅನ್ನು ಬಯಸುತ್ತವೆ. ಲಾರ್ಜ್ ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್‌ಗಳು ಸಂಭಾಷಣೆಯಲ್ಲಿ ಅತ್ಯುತ್ತಮವಾಗಿವೆ, ಆದರೆ ಅವು ಹ್ಯಾಲ್ಯುಸಿನೇಟ್ (hallucinate) ಮಾಡುತ್ತವೆ. ಬಳಕೆದಾರರು “ನನ್ನ ಖಾತೆಯಲ್ಲಿ ಎಷ್ಟು ಉಳಿದಿದೆ?” ಎಂದು ಕೇಳಿದಾಗ, ಮಾಡೆಲ್ ತನ್ನ ಕಲ್ಪನೆಯನ್ನು ಬಳಸದೆ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಬಳಸಬೇಕು. ಫಂಕ್ಷನ್ ಕಾಲಿಂಗ್ (function calling) ಮಾಡುವುದು ಇದನ್ನೇ, ಮತ್ತು ಇದು ಈ ನಿರ್ಮಾಣದ (build) ಕೇಂದ್ರಬಿಂದುವಾಗಿದೆ.

Google ನ Gemma 4 ಅಭಿವರ್ಧಕರಿಗೆ ಸಂಕೀರ್ಣ ಸೂಚನೆಗಳನ್ನು ಪಾಲಿಸಬಲ್ಲ ಮತ್ತು ಪ್ರಾದೇಶಿಕ ಉಪಭಾಷೆಗಳಲ್ಲಿಯೂ ಸಹ ನೈಸರ್ಗಿಕ ಸಂಭಾಷಣೆಯನ್ನು ನಡೆಸಬಲ್ಲ ಸಾಮರ್ಥ್ಯವುಳ್ಳ 31-ಬಿಲಿಯನ್ ಪ್ಯಾರಾಮೀಟರ್ ಮಾಡೆಲ್ ಅನ್ನು ನೀಡುತ್ತದೆ. Google AI Studio ನೊಂದಿಗೆ ಇದನ್ನು ಬಳಸಿದಾಗ, ಇದು ನೀವು ಟೂಲ್‌ಗಳನ್ನು ವ್ಯಾಖ್ಯಾನಿಸಲು, ಎಡ್ಜ್ ಕೇಸ್‌ಗಳನ್ನು (edge cases) ಪರೀಕ್ಷಿಸಲು ಮತ್ತು ಸರ್ವರ್ ಅನ್ನು ಮುಟ್ಟುವ ಮೊದಲೇ ಕೆಲಸ ಮಾಡುವ JavaScript ಅನ್ನು ಎಕ್ಸ್‌ಪೋರ್ಟ್ ಮಾಡಲು ಸಾಧ್ಯವಾಗುವ ವೇಗದ ಪ್ರೊಟೊಟೈಪಿಂಗ್ ವಾತಾವರಣವಾಗುತ್ತದೆ. ಇಲ್ಲಿನ ಗುರಿ ಖಾತೆ ಬಾಕಿಗಳನ್ನು ಪರಿಶೀಲಿಸುವ, ವಹಿವಾಟಿನ ಸ್ಥಿತಿಯನ್ನು (transaction status) ಟ್ರ್ಯಾಕ್ ಮಾಡುವ ಮತ್ತು ಬಿಲ್‌ಗಳನ್ನು ಪಾವತಿಸುವ ಒಂದು ಫಿನ್‌ಟೆಕ್ ಸಪೋರ್ಟ್ ಏಜೆಂಟ್ ಅನ್ನು ತಯಾರಿಸುವುದು. ಮುಖ್ಯವಾಗಿ, ಬಳಕೆದಾರರು ನೈಜೀರಿಯನ್ ಪಿಡಿನ್ (Nigerian Pidgin) ನಲ್ಲಿ ಮಾತನಾಡಿದಾಗ, ಇದು ಹಣಕಾಸಿನ ಸತ್ಯಗಳನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳದೆ, ಅದೇ ಧಾಟಿಯಲ್ಲಿ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತದೆ.

ಹಣಕಾಸಿನ ಬಾಟ್‌ಗಳಿಗೆ ಫಂಕ್ಷನ್ ಕಾಲಿಂಗ್ ಏಕೆ ಮುಖ್ಯ?

ಫಂಕ್ಷನ್ ಕಾಲಿಂಗ್ ಇಲ್ಲದಿದ್ದರೆ, ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್ ಪ್ರತಿಯೊಂದು ಪ್ರಶ್ನೆಯನ್ನು ಒಂದು ಸೃಜನಾತ್ಮಕ ಬರವಣಿಗೆಯ ಅಭ್ಯಾಸದಂತೆ ಪರಿಗಣಿಸುತ್ತದೆ. ನೀವು ಬಾಕಿಯ ಬಗ್ಗೆ ಕೇಳಿದರೆ, ಅದು ತನ್ನ ತರಬೇತಿ ಡೇಟಾದಲ್ಲಿನ ಮಾದರಿಗಳಿಂದ ಒಂದು ನಂಬಲರ್ಹವಾಗಿ ಕಾಣುವ ಅಂಕಿಅಂಶವನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳಬಹುದು. ನಿಜವಾದ ಹಣದ ವಿಷಯವಿರುವಾಗ ಅಂತಹ ವೈಫಲ್ಯವು ಸ್ವೀಕಾರಾರ್ಹವಲ್ಲ.

ಫಂಕ್ಷನ್ ಕಾಲಿಂಗ್ ಈ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಉಲ್ಟಾ ಮಾಡುತ್ತದೆ. ಬಾಕಿಯನ್ನು ತಿಳಿದಿರುವುದು ಮಾಡೆಲ್ ಕೆಲಸವಲ್ಲ. ಉದ್ದೇಶವನ್ನು (intent) ಗುರುತಿಸುವುದು, ಸರಿಯಾದ ಟೂಲ್ ಅನ್ನು ಆರಿಸುವುದು ಮತ್ತು ಪ್ಯಾರಾಮೀಟರ್‌ಗಳನ್ನು ಹೊರತೆಗೆಯುವುದು ಅದರ ಕೆಲಸ. ಬಳಕೆದಾರರು “ನನ್ನ ಬಾಕಿ ಪರಿಶೀಲಿಸಿ” ಎಂದು ಬರೆದಾಗ, Gemma 4 ಒಂದು ರಚನಾತ್ಮಕ JSON ವಿನಂತಿಯನ್ನು ಹೊರಡಿಸುತ್ತದೆ—ಉದಾಹರಣೆಗೆ account_id ನೊಂದಿಗೆ get_balance ಗೆ ಮಾಡುವ ಕರೆಯಂತೆ. ನಿಮ್ಮ ಬ್ಯಾಕೆಂಡ್ ಆ ಕರೆಯನ್ನು ಕೋರ್ ಬ್ಯಾಂಕಿಂಗ್ ಸಿಸ್ಟಮ್ ವಿರುದ್ಧ ಚಲಾಯಿಸುತ್ತದೆ, ನೈಜ ಅಂಕಿಅಂಶವನ್ನು ಪಡೆಯುತ್ತದೆ ಮತ್ತು ಅದನ್ನು ಸಂಭಾಷಣೆಗೆ ಮರಳಿ ಕಳುಹಿಸುತ್ತದೆ. ಅದರ ನಂತರವೇ ಮಾಡೆಲ್ ಮನುಷ್ಯರಿಗೆ ಅರ್ಥವಾಗುವ ವಾಕ್ಯವನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ. ಪ್ರತಿಯೊಂದು ಉತ್ತರವು ಬ್ಯಾಕೆಂಡ್‌ಗೆ ಮಾಡುವ ಟೂಲ್ ಕಲಿಯಿಂದ ಬರುತ್ತದೆ. ಮಾಡೆಲ್ ಅನ್ನು ಬಾಹ್ಯ ತರ್ಕದ (external logic) ಮೂಲಕ ನಿಯಂತ್ರಿಸುವುದರಿಂದ, ಹ್ಯಾಲ್ಯುಸಿನೇಶನ್‌ಗಳು API ಗಡಿಯಲ್ಲಿಯೇ ನಿಂತುಹೋಗುತ್ತವೆ.

ಈ ಮಾದರಿಯು ಸ್ಪಷ್ಟವಾದ ಆಡಿಟ್ ಟ್ರೈಲ್‌ಗಳನ್ನು ಕೂಡ ಸೃಷ್ಟಿಸುತ್ತದೆ. ಪ್ರತಿಯೊಂದು ಟೂಲ್ ವಿನಂತಿ ಮತ್ತು ಅದರ ಅನುಗುಣ ಫಲಿತಾಂಶವನ್ನು ಸಂದೇಶದ ಇತಿಹಾಸದಲ್ಲಿ (message history) ದಾಖಲಿಸಲಾಗುತ್ತದೆ. ನಿಯಂತ್ರಕರು ಮತ್ತು ರಿಸ್ಕ್ ತಂಡಗಳು ಬಾಕಿಯನ್ನು ಯಾವಾಗ ಪರಿಶೀಲಿಸಲಾಯಿತು ಮತ್ತು ಬಳಕೆದಾರರಿಗೆ ಯಾವ ಸಂಖ್ಯೆ ದೊರೆಯಿತು ಎಂಬುದನ್ನು ನಿಖರವಾಗಿ ಪರೀಕ್ಷಿಸಬಹುದು.

Google AI Studio ನಲ್ಲಿ ಏಜೆಂಟ್ ಅನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸುವುದು

ಕಾರ್ಯಪ್ರವಾಹವು (workflow) Google AI Studio ಒಳಗೆ ಪ್ರಾರಂಭವಾಗುತ್ತದೆ. ಸಂಭಾಷಣೆ ಮತ್ತು ಸೂಚನೆಗಳನ್ನು ಪಾಲಿಸಲು ಸುಧಾರಿತವಾದ gemma-4-31b-it ಅನ್ನು ಆಯ್ಕೆಮಾಡಿ.

ನಂತರ, ಕಟ್ಟುನಿಟ್ಟಾದ ಮಿತಿಗಳನ್ನು ನಿಗದಿಪಡಿಸುವ ಸಿಸ್ಟಮ್ ಸೂಚನೆಗಳನ್ನು ಬರೆಯಿರಿ. ಡಿಜಿಟಲ್ ಬ್ಯಾಂಕ್‌ಗಾಗಿ, ಧಾಟಿಯು ವೃತ್ತಿಪರ, ನೇರ ಮತ್ತು ಶಾಂತವಾಗಿರಬೇಕು. ಆದರೆ ಸೂಚನೆಗಳು ಇನ್ನೂ ಹೆಚ್ಚಿನದನ್ನು ಒಳಗೊಂಡಿರಬೇಕು. ಮಾಡೆಲ್ ಎಂದಿಗೂ ಖಾತೆ ಡೇಟಾವನ್ನು ಅಂದಾಜಿಸುವುದಿಲ್ಲ, ಎಂದಿಗೂ ವಹಿವಾಟಿನ ಸ್ಥಿತಿಯನ್ನು ಊಹಿಸುವುದಿಲ್ಲ ಮತ್ತು ಟೂಲ್ ಫಲಿತಾಂಶವನ್ನು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳದೆ ಎಂದಿಗೂ ಬಿಲ್ ಪಾವತಿಯನ್ನು ಪೂರ್ಣಗೊಳಿಸುವುದಿಲ್ಲ ಎಂದು ಮಾಡೆಲ್‌ಗೆ ಸ್ಪಷ್ಟವಾಗಿ ತಿಳಿಸಿ. ಬಳಕೆದಾರರು ನೈಜೀರಿಯನ್ ಪಿಡಿನ್‌ನಲ್ಲಿ ಬರೆದರೆ, ಮಾಡೆಲ್ ನೈಜೀರಿಯನ್ ಪಿಡಿನ್‌ನಲ್ಲಿಯೇ ಉತ್ತರಿಸಬೇಕು. ಬಳಕೆದಾರರು ಇಂಗ್ಲಿಷ್‌ಗೆ ಬದಲಾಯಿಸಿದರೆ, ಮಾಡೆಲ್ ಅದನ್ನು ಅನುಸರಿಸಬೇಕು. ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ ಎಂಬುದು ನೀವು ನಂಬಿಕೆ ಮತ್ತು ಸುರಕ್ಷತಾ ನೀತಿಯನ್ನು ಸರಳ ಭಾಷೆಯಲ್ಲಿ ಎನ್‌ಕೋಡ್ ಮಾಡುವ ಸ್ಥಳವಾಗಿದೆ.

ನಂತರ ಟೂಲ್ ಸ್ಕೀಮಾಗಳನ್ನು (tool schemas) ವ್ಯಾಖ್ಯಾನಿಸಿ. ಇವುಗಳನ್ನು ಮಾಡೆಲ್ ಮತ್ತು ನಿಮ್ಮ ಬ್ಯಾಕೆಂಡ್ ನಡುವಿನ ಒಪ್ಪಂದಗಳೆಂದು ಭಾವಿಸಿ. ನಿಮಗೆ ಕನಿಷ್ಠ ಮೂರು ಬೇಕಾಗುತ್ತವೆ:

  1. get_balance
    ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು: account_id (string, ಅಗತ್ಯವಿದೆ)
    ಫಲಿತಾಂಶ: ಪ್ರಸ್ತುತ ಬಾಕಿ ಮತ್ತು ಕರೆನ್ಸಿ.

  2. get_transaction_status
    ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು: transaction_reference (string, ಅಗತ್ಯವಿದೆ)
    ಫಲಿತಾಂಶ: ಪೆಂಡಿಂಗ್, ಕಂಪ್ಲೀಟೆಡ್ ಅಥವಾ ಫೇಲ್ಡ್‌ನಂತಹ ಸ್ಥಿತಿ ಮತ್ತು ಸಮಯದ ಮುದ್ರೆ (timestamp).

  3. pay_bill
    ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು: biller_code (string, ಅಗತ್ಯವಿದೆ), amount (number, ಅಗತ್ಯವಿದೆ), account_pin (ನಿಮ್ಮ ಫ್ಲೋಗೆ ಅನುಗುಣವಾಗಿ ಸ್ಟ್ರಿಂಗ್, ಐಚ್ಛಿಕ)
    ಫಲಿತಾಂಶ: ಕನ್ಫರ್ಮೇಷನ್ ರೆಫರೆನ್ಸ್ ಅಥವಾ ಎರರ್ ಮೆಸೇಜ್.

ಪ್ರತಿ ಸ್ಕೀಮಾವೂ ಫಂಕ್ಷನ್ ಹೆಸರು, ವಿವರಣೆ ಮತ್ತು ಪ್ಯಾರಾಮೀಟರ್ ಗುಣಲಕ್ಷಣಗಳನ್ನು ವಿವರಿಸುವ ಪ್ರಮಾಣಿತ JSON ಫಾರ್ಮ್ಯಾಟ್ ಅನ್ನು ಬಳಸುತ್ತದೆ. ವಿವರಣಾ ಕ್ಷೇತ್ರಗಳು (description fields) ಅತ್ಯಂತ ಮುಖ್ಯವಾಗಿವೆ. ಮಾಡೆಲ್ ಪ್ರತಿಯೊಂದು ಟೂಲ್ ಅನ್ನು ಯಾವಾಗ ಬಳಸಬೇಕೆಂದು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವಂತೆ ಅವುಗಳನ್ನು ಬರೆಯಿರಿ. ಅಸ್ಪಷ್ಟ ವಿವರಣೆಗಳು ತಪ್ಪಾದ ಟೂಲ್ ಆಯ್ಕೆಗೆ ಕಾರಣವಾಗುತ್ತವೆ, ಆದ್ದರಿಂದ ನಿರ್ದಿಷ್ಟವಾಗಿರಿ: “ಬಳಕೆದಾರರು ತಮ್ಮ ಪ್ರಸ್ತುತ ಖಾತೆ ಬಾಕಿಯನ್ನು ತಿಳಿಯಲು ಬಯಸಿದಾಗ get_balance ಬಳಸಿ. ವಹಿವಾಟಿನ ಇತಿಹಾಸಕ್ಕಾಗಿ ಇದನ್ನು ಬಳಸಬೇಡಿ.”

ಬ್ರೌಸರ್‌ನಲ್ಲಿ ಪ್ರೊಟೊಟೈಪಿಂಗ್

ನೀವು ಒಂದೇ ಒಂದು Express ರೂಟ್ ಬರೆಯುವ ಮೊದಲು, AI Studio ನ ಚಾಟ್ ಪ್ಯಾನಲ್‌ನಲ್ಲಿ ಸಂಪೂರ್ಣ ಸಂಭಾಷಣಾ ಪ್ರವಾಹವನ್ನು ಪರೀಕ್ಷಿಸಿ. ಇದು ಬ್ಯಾಕೆಂಡ್‌ನಲ್ಲಿ ದಿನಗಳ ಕಾಲ ಮಾಡುವ ಪುನರ್ಕೆಲಸವನ್ನು ಉಳಿಸುತ್ತದೆ. ನೈಜೀರಿಯನ್ ಪಿಡಿನ್‌ನಲ್ಲಿ ಒಂದು ಪ್ರಶ್ನೆಯನ್ನು ಟೈಪ್ ಮಾಡಿ: “Wetin remain inside my account?” Gemma 4 ಸರಿಯಾಗಿ get_balance ಕರೆಯನ್ನು ಹೊರಡಿಸುತ್ತದೆಯೇ ಅಥವಾ ತನ್ನ ತರಬೇತಿ ಡೇಟಾದಿಂದ ಉತ್ತರಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತದೆಯೇ ಎಂದು ಗಮನಿಸಿ. ಒಂದು ವೇಳೆ ಅದು ಪ್ಯಾರಾಮೀಟರ್‌ಗಳನ್ನು ತಪ್ಪಾಗಿ ನೀಡಿದರೆ—ಬಹುಶಃ account_id ಬದಲಿಗೆ account_number ಬಳಸಿದರೆ—ಅಲ್ಲಿಯೇ ನೀವು ಸ್ಕೀಮಾ ವಿವರಣೆಯನ್ನು ಸರಿಪಡಿಸಬಹುದು.

ವೈಫಲ್ಯದ ವಿಧಾನಗಳನ್ನು (failure modes) ಕೂಡ ಪರೀಕ್ಷಿಸಿ. ರೆಫರೆನ್ಸ್ ಸಂಖ್ಯೆಯನ್ನು ನೀಡದೆ ವಹಿವಾಟಿನ ಸ್ಥಿತಿಯನ್ನು (transaction status) ಕೇಳಿ. ಸರಿಯಾಗಿ ಸೂಚನೆ ನೀಡಲಾದ ಮಾಡೆಲ್, ಅಥವಾ ಬಳಕೆದಾರರಿಂದ ಬಿಟ್ಟುಹೋದ ಪ್ಯಾರಾಮೀಟರ್ ಅನ್ನು ಕೇಳಬೇಕು ಅಥವಾ ತನ್ನ ಬಳಿ ಇರುವ ಮಾಹಿತಿಯೊಂದಿಗೆ ಟೂಲ್ ಅನ್ನು ಕರೆ ಮಾಡಿ ಬ್ಯಾಕೆಂಡ್‌ನಿಂದ ವ್ಯಾಲಿಡೇಶನ್ ಎರ್ರರ್ (validation error) ಬರಲು ಬಿಡಬೇಕು. ನೀವು ಈ ವರ್ತನೆಗಳನ್ನು ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್‌ನಲ್ಲಿ ನೋಡಬೇಕೇ ಹೊರತು ಪ್ರೊಡಕ್ಷನ್‌ನಲ್ಲಿ ಅಲ್ಲ.

ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಮತ್ತು ಸ್ಕೀಮಾಗಳು ಸರಿಯಾಗಿ ಕೆಲಸ ಮಾಡಿದ ನಂತರ, JavaScript ಕೋಡ್ ಅನ್ನು ಎಕ್ಸ್‌ಪೋರ್ಟ್ ಮಾಡಿ. AI Studio ನಿಮ್ಮ ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್, ಬಳಕೆದಾರರ ಸಂದೇಶ ಮತ್ತು ಟೂಲ್ ವ್ಯಾಖ್ಯಾನಗಳೊಂದಿಗೆ (tool definitions) API ವಿನಂತಿಯನ್ನು ರಚಿಸುವ ಒಂದು ಸ್ವಚ್ಛವಾದ ಸ್ನಿಪೆಟ್ ಅನ್ನು ಸಿದ್ಧಪಡಿಸುತ್ತದೆ. ಇದು ನಿಮ್ಮ ಬ್ಯಾಕೆಂಡ್ ಲಾಜಿಕ್‌ನ ಅಡಿಪಾಯವಾಗುತ್ತದೆ.

Express Backend ಅನ್ನು ಜೋಡಿಸುವುದು

ಎಕ್ಸ್‌ಪೋರ್ಟ್ ಮಾಡಿದ ಕೋಡ್ ಅನ್ನು ತೆಗೆದುಕೊಂಡು ಅದನ್ನು Express ಅಪ್ಲಿಕೇಶನ್‌ಗೆ ಸೇರಿಸಿ. ಇದರ ಆರ್ಕಿಟೆಕ್ಚರ್ ಸರಳವಾಗಿದೆ, ಆದರೆ ಎಕ್ಸಿಕ್ಯೂಷನ್ ಲೂಪ್ (execution loop) ಅತ್ಯಂತ ನಿರ್ಣಾಯಕ ಭಾಗವಾಗಿದೆ.

ಬಳಕೆದಾರರ ಸಂದೇಶ ಮತ್ತು ಯಾವುದೇ ಸೆಷನ್ ಇತಿಹಾಸವನ್ನು ಸ್ವೀಕರಿಸುವ ಒಂದು POST ಎಂಡ್‌ಪಾಯಿಂಟ್—ಬಹುಶಃ /chat— ಅನ್ನು ಸೆಟಪ್ ಮಾಡಿ. ಇವುಗಳನ್ನು Gemma 4 ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗೆ ಫಾರ್ವರ್ಡ್ ಮಾಡಿ. ನಿಮ್ಮ ಹೋಸ್ಟಿಂಗ್ ಆಯ್ಕೆಗೆ ಅನುಗುಣವಾಗಿ ನೀವು OpenAI-совмести API ಅಥವಾ Google ನ ಸ್ವಂತ ಇನ್ಫರೆನ್ಸ್ ಎಂಡ್‌ಪಾಯಿಂಟ್ ಮೂಲಕ ಇದನ್ನು ಮಾಡಬಹುದು.

ಮಾಡೆಲ್‌ನ ಪ್ರತಿಕ್ರಿಯೆಯು ಎರಡು ವರ್ಗಗಳಲ್ಲಿ ಒಂದಕ್ಕೆ ಸೇರುತ್ತದೆ. ಅದು ಅಂತಿಮ ಪಠ್ಯ ಸಂದೇಶವಾಗಿರಬಹುದು ಅಥವಾ ಡೇಟಾವನ್ನು ಕೋರುವ tool_call ಅನ್ನು ಒಳಗೊಂಡಿರಬಹುದು. ನೀವು ಟೂಲ್ ಕಾಲ್ ಅನ್ನು ಸ್ವೀಕರಿಸಿದಾಗ, ನಿಮ್ಮ ಬ್ಯಾಕೆಂಡ್‌ನಲ್ಲಿ ಅದಕ್ಕೆ ಸಂಬಂಧಿಸಿದ ಫಂಕ್ಷನ್ ಅನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಿ. ಬ್ಯಾಲೆನ್ಸ್ ತಿಳಿಯಲು ಡೇಟಾಬೇಸ್ ಅನ್ನು ಕ್ವೆರಿ ಮಾಡಿ. ಬಿಲ್ ಸ್ಥಿತಿಗಾಗಿ ಪೇಮೆಂಟ್ ಪ್ರೊಸೆಸರ್ ಅನ್ನು ಸಂಪರ್ಕಿಸಿ. ಟೂಲ್‌ನ ಫಲಿತಾಂಶವನ್ನು tool ರೋಲ್ ಹೊಂದಿರುವ ಹೊಸ ಸಂದೇಶವಾಗಿ ಸಂಭಾಷಣೆಯ ಇತಿಹಾಸಕ್ಕೆ ಸೇರಿಸಿ ಮತ್ತು ಸಂಪೂರ್ಣ ಅಪ್‌ಡೇಟ್ ಮಾಡಲಾದ ಅರೇ ಅನ್ನು Gemma 4 ಗೆ ಮರಳಿ ಕಳುಹಿಸಿ.

ಮಾಡೆಲ್ ಅಂತಿಮ ಪಠ್ಯ ಉತ್ತರವನ್ನು ನೀಡುವವರೆಗೆ ಈ ಲೂಪ್ ಅನ್ನು ಪುನರಾವರ್ತಿಸಿ. ಆ ಉತ್ತರವು ನೀವು ಒದಗಿಸಿದ ನೈಜ ಡೇಟಾ ಮೇಲೆ ಆಧಾರಿತವಾಗಿರುತ್ತದೆ. Express ಇದನ್ನು ಸಂಯೋಜಿಸಲು ಸುಲಭವಾಗಿಸುತ್ತದೆ ಏಕೆಂದರೆ ಲೂಪ್ ಮೂಲಕ ಪ್ರತಿಯೊಂದು ಹಂತವೂ ಕೇವಲ ಮತ್ತೊಂದು HTTP ವಿನಂತಿಯಾಗಿದೆ ಮತ್ತು ನೀವು ಟೂಲ್ ಎಕ್ಸಿಕ್ಯೂಷನ್ ಅನ್ನು async/await ಮೂಲಕ ಸುಲಭವಾಗಿ ನಿರ್ವಹಿಸಬಹುದು.

ಆರಂಭಿಕ ಅಭಿವೃದ್ಧಿಯ ಸಮಯದಲ್ಲಿ, ಈ ಟೂಲ್ ಕಾಲ್‌ಗಳಿಗೆ ಮಾಕ್ ಡೇಟಾವನ್ನು (mock data) ಬಳಸಿ. ಮಾದರಿ ಅಕೌಂಟ್ ID ಗಳನ್ನು ಬ್ಯಾಲೆನ್ಸ್‌ಗೆ ಮ್ಯಾಪ್ ಮಾಡುವ ಸರಳ JavaScript ಆಬ್ಜೆಕ್ಟ್ ಲೂಪ್ ಕೆಲಸ ಮಾಡುತ್ತದೆ ಎಂದು ಸಾಬೀತುಪಡಿಸಲು ಸಾಕಾಗುತ್ತದೆ. ಅಸ್ಥಿರವಾದ (brittle) ಥರ್ಡ್-ಪಾರ್ಟಿ ಬ್ಯಾಂಕಿಂಗ್ API ಗಳೊಂದಿಗೆ ಸಂಯೋಜಿಸುವ ಮೊದಲು ಸಂವಹನ ಮಾದರಿಯನ್ನು (interaction pattern) ಪರಿಶೀಲಿಸುವುದು ಇದರ ಉದ್ದೇಶವಾಗಿದೆ.

ಪ್ರೊಟೊಟೈಪ್‌ನಿಂದ ಪ್ರೊಡಕ್ಷನ್‌ಗೆ

ಕೆಲಸ ಮಾಡುವ ಪ್ರೊಟೊಟೈಪ್ ಎಂಬುದು ಪ್ರೊಡಕ್ಷನ್ ಬ್ಯಾಂಕಿಂಗ್ ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್ ಅಲ್ಲ, ಆದರೆ ಒಂದುವರಿಂದ ಇನ್ನೊಂದಕ್ಕೆ ಹೋಗುವ ಹಾದಿ ಸ್ಪಷ್ಟವಾಗಿದೆ.

ಮಾಕ್ ಡೇಟಾವನ್ನು ನೈಜ ಕೋರ್ ಬ್ಯಾಂಕಿಂಗ್ API ಗಳೊಂದಿಗೆ ಬದಲಾಯಿಸಿ. ನಿಮ್ಮ get_balance ಟೂಲ್ ಅನ್ನು REST ಅಥವಾ gRPC ಮೂಲಕ ಲೆಡ್ಜರ್ ಸಿಸ್ಟಮ್‌ಗೆ ಸಂಪರ್ಕಿಸಿ. pay_bill ಅನ್ನು ನಿಮ್ಮ ನೈಜ ಪೇಮೆಂಟ್ ಸ್ವಿಚ್‌ಗೆ ಜೋಡಿಸಿ. ನೀವು ಇದನ್ನು ಮಾಡಿದಾಗ, ಮಾಡೆಲ್ ಅಥವಾ ಸಂಭಾಷಣೆಯ ಲಾಜಿಕ್ ಅನ್ನು ಬದಲಾಯಿಸುವ ಅಗತ್ಯವಿಲ್ಲ; ನೀವು ಕೇವಲ ಟೂಲ್ ಹ್ಯಾಂಡ್ಲರ್‌ಗಳ ಅನುಷ್ಠಾನವನ್ನು (implementation) ಬದಲಾಯಿಸಿದರೆ ಸಾಕು.

ಸೆಷನ್ ಮ್ಯಾನೇಜ್‌ಮೆಂಟ್‌ಗಾಗಿ Redis ಅನ್ನು ಸೇರಿಸಿ. ಬ್ಯಾಂಕಿಂಗ್‌ನಲ್ಲಿ ಸಂಭಾಷಣೆಯ ಸ್ಥಿತಿ (conversational state) ಸೂಕ್ಷ್ಮ ಮತ್ತು ನಿಯಂತ್ರಿತವಾಗಿರುತ್ತದೆ. ನೀವು ಸಂದೇಶ ಇತಿಹಾಸವನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ಸಂಗ್ರಹಿಸಬೇಕು, ನಿಗದಿತ ಸಮಯದ ನಂತರ ಅವುಗಳನ್ನು ಎಕ್ಸ್‌ಪೈರ್ ಮಾಡಬೇಕು ಮತ್ತು ಬಳಕೆದಾರರ ಸೆಷನ್ ಇತರ ವಿನಂತಿಗಳೊಂದಿಗೆ ಸೋರಿಕೆಯಾಗದಂತೆ ನೋಡಿಕೊಳ್ಳಬೇಕು. Redis ಇದನ್ನು TTL ಪಾಲಿಸಿಗಳು ಮತ್ತು ವೇಗದ ಕೀ ಲುಕ್‌ಅಪ್‌ಗಳ ಮೂಲಕ ನಿರ್ವಹಿಸುತ್ತದೆ.

ಟ್ರಾಫಿಕ್ ಹೆಚ್ಚಾದಾಗ, ಇನ್ಫರೆನ್ಸ್ ಅನ್ನು vLLM ಗೆ ಬದಲಾಯಿಸಿ. ಪ್ರೊಟೊಟೈಪಿಂಗ್ ಮಾಡಲು AI Studio ಅತ್ಯುತ್ತಮವಾಗಿದೆ, ಆದರೆ GPU ಕ್ಲಸ್ಟರ್‌ಗಳಲ್ಲಿ vLLM ಬಳಸಿ ಸೆಲ್ಫ್-ಹೋಸ್ಟ್ ಮಾಡುವುದರಿಂದ ಲೇಟೆನ್ಸಿ (latency), ಬ್ಯಾಚಿಂಗ್ ಮತ್ತು ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ವೆಚ್ಚದ ಮೇಲೆ ನಿಮಗೆ ನಿಯಂತ್ರಣ ಸಿಗುತ್ತದೆ. Gemma 4 vLLM ಅಡಿಯಲ್ಲಿ ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಮತ್ತು ಟೂಲ್-ಕಾಲಿಂಗ್ ವರ್ತನೆಯು ಅಷ್ಟೇ ಇರುತ್ತದೆ.

ನಿಜವಾದ ಸಾರಾಂಶ

ವಿಶ್ವಾಸಾರ್ಹ ಫಿನ್‌ಟೆಕ್ ಏಜೆಂಟ್ ಅನ್ನು ನಿರ್ಮಿಸುವುದು ಮಾಡೆಲ್ ಗಾತ್ರದ ಬಗ್ಗೆ ಅಲ್ಲ, ಬದಲಾಗಿ ಆರ್ಕಿಟೆಕ್ಚರಲ್ ನಿರ್ಬಂಧಗಳ (architectural constraints) ಬಗ್ಗೆ ಹೆಚ್ಚು. ಕೋಡ್-ಸ್ವಿಚ್ಡ್ ನೈಜೀರಿಯನ್ ಪಿಡಿನ್ (Nigerian Pidgin) ಅನ್ನು ವಿಶ್ಲೇಷಿಸಲು ಮತ್ತು ಸಂಕೀರ್ಣ ಉದ್ದೇಶಗಳನ್ನು (intents) ನಿರ್ದೇಶಿಸಲು Gemma 4 ಸಾಕಷ್ಟು ತಾರ್ಕಿಕ ಶಕ್ತಿಯನ್ನು ಒದಗಿಸುತ್ತದೆ, ಆದರೆ ಸುರಕ್ಷತೆಯು ಟೂಲ್ ಲೂಪ್‌ನಿಂದ ಬರುತ್ತದೆ. ಪ್ರತಿಯೊಂದು ಬ್ಯಾಲೆನ್ಸ್ ಅನ್ನು ಲೈವ್ ಆಗಿ ಪಡೆಯಲಾಗುತ್ತದೆ. ಪ್ರತಿಯೊಂದು ಬಿಲ್ ಪಾವತಿಯನ್ನು ಬಾಹ್ಯ ವ್ಯವಸ್ಥೆಯು ಖಚಿತಪಡಿಸುತ್ತದೆ. ಯಾವುದನ್ನೂ ಕಲ್ಪಿತವಾಗಿ (invented) ಹೇಳಲಾಗುವುದಿಲ್ಲ.

AI Studio ನೊಂದಿಗೆ ಬ್ರೌಸರ್‌ನಲ್ಲಿ ಪ್ರಾರಂಭಿಸಿ, Express ಲೂಪ್‌ನಲ್ಲಿ ಲಾಜಿಕ್ ಅನ್ನು ಬಲಪಡಿಸಿ ಮತ್ತು ಸಂಭಾಷಣೆಯ ಹರಿವುಗಳು (conversation flows) ಸಂಪೂರ್ಣ ಸುರಕ್ಷಿತವಾದ ನಂತರ ನೈಜ ಬ್ಯಾಂಕಿಂಗ್ ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್ ಅನ್ನು ಬಳಸಿ. ಜನರು ತಮ್ಮ ಹಣವನ್ನು ನಂಬಬಹುದಾದ ಬಾಟ್ ಅನ್ನು ನೀವು ಈ ರೀತಿ ತಯಾರಿಸಬಹುದು.

Source: Building a Full Gemma 4 Google AI Studio Project: A Fintech Support Agent

ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: GyaanSetu AI on Telegram