Bot sokongan yang mereka-reka baki akaun bukan sekadar tidak berguna dalam bank digital. Ia berbahaya. Perbualan kewangan memerlukan angka yang tepat, penerima yang disahkan, dan jejak audit bagi setiap tuntutan. Model bahasa besar sangat mahir dalam perbualan, tetapi ia mengalami halusinasi. Apabila pengguna bertanya, “Berapakah baki akaun saya?”, model tersebut mesti merujuk kepada pangkalan data, bukan imaginasi. Itulah sebenarnya yang dikuatkuasakan oleh function calling, dan ia merupakan teras kepada binaan ini.
Gemma 4 daripada Google memberikan pembangun model 31 bilion parameter yang berupaya mengikut arahan kompleks dan meneruskan dialog semula jadi, termasuk dalam dialek serantau. Apabila dipadankan dengan Google AI Studio, ia menjadi persekitaran prototaip pantas di mana anda boleh mentakrifkan alatan, menguji kes hujung (edge cases), dan mengeksport JavaScript yang berfungsi sebelum anda menyentuh pelayan. Matlamat di sini adalah ejen sokongan fintech yang menyemak baki akaun, menjejaki status transaksi, dan membayar bil. Yang paling penting, ia bertindak balas dalam Pidgin Nigeria apabila pengguna melakukannya, menyesuaikan nada tanpa sesekali mereka-reka fakta kewangan.
Mengapa Function Calling Penting untuk Bot Kewangan
Tanpa function calling, model bahasa menganggap setiap soalan sebagai latihan penulisan kreatif. Tanya tentang baki dan ia mungkin mencipta angka yang kedengaran munasabah berdasarkan corak dalam data latihannya. Mod kegagalan tersebut tidak boleh diterima apabila melibatkan wang sebenar.
Function calling membalikkan aliran tersebut. Tugas model bukanlah untuk mengetahui baki tersebut. Tugasnya adalah untuk mengenali niat, memilih alatan yang betul, dan mengekstrak parameter. Apabila pengguna menulis “Semak baki saya,” Gemma 4 mengeluarkan permintaan JSON berstruktur—seperti panggilan kepada get_balance dengan account_id. Backend anda melaksanakan panggilan tersebut terhadap sistem perbankan teras, mendapatkan angka sebenar, dan menyuapkannya semula ke dalam perbualan. Hanya selepas itu model akan menjana ayat yang ditujukan kepada manusia. Setiap jawapan datang daripada panggilan alatan ke backend. Oleh kerana model dihadkan oleh logik luaran, halusinasi terhenti pada sempadan API.
Corak ini juga mewujudkan jejak audit yang jelas. Setiap permintaan alatan dan hasil yang sepadan direkodkan dalam sejarah mesej. Pengawal selia dan pasukan risiko boleh memeriksa dengan tepat bila baki disemak dan angka apa yang diterima oleh pengguna.
Mereka Bentuk Ejen dalam Google AI Studio
Aliran kerja bermula di dalam Google AI Studio. Pilih gemma-4-31b-it, varian instruct-tuned yang dioptimumkan untuk dialog dan pematuhan arahan.
Seterusnya, tulis arahan sistem yang menetapkan sempadan yang tegas. Untuk bank digital, nadanya harus profesional, terus terang, dan tenang. Namun, arahan tersebut mesti melangkaui itu. Beritahu model secara eksplisit bahawa ia tidak boleh menganggarkan data akaun, tidak boleh mengandaikan status transaksi, dan tidak boleh melengkapkan pembayaran bil tanpa mengesahkan hasil alatan. Jika pengguna menulis dalam Pidgin Nigeria, model harus membalas dalam Pidgin Nigeria. Jika pengguna bertukar ke bahasa Inggeris, model akan mengikutinya. System prompt adalah tempat anda menyandikan polisi kepercayaan dan keselamatan dalam bahasa yang mudah difahami.
Kemudian, takrifkan skema alatan. Anggap ini sebagai kontrak antara model dan backend anda. Anda memerlukan sekurang-kurangnya tiga:
get_balance
Parameter:account_id(string, diperlukan)
Mengembalikan: baki semasa dan mata wang.get_transaction_status
Parameter:transaction_reference(string, diperlukan)
Mengembalikan: status seperti pending, completed, atau failed, berserta cap masa.pay_bill
Parameter:biller_code(string, diperlukan),amount(number, diperlukan),account_pin(string, pilihan bergantung pada aliran anda)
Mengembalikan: rujukan pengesahan atau mesej ralat.
Setiap skema menggunakan format JSON standard yang menerangkan nama fungsi, keterangan, dan sifat parameter. Medan keterangan sangat penting. Tulis supaya model memahami bila perlu memanggil setiap alatan. Keterangan yang kabur membawa kepada pemilihan alatan yang salah, jadi jadilah spesifik: “Gunakan get_balance apabila pengguna ingin mengetahui baki akaun semasa mereka. Jangan gunakannya untuk sejarah transaksi.”
Prototaip dalam Pelayar
Sebelum anda menulis satu pun laluan (route) Express, uji keseluruhan aliran perbualan di dalam panel sembang AI Studio. Ini menjimatkan berhari-hari kerja semula backend. Taip pertanyaan dalam Pidgin Nigeria: “Wetin remain inside my account?” Perhatikan sama ada Gemma 4 mengeluarkan panggilan get_balance dengan betul atau sama ada ia cuba menjawab daripada data latihan. Jika ia tersalah parameter—mungkin menggunakan account_number dan bukannya account_id—anda boleh membetulkan keterangan skema di situ juga.
Test the failure modes too. Ask for a transaction status without providing a reference number. A well-instructed model should either ask the user for the missing parameter or call the tool with what it has and let the backend return a validation error. You want to see these behaviors in the sandbox, not in production.
Once the prompts and schemas behave correctly, export the JavaScript code. AI Studio generates a clean snippet that structures the API request with your system prompt, user message, and tool definitions. This becomes the foundation of your backend logic.
Wiring Up the Express Backend
Take the exported code and drop it into an Express application. The architecture is straightforward, but the execution loop is the critical piece.
Set up a POST endpoint—perhaps /chat—that accepts the user’s message and any session history. Forward these to the Gemma 4 endpoint, which you can hit via an OpenAI-compatible API or Google’s own inference endpoint depending on your hosting choice.
The response from the model falls into one of two categories. Either it is a final text message, or it contains a tool_call requesting data. When you receive a tool call, execute the corresponding function against your backend. Query the database for the balance. Hit the payment processor for the bill status. Append the tool result to the conversation history as a new message with the role tool, and send the entire updated array back to Gemma 4.
Repeat this loop until the model returns a final text answer. That answer will be grounded in the real data you supplied. Express makes this easy to coordinate because each pass through the loop is just another HTTP request, and you can async/await the tool execution cleanly.
During early development, back these tool calls with mock data. A simple JavaScript object mapping sample account IDs to balances is enough to prove the loop works. The point is to validate the interaction pattern before integrating with brittle third-party banking APIs.
From Prototype to Production
A working prototype is not production banking infrastructure, but the path from one to the other is clear.
Replace the mock data with real core banking APIs. Connect your get_balance tool to the ledger system over REST or gRPC. Hook pay_bill into your actual payment switch. When you do this, you do not need to change the model or the conversation logic; you only swap the implementation of the tool handlers.
Add Redis for session management. Conversational state in banking is sensitive and regulated. You need to store message histories securely, expire them after a set timeout, and ensure that a user’s session cannot leak across requests. Redis handles this with TTL policies and fast key lookups.
When traffic grows, moveInference to vLLM. AI Studio is excellent for prototyping, but self-hosted inference with vLLM on GPU clusters gives you control over latency, batching, and cost at scale. Gemma 4 runs efficiently under vLLM, and the tool-calling behavior remains identical.
The Real Takeaway
Building a trustworthy fintech agent is less about model size and more about architectural constraints. Gemma 4 provides enough reasoning power to parse code-switched Nigerian Pidgin and route complex intents, but the safety comes from the tool loop. Every balance is fetched live. Every bill payment is confirmed by an external system. Nothing is invented.
Start in the browser with AI Studio, harden the logic in an Express loop, and swap in real banking infrastructure once the conversation flows are bulletproof. That is how you ship a bot people can actually trust with their money.
Source: Building a Full Gemma 4 Google AI Studio Project: A Fintech Support Agent
Optional learning community: GyaanSetu AI on Telegram