Бот поддержки, который выдумывает остатки на счетах, в цифровом банке — это не просто бесполезно. Это опасно. Финансовые разговоры требуют точных цифр, проверенных получателей платежей и аудиторского следа для каждого утверждения. Большие языковые модели отлично справляются с ведением диалога, но они склонны к галлюцинациям. Когда пользователь спрашивает: «Сколько осталось на моем счету?», модель должна обращаться к базе данных, а не к воображению. Именно это обеспечивает вызов функций (function calling), и это основа данного проекта.
Gemma 4 от Google предоставляет разработчикам мощную модель с 31 миллиардом параметров, которая может следовать сложным инструкциям и вести естественный диалог, в том числе на региональных диалектах. В сочетании с Google AI Studio она превращается в среду для быстрого прототипирования, где вы можете определять инструменты, тестировать пограничные случаи и экспортировать рабочий JavaScript, прежде чем приступать к настройке сервера. Цель здесь — создать финтех-агента поддержки, который проверяет остатки на счетах, отслеживает статус транзакций и оплачивает счета. Что крайне важно, он отвечает на нигерийском пиджине, если пользователь пишет на нем, подстраиваясь под тон, но никогда не импровизирует в финансовых фактах.
Почему вызов функций (function calling) важен для финансовых ботов
Без вызова функций языковая модель воспринимает каждый вопрос как упражнение по творческому письму. Попросите её назвать баланс, и она может выдумать правдоподобную цифру, основанную на закономерностях в её обучающих данных. Такой сценарий отказа неприемлем, когда речь идет о реальных деньгах.
Вызов функций меняет направление потока данных. Задача модели — не знать баланс. Её задача — распознать намерение, выбрать правильный инструмент и извлечь параметры. Когда пользователь пишет «Проверь мой баланс», Gemma 4 выдает структурированный JSON-запрос — что-то вроде вызова get_balance с параметром account_id. Ваш бэкенд выполняет этот вызов к основной банковской системе, получает реальную цифру и передает её обратно в диалог. Только после этого модель генерирует предложение для пользователя. Каждый ответ является результатом вызова инструмента на бэкенде. Поскольку доступ модели ограничен внешней логикой, галлюцинации прекращаются на границе API.
Этот паттерн также создает четкие аудиторские следы. Каждый запрос инструмента и соответствующий ему результат записываются в истории сообщений. Регуляторы и отделы рисков могут проверить, когда именно был проверен баланс и какую цифру получил пользователь.
Проектирование агента в Google AI Studio
Рабочий процесс начинается в Google AI Studio. Выберите gemma-4-31b-it — вариант, настроенный на выполнение инструкций (instruct-tuned) и оптимизированный для диалога и следования указаниям.
Далее напишите системные инструкции, которые устанавливают жесткие границы. Для цифрового банка тон должен быть профессиональным, прямым и спокойным. Но инструкции должны идти дальше. Явно скажите модели, что она никогда не оценивает данные счета, никогда не предполагает статус транзакции и никогда не завершает оплату счета без подтверждения результата работы инструмента. Если пользователь пишет на нигерийском пиджине, модель должна отвечать на нигерийском пиджине. Если пользователь переходит на английский, модель следует за ним. В системном промпте вы кодируете политику доверия и безопасности простым языком.
Затем определите схемы инструментов. Думайте о них как о контрактах между моделью и вашим бэкендом. Вам понадобятся как минимум три:
get_balance
Параметры:account_id(string, required)
Возвращает: текущий баланс и валюту.get_transaction_status
Параметры:transaction_reference(string, required)
Возвращает: статус, такой как pending, completed или failed, а также временную метку.pay_bill
Параметры:biller_code(string, required),amount(number, required),account_pin(string, optional в зависимости от вашего процесса)
Возвращает: справочный номер подтверждения или сообщение об ошибке.
Каждая схема использует стандартный формат JSON, описывающий имя функции, описание и свойства параметров. Поля описания имеют огромное значение. Пишите их так, чтобы модель понимала, когда нужно вызывать каждый инструмент. Неоднозначные описания приводят к неправильному выбору инструмента, поэтому будьте конкретны: «Используйте get_balance, когда пользователь хочет узнать текущий баланс своего счета. Не используйте его для истории транзакций».
Прототипирование в браузере
Прежде чем писать хотя бы один маршрут Express, протестируйте весь поток разговора в панели чата AI Studio. Это сэкономит вам дни переделок на бэкенде. Введите запрос на нигерийском пиджине: «Wetin remain inside my account?». Посмотрите, правильно ли Gemma 4 выдает вызов get_balance или пытается ответить, используя обучающие данные. Если она ошибется в параметрах — например, использует account_number вместо account_id — вы сможете исправить описание схемы прямо там.
Test the failure modes too. Ask for a transaction status without providing a reference number. A well-instructed model should either ask the user for the missing parameter or call the tool with what it has and let the backend return a validation error. You want to see these behaviors in the sandbox, not in production.
Once the prompts and schemas behave correctly, export the JavaScript code. AI Studio generates a clean snippet that structures the API request with your system prompt, user message, and tool definitions. This becomes the foundation of your backend logic.
Wiring Up the Express Backend
Take the exported code and drop it into an Express application. The architecture is straightforward, but the execution loop is the critical piece.
Set up a POST endpoint—perhaps /chat—that accepts the user’s message and any session history. Forward these to the Gemma 4 endpoint, which you can hit via an OpenAI-compatible API or Google’s own inference endpoint depending on your hosting choice.
The response from the model falls into one of two categories. Either it is a final text message, or it contains a tool_call requesting data. When you receive a tool call, execute the corresponding function against your backend. Query the database for the balance. Hit the payment processor for the bill status. Append the tool result to the conversation history as a new message with the role tool, and send the entire updated array back to Gemma 4.
Repeat this loop until the model returns a final text answer. That answer will be grounded in the real data you supplied. Express makes this easy to coordinate because each pass through the loop is just another HTTP request, and you can async/await the tool execution cleanly.
During early development, back these tool calls with mock data. A simple JavaScript object mapping sample account IDs to balances is enough to prove the loop works. The point is to validate the interaction pattern before integrating with brittle third-party banking APIs.
From Prototype to Production
A working prototype is not production banking infrastructure, but the path from one to the other is clear.
Replace the mock data with real core banking APIs. Connect your get_balance tool to the ledger system over REST or gRPC. Hook pay_bill into your actual payment switch. When you do this, you do not need to change the model or the conversation logic; you only swap the implementation of the tool handlers.
Add Redis for session management. Conversational state in banking is sensitive and regulated. You need to store message histories securely, expire them after a set timeout, and ensure that a user’s session cannot leak across requests. Redis handles this with TTL policies and fast key lookups.
When traffic grows, moveInference to vLLM. AI Studio is excellent for prototyping, but self-hosted inference with vLLM on GPU clusters gives you control over latency, batching, and cost at scale. Gemma 4 runs efficiently under vLLM, and the tool-calling behavior remains identical.
The Real Takeaway
Building a trustworthy fintech agent is less about model size and more about architectural constraints. Gemma 4 provides enough reasoning power to parse code-switched Nigerian Pidgin and route complex intents, but the safety comes from the tool loop. Every balance is fetched live. Every bill payment is confirmed by an external system. Nothing is invented.
Start in the browser with AI Studio, harden the logic in an Express loop, and swap in real banking infrastructure once the conversation flows are bulletproof. That is how you ship a bot people can actually trust with their money.
Source: Building a Full Gemma 4 Google AI Studio Project: A Fintech Support Agent
Optional learning community: GyaanSetu AI on Telegram