Microsoft ने Foundry Toolbox आणि त्याचे सोबती वैशिष्ट्य Tool Search लाँच केले आहे. ही एक single-endpoint सेवा आहे जी डेव्हलपर्सना प्रत्येक एजंटला स्वतंत्रपणे जोडण्याऐवजी शेकडो टूल्सना AI एजंट्सशी जोडण्याची सुविधा देते. जेव्हा कॅटलॉगमध्ये ६०० पेक्षा जास्त टूल्स होते, तेव्हा Tool Search मुळे इनपुट टोकन्समध्ये ९४% पर्यंत कपात झाली.

मध्यवर्ती (central) toolbox का महत्त्वाचे आहे

वापरकर्त्यांच्या विनंत्या पूर्ण करण्यासाठी AI एजंट्सना बाह्य क्षमतांची—जसे की डेटाबेस, CRMs, ॲनालिटिक्स प्लॅटफॉर्म्स—गरज असते. आतापर्यंत अनेक संस्था प्रत्येक एजंटला थेट आवश्यक असलेल्या APIs शी जोडत असत. इंजिनिअर्सना प्रत्येक नवीन एजंटसाठी क्रेडेंशियल कॉन्फिगरेशन, पॉलिसी एन्फोर्समेंट आणि एरर-हँडलिंग कोड वारंवार लिहावा लागत असे. याचा परिणाम म्हणजे डुप्लिकेट सेटिंग्सचे एक गुंतागुंतीचे जाळे तयार झाले, ज्याचे ऑडिट करणे कठीण होते आणि ज्यामध्ये सुरक्षेच्या त्रुटी राहण्याची शक्यता जास्त होती.

Foundry Toolbox या विखुरलेल्या पद्धतीला एका युनिफाइड सर्व्हिस लेयरने (unified service layer) बदलून टाकते. डझनभर एजंट्सना डझनभर वेगवेगळ्या एंडपॉइंट्सकडे निर्देशित करण्याऐवजी, सर्व एजंट्स एकाच “toolbox” एंडपॉइंटशी संवाद साधतात. Toolbox कडे व्हर्जनिंग, कनेक्शन स्ट्रिंग्स आणि सुरक्षा धोरणांची (security policies) जबाबदारी असते, ज्यामुळे टीम्स संपूर्ण टूल इकोसिस्टम एकाच ठिकाणाहून व्यवस्थापित करू शकतात. अनेक बिझनेस युनिट्समध्ये डझनभर एजंट्स चालवणाऱ्या कंपन्यांना यामुळे ऑपरेशनल ओव्हरहेडमध्ये (operational overhead) त्वरित घट दिसून येते.

मोठ्या टूल कॅटलॉगमुळे एक छुपा खर्च निर्माण होतो: टोकनचा वापर. जेव्हा एखादे लँग्वेज मॉडेल अशा प्रॉम्प्टला प्रतिसाद देते ज्यामध्ये उपलब्ध असलेल्या प्रत्येक टूलची यादी असते, तेव्हा कॉन्टेक्स्ट विंडो (context window) वाढते, ज्यामुळे तर्क (reasoning) किंवा वापरकर्त्याला दिसणाऱ्या मजकुरासाठी वापरता येण्याजोग्या टोकन्सचा अपव्यय होतो. Tool Search या समस्येवर मूळ पातळीवर उपाय करते.

जेव्हा एखादा एजंट Tool Search सक्षम करतो, तेव्हा मॉडेल प्रथम tool_search नावाच्या मेटा-टूलला कॉल करते आणि त्याला साध्या इंग्रजीमध्ये काय हवे आहे ते सांगते (उदा. “find the latest sales forecast for region X”). ही सेवा त्या हेतूशी जुळणाऱ्या संभाव्य टूल्सची एक छोटी आणि रँक केलेली यादी परत करते. त्यानंतर मॉडेल त्या यादीतून सर्वात योग्य पर्याय निवडून call_tool ला कॉल करते. केवळ संबंधित उपसंच (subset) समोर आणल्यामुळे, प्रॉम्प्ट लहान राहतो, ज्यामुळे ६००-टूल बेंचमार्कमध्ये इनपुट टोकन्समध्ये ९४% पर्यंत बचत होते.

ही दोन-टप्प्यांची कार्यप्रणाली (workflow) निवडीची अचूकता देखील सुधारते. त्याच बेंचमार्कमध्ये, मॉडेलने पूर्ण कॅटलॉगमधून शोध घेण्यापेक्षा अधिक वेळा योग्य टूल निवडले, ज्यामुळे चुकीचे कॉल्स आणि अनावश्यक प्रयत्न (retries) कमी झाले.

Toolbox चा जास्तीत जास्त फायदा कसा घ्यावा

  • उत्तम मेटाडेटा लिहा – Tool Search प्रत्येक टूलचे नाव आणि वर्णनावर अवलंबून असते. “Get data” सारखी अस्पष्ट लेबल्स मॉडेलला फारशी माहिती देत नाहीत. “Retrieve customer renewal risks and contacts” सारखी सविस्तर शीर्षके सर्च इंजिनला योग्य मॅच शोधण्यास मदत करतात.
  • वारंवार वापरली जाणारी टूल्स पिन करा – जर एखाद्या एजंटला प्रत्येक वेळी एका विशिष्ट युटिलिटीची गरज असेल, तर ते टूल एजंटच्या कॉन्फिगरेशनमध्ये पिन करा. पिन केल्यामुळे सर्चचा टप्पा वगळला जातो, ज्यामुळे लॅटन्सी (latency) आणि टोकनचा वापर कमी होतो.
  • क्षमतेनुसार (capability) वर्गीकरण करा – संपूर्ण एंटरप्राइझ कव्हर करणाऱ्या एकाच मोठ्या (monolithic) टूलबॉक्सऐवजी, टूल्सना तार्किक गटांमध्ये विभागून घ्या (उदा. sales-tools, CRM-tools). लहान गटामुळे चुकीच्या कॉन्फिगरेशनचा परिणाम मर्यादित राहतो आणि सर्च रिझल्ट्सवर लक्ष केंद्रित करणे सोपे जाते.
  • डिप्लॉय करण्यापूर्वी चाचणी करा – Toolbox चे व्हर्जन अपरिवर्तनीय (immutable) असतात; एकदा एखादे व्हर्जन डिफॉल्ट म्हणून सेट केले की, सर्व एजंट्स त्याचा वापर करू लागतात. संपूर्ण कंपनीमध्ये लागू करण्यापूर्वी नवीन व्हर्जन स्वतंत्रपणे तपासण्यासाठी डेव्हलपर एंडपॉइंटचा वापर करा.

जेव्हा टूल्सची संख्या शेकडोंमध्ये पोहोचते, तेव्हा या पद्धती अत्यंत महत्त्वाच्या ठरतात. काही मोजक्या युटिलिटीज असलेल्या एकाच एजंटसाठी, थेट कनेक्शन हा अजूनही सर्वात सोपा मार्ग असू शकतो. परंतु जसे टीम्स वाढतात आणि टूलबॉक्स विस्तारतो, तसे हे मध्यवर्ती मॉडेल कमी झालेली डुप्लिकेशन, अधिक मजबूत सुरक्षा आणि टोकनच्या लक्षणीय बचतीमुळे फायदेशीर ठरते.

थोडक्यात सांगायचे तर: Foundry Toolbox आणि Tool Search मोठ्या AI उपयोजनांना (deployments) टूल्सचा विस्तार नियंत्रित करण्याची, टोकनचा अपव्यय ९४% पर्यंत कमी करण्याची आणि सुसंगत सुरक्षा धोरणे लागू करण्याची सुविधा देतात—हे सर्व एकाच, सुव्यवस्थित सर्व्हिस लेयरमुळे शक्य होते. जे टीम्स सुरुवातीची सेटअप आणि मेटाडेटा शिस्त पाळू शकतात, त्यांना अधिक कार्यक्षम आणि नियंत्रित एजंट इकोसिस्टमचा फायदा होईल.