مایکروسافت Foundry Toolbox و قابلیت همراه آن یعنی Tool Search را راه‌اندازی کرد؛ یک سرویس تک‌نقطه (single-endpoint) که به توسعه‌دهندگان اجازه می‌دهد بدون نیاز به اتصال جداگانه هر عامل (agent)، صدها ابزار را به عوامل هوش مصنوعی متصل کنند. Tool Search در کاتالوگی با بیش از ۶۰۰ ابزار، مصرف توکن‌های ورودی را تا ۹۴٪ کاهش داد.

چرا یک جعبه‌ابزار مرکزی اهمیت دارد

عوامل هوش مصنوعی برای پاسخگویی به درخواست‌های کاربران به قابلیت‌های خارجی (مانند پایگاه‌های داده، CRMها و پلتفرم‌های تحلیلی) نیاز دارند. تا پیش از این، بسیاری از سازمان‌ها هر عامل را مستقیماً به APIهای مورد نیاز متصل می‌کردند. مهندسان مجبور بودند کدهای پیکربندی اعتبارنامه‌ها، اعمال سیاست‌ها و مدیریت خطا را برای هر عامل جدید تکرار کنند. نتیجه، شبکه‌ای پیچیده از تنظیمات تکراری بود که بازرسی آن دشوار و مستعد شکاف‌های امنیتی بود.

Foundry Toolbox این رویکرد پراکنده را با یک لایه سرویس یکپارچه جایگزین می‌کند. به‌جای اینکه ده‌ها عامل هر کدام به ده‌ها نقطه اتصال (endpoint) مجزا اشاره کنند، همه عوامل با یک نقطه اتصال واحد در «جعبه‌ابزار» (toolbox) صحبت می‌کنند. جعبه‌ابزار مسئولیت مدیریت نسخه‌بندی، رشته‌های اتصال (connection strings) و سیاست‌های امنیتی را بر عهده دارد و به تیم‌ها اجازه می‌دهد کل اکوسیستم ابزار را از یک نقطه مدیریت کنند. سازمان‌های بزرگی که ده‌ها عامل را در واحدهای مختلف کسب‌وکار اجرا می‌کنند، بلافاصله شاهد کاهش هزینه‌های عملیاتی خواهند بود.

کاتالوگ‌های بزرگِ ابزار، یک هزینه پنهان ایجاد می‌کنند: مصرف توکن. وقتی یک مدل زبانی پرامپتی دریافت می‌کند که لیست تمام ابزارهای موجود را شامل می‌شود، پنجره بافت (context window) حجیم شده و توکن‌هایی را مصرف می‌کند که می‌توانست صرف استدلال یا تولید متن برای کاربر شود. Tool Search این مشکل را از ریشه حل می‌کند.

وقتی یک عامل Tool Search را فعال می‌کند، مدل ابتدا یک ابزار متا (meta-tool) به نام tool_search را فراخوانی می‌کند و نیاز خود را به زبان انگلیسی ساده توصیف می‌کند (مثلاً: “find the latest sales forecast for region X”). سپس سرویس، فهرستی کوتاه و رتبه‌بندی‌شده از ابزارهای کاندید که با آن قصد کاربر مطابقت دارند، بازمی‌گرداند. در مرحله بعد، مدل با فراخوانی call_tool، مناسب‌ترین مورد را از آن لیست انتخاب می‌کند. با نمایش تنها زیرمجموعه مرتبط، پرامپت بسیار کوچک باقی می‌ماند و در بنچمارک ۶۰۰ ابزاری، تا ۹۴٪ در مصرف توکن‌های ورودی صرفه‌جویی می‌شود.

این گردش کار دو مرحله‌ای دقت انتخاب را نیز بهبود می‌بخشد. در همان بنچمارک، مدل در مقایسه با زمانی که مجبور بود در کل کاتالوگ جستجو کند، بسیار بیشتر توانست ابزار صحیح را انتخاب کند که این امر باعث کاهش فراخوانی‌های اشتباه و تلاش‌های مجدد (retries) غیرضروری می‌شود.

چگونه بیشترین بهره را از جعبه‌ابزار ببریم

  • متادیتای عالی بنویسید – Tool Search به نام و توضیحات هر ابزار متکی است. برچسب‌های مبهم مانند “Get data” اطلاعات کمی برای کار مدل فراهم می‌کنند. عناوین دقیق مانند “Retrieve customer renewal risks and contacts” موتور جستجو را به سمت تطابق صحیح هدایت می‌کنند.
  • ابزارهای پرکاربرد را پین (Pin) کنید – اگر یک عامل در هر مرحله همیشه به یک ابزار خاص نیاز دارد، آن ابزار را در پیکربندی عامل پین کنید. پین کردن باعث حذف مرحله جستجو شده و از این طریق تأخیر (latency) و مصرف توکن را کاهش می‌دهد.
  • بر اساس قابلیت سازماندهی کنید – به‌جای یک جعبه‌ابزار یکپارچه و عظیم که کل سازمان را پوشش دهد، ابزارها را به گروه‌های منطقی تقسیم کنید (مثلاً sales-tools، CRM-tools). گروه‌های کوچک‌تر، دامنه اثر (blast radius) پیکربندی‌های اشتباه را محدود کرده و نتایج جستجو را متمرکز نگه می‌دارند.
  • قبل از استقرار، تست کنید – نسخه‌های جعبه‌ابزار تغییرناپذیر (immutable) هستند؛ وقتی یک نسخه به عنوان نسخه پیش‌فرض تعیین شود، همه عوامل شروع به استفاده از آن می‌کنند. از developer endpoint استفاده کنید تا یک نسخه جدید را به‌صورت مجزا، پیش از انتشار در سطح کل شرکت، اعتبارسنجی کنید.

این روش‌ها زمانی بیشترین اهمیت را دارند که تعداد ابزارها به صدها مورد برسد. برای یک عامل واحد با چند ابزار کاربردی، اتصالات مستقیم ممکن است همچنان ساده‌ترین راه باشد. اما با افزایش تعداد تیم‌ها و گسترش جعبه‌ابزار، مدل متمرکز با کاهش تکرار، امنیت بالاتر و صرفه‌جویی قابل‌اندازه‌گیری در توکن، ارزش خود را ثابت می‌کند.

خلاصه کلام: Foundry Toolbox و Tool Search راهی برای مهار پراکندگی ابزارها، کاهش اتلاف توکن تا ۹۴٪ و اعمال سیاست‌های امنیتی یکپارچه در استقرارهای بزرگ هوش مصنوعی فراهم می‌کنند؛ و همه این‌ها تنها با افزودن یک لایه سرویس واحد و مدیریت‌شده انجام می‌شود. تیم‌هایی که توانایی مدیریت تنظیمات اولیه و انضباط در نوشتن متادیتا را دارند، از یک اکوسیستم عاملِ چابک‌تر و قابل‌کنترل‌تر بهره‌مند خواهند شد.