Microsoft melancarkan Foundry Toolbox dan ciri pendampingnya, Tool Search, sebuah perkhidmatan titik akhir tunggal (single-endpoint) yang membolehkan pembangun menyambungkan ejen AI kepada ratusan alatan tanpa perlu melakukan penyambungan (wiring) bagi setiap ejen secara individu. Tool Search mengurangkan token input sehingga 94% apabila katalog mengandungi lebih daripada 600 alatan.

Mengapa kotak alatan (toolbox) berpusat itu penting

Ejen AI memerlukan keupayaan luaran—pangkalan data, CRM, platform analitik—untuk memenuhi permintaan pengguna. Setakat ini, banyak organisasi menyambungkan setiap ejen secara terus ke API yang diperlukan. Jurutera terpaksa mengulang konfigurasi kredensial, penguatkuasaan polisi, dan kod pengendalian ralat bagi setiap ejen baharu. Hasilnya ialah rangkaian tetapan pendua yang berselirat, sukar untuk diaudit, dan terdedah kepada jurang keselamatan.

Foundry Toolbox menggantikan pendekatan tampal-selia (patchwork) tersebut dengan lapisan perkhidmatan yang bersatu. Daripada mempunyai berpuluh-puluh ejen yang masing-masing merujuk kepada berpuluh-puluh titik akhir yang berbeza, semua ejen berkomunikasi dengan satu titik akhir “toolbox” sahaja. Toolbox tersebut menguruskan versi, rentetan sambungan (connection strings), dan polisi keselamatan, membolehkan pasukan menguruskan keseluruhan ekosistem alatan dari satu tempat. Perusahaan yang menjalankan berpuluh-puluh ejen merentasi pelbagai unit perniagaan akan melihat kos operasi (operational overhead) menurun dengan serta-merta.

Katalog alatan yang besar mewujudkan kos tersembunyi: penggunaan token. Apabila model bahasa menerima prom yang menyenaraikan setiap alatan yang tersedia, tetingkap konteks (context window) akan berkembang, menghabiskan token yang sepatutnya boleh digunakan untuk penaakulan atau teks berhadapan pengguna. Tool Search menangani masalah ini dari puncanya.

Apabila ejen mengaktifkan Tool Search, model tersebut terlebih dahulu memanggil meta-alatan yang dipanggil tool_search, dengan menerangkan dalam bahasa Inggeris mudah tentang apa yang diperlukannya (contohnya, “find the latest sales forecast for region X”). Perkhidmatan tersebut akan mengembalikan senarai pendek alatan calon yang disusun mengikut kedudukan yang sepadan dengan niat tersebut. Model kemudian memanggil call_tool, dengan memilih entri yang paling sesuai daripada senarai itu. Dengan hanya mendedahkan subset yang relevan, prom kekal kecil, sekali gus menjimatkan sehingga 94% token input dalam penanda aras 600-alatan.

Aliran kerja dua langkah ini juga meningkatkan ketepatan pemilihan. Dalam penanda aras yang sama, model tersebut memilih alatan yang betul dengan lebih kerap berbanding apabila ia dipaksa untuk menyaring keseluruhan katalog, sekali gus mengurangkan panggilan palsu dan cubaan semula yang tidak perlu.

Cara untuk memanfaatkan toolbox sepenuhnya

  • Tulis metadata yang hebat – Tool Search bergantung pada nama dan keterangan setiap alatan. Label yang samar seperti “Get data” memberikan sedikit maklumat untuk diproses oleh model. Tajuk yang terperinci seperti “Retrieve customer renewal risks and contacts” akan membimbing enjin carian kepada padanan yang betul.
  • Pin alatan yang kerap digunakan – Jika ejen sentiasa memerlukan utiliti tertentu pada setiap pusingan, pin alatan tersebut pada konfigurasi ejen. Tindakan memin ini akan melangkau langkah carian, sekali gus mengurangkan kependaman (latency) dan penggunaan token.
  • Susun mengikut keupayaan – Daripada menggunakan toolbox monolitik yang merangkumi seluruh perusahaan, pecahkan alatan kepada kumpulan logik (contohnya, sales-tools, CRM-tools). Kumpulan yang lebih kecil mengehadkan radius impak (blast radius) akibat salah konfigurasi dan memastikan hasil carian kekal fokus.
  • Uji sebelum anda melancarkan – Versi toolbox adalah tidak boleh diubah (immutable); sebaik sahaja sesuatu versi ditetapkan sebagai lalai, semua ejen akan mula menggunakannya. Gunakan titik akhir pembangun untuk mengesahkan versi baharu secara berasingan sebelum melancarkannya ke seluruh syarikat.

Amalan ini paling penting apabila jumlah alatan meningkat kepada ratusan. Bagi ejen tunggal dengan beberapa utiliti, sambungan terus mungkin masih merupakan laluan yang paling mudah. Namun, apabila pasukan bertambah ramai dan toolbox berkembang, model berpusat ini akan memberikan pulangan melalui pengurangan penduaan, keselamatan yang lebih ketat, dan penjimatan token yang boleh diukur.

Kesimpulannya: Foundry Toolbox dan Tool Search memberikan cara kepada penggunaan AI berskala besar untuk mengawal penyebaran alatan (tool sprawl), mengurangkan pembaziran token sehingga 94%, dan menguatkuasakan polisi keselamatan yang konsisten—semuanya dengan menambah satu lapisan perkhidmatan tunggal yang diuruskan dengan baik. Pasukan yang mampu melakukan persediaan awal dan disiplin metadata akan mendapat ekosistem ejen yang lebih ramping dan lebih mudah dikawal.