Microsoft ได้เปิดตัว Foundry Toolbox พร้อมกับฟีเจอร์คู่ใจอย่าง Tool Search ซึ่งเป็นบริการแบบ single-endpoint ที่ช่วยให้นักพัฒนาสามารถเชื่อมต่อ AI agents เข้ากับเครื่องมือหลายร้อยรายการได้โดยไม่ต้องเชื่อมต่อแต่ละ agent แยกกันทีละตัว โดย Tool Search สามารถลดจำนวน input tokens ได้สูงสุดถึง 94% เมื่อมีรายการเครื่องมือในแคตตาล็อกมากกว่า 600 รายการ

ทำไม toolbox ส่วนกลางจึงมีความสำคัญ

AI agents จำเป็นต้องมีความสามารถภายนอก เช่น ฐานข้อมูล, CRM หรือแพลตฟอร์มวิเคราะห์ข้อมูล เพื่อตอบสนองความต้องการของผู้ใช้ ที่ผ่านมาหลายองค์กรเชื่อมต่อแต่ละ agent เข้ากับ API ที่จำเป็นโดยตรง ทำให้นักวิศวกรต้องเขียนโค้ดกำหนดค่าข้อมูลประจำตัว (credential configuration), การบังคับใช้โยบาย (policy enforcement) และการจัดการข้อผิดพลาด (error-handling) ซ้ำไปซ้ำมาสำหรับทุก agent ใหม่ ผลลัพธ์ที่ได้คือเครือข่ายการตั้งค่าที่ซ้ำซ้อนและยุ่งเหยิง ซึ่งตรวจสอบได้ยากและเสี่ยงต่อช่องโหว่ด้านความปลอดภัย

Foundry Toolbox เข้ามาแทนที่การทำงานแบบแยกส่วนเหล่านั้นด้วยเลเยอร์บริการที่เป็นหนึ่งเดียว (unified service layer) แทนที่จะมี agent จำนวนมากที่ต่างคนต่างชี้ไปยัง endpoint แยกกันหลายสิบแห่ง ทุก agent จะสื่อสารผ่าน endpoint ของ “toolbox” เพียงแห่งเดียว โดย toolbox จะเป็นผู้ดูแลเรื่องการจัดการเวอร์ชัน (versioning), connection strings และนโยบายความปลอดภัย ช่วยให้ทีมสามารถจัดการระบบนิเวศของเครื่องมือทั้งหมดได้จากที่เดียว องค์กรที่รัน agent จำนวนมากในหลายหน่วยธุรกิจจะเห็นภาระงานด้านการดำเนินงาน (operational overhead) ลดลงทันที

แคตตาล็อกเครื่องมือขนาดใหญ่สร้างต้นทุนแฝง นั่นคือการใช้งาน token เมื่อโมเดลภาษาได้รับ prompt ที่ระบุรายการเครื่องมือทั้งหมดที่มีอยู่ context window จะขยายใหญ่ขึ้น ทำให้สิ้นเปลือง token ที่ควรจะนำไปใช้ในการใช้เหตุผล (reasoning) หรือข้อความที่แสดงแก่ผู้ใช้ Tool Search จึงเข้ามาแก้ปัญหานี้ที่ต้นเหตุ

เมื่อ agent เปิดใช้งาน Tool Search โมเดลจะเรียกใช้ meta-tool ที่ชื่อว่า tool_search ก่อน โดยอธิบายสิ่งที่ต้องการเป็นภาษาอังกฤษแบบธรรมดา (เช่น “find the latest sales forecast for region X”) จากนั้นบริการจะส่งรายการเครื่องมือที่มีศักยภาพซึ่งตรงกับความต้องการกลับมาในรูปแบบรายการสั้นๆ ที่มีการจัดลำดับความสำคัญ แล้วโมเดลจึงเรียกใช้ call_tool เพื่อเลือกรายการที่เหมาะสมที่สุดจากรายการนั้น การเปิดเผยเฉพาะชุดข้อมูลที่เกี่ยวข้องเท่านั้นช่วยให้ prompt มีขนาดเล็กมาก ซึ่งช่วยประหยัด input tokens ได้ถึง 94% จากการทดสอบมาตรฐานด้วยเครื่องมือ 600 รายการ

เวิร์กโฟลว์แบบสองขั้นตอนยังช่วยเพิ่มความแม่นยำในการเลือกเครื่องมืออีกด้วย ในการทดสอบมาตรฐานเดียวกันนี้ โมเดลสามารถเลือกเครื่องมือที่ถูกต้องได้บ่อยกว่าเมื่อเทียบกับตอนที่ต้องค้นหาผ่านแคตตาล็อกทั้งหมด ซึ่งช่วยลดการเรียกใช้ที่ผิดพลาด (false calls) และการลองใหม่ที่ไม่จำเป็น

วิธีการใช้งาน toolbox ให้เกิดประโยชน์สูงสุด

  • เขียน metadata ให้ดี – Tool Search อาศัยชื่อและคำอธิบายของแต่ละเครื่องมือ ป้ายกำกับที่คลุมเครืออย่าง “Get data” จะให้ข้อมูลแก่โมเดลน้อยเกินไป การใช้ชื่อที่ละเอียด เช่น “Retrieve customer renewal risks and contacts” จะช่วยนำทาง search engine ไปยังสิ่งที่ตรงกันได้อย่างถูกต้อง
  • ปักหมุดเครื่องมือที่ใช้บ่อย – หาก agent จำเป็นต้องใช้เครื่องมือเฉพาะอย่างในทุกๆ รอบ ให้ปักหมุดเครื่องมือนั้นไว้ในการตั้งค่าของ agent การปักหมุดจะช่วยข้ามขั้นตอนการค้นหา ช่วยลดความหน่วง (latency) และการใช้ token
  • จัดกลุ่มตามความสามารถ – แทนที่จะใช้ toolbox ขนาดใหญ่เพียงอันเดียวที่ครอบคลุมทั้งองค์กร ให้แบ่งเครื่องมือออกเป็นกลุ่มตามตรรกะ (เช่น sales-tools, CRM-tools) กลุ่มที่เล็กลงจะช่วยจำกัดขอบเขตความเสียหาย (blast radius) จากการตั้งค่าที่ผิดพลาด และช่วยให้ผลการค้นหามีความเฉพาะเจาะจงมากขึ้น
  • ทดสอบก่อนใช้งานจริง – เวอร์ชันของ toolbox ไม่สามารถเปลี่ยนแปลงได้ (immutable) เมื่อกำหนดเวอร์ชันใดเป็นค่าเริ่มต้นแล้ว agent ทั้งหมดจะเริ่มใช้งานเวอร์ชันนั้นทันที ควรใช้ developer endpoint เพื่อตรวจสอบความถูกต้องของเวอร์ชันใหม่แยกต่างหากก่อนที่จะเริ่มใช้งานทั่วทั้งบริษัท

แนวทางปฏิบัติเหล่านี้จะมีความสำคัญมากที่สุดเมื่อจำนวนเครื่องมือเพิ่มขึ้นเป็นหลักร้อย สำหรับ agent เพียงตัวเดียวที่มีเครื่องมือเพียงไม่กี่อย่าง การเชื่อมต่อโดยตรงอาจยังคงเป็นวิธีที่ง่ายที่สุด แต่เมื่อทีมขยายตัวขึ้นและ toolbox มีขนาดใหญ่ขึ้น โมเดลแบบรวมศูนย์จะให้ความคุ้มค่าผ่านการลดความซ้ำซ้อน ความปลอดภัยที่รัดกุมยิ่งขึ้น และการประหยัด token ที่วัดผลได้

สรุป: Foundry Toolbox และ Tool Search ช่วยให้การปรับใช้ AI ขนาดใหญ่สามารถควบคุมการขยายตัวของเครื่องมือที่มากเกินไป (tool sprawl) ลดการสิ้นเปลือง token ได้สูงสุดถึง 94% และบังคับใช้นโยบายความปลอดภัยที่สอดคล้องกัน ทั้งหมดนี้ทำได้เพียงแค่การเพิ่มเลเยอร์บริการที่จัดการได้อย่างดีเพียงชั้นเดียว ทีมที่สามารถจัดการกับการตั้งค่าเริ่มต้นและมีวินัยในการทำ metadata จะได้รับประโยชน์จากระบบนิเวศของ agent ที่คล่องตัวและควบคุมได้ง่ายยิ่งขึ้น