ഡെവലപ്പർമാർക്ക് ഓരോ ഏജന്റിനെയും പ്രത്യേകം കണക്ട് ചെയ്യാതെ തന്നെ നൂറുകണക്കിന് ടൂളുകളുമായി AI ഏജന്റുകളെ ബന്ധിപ്പിക്കാൻ സഹായിക്കുന്ന ഒരു സിംഗിൾ-എൻഡ്പോയിന്റ് സർവീസായ Foundry Toolbox-ഉം അതിന്റെ അനുബന്ധ ഫീച്ചറായ Tool Search-ഉം മൈക്രോസോഫ്റ്റ് പുറത്തിറക്കി. 600-ലധികം ടൂളുകൾ ഉള്ള ഒരു കാറ്റലോഗിൽ, ഇൻപുട്ട് ടോക്കണുകളുടെ ഉപയോഗം 94% വരെ കുറയ്ക്കാൻ Tool Search സഹായിക്കുന്നു.

ഒരു സെൻട്രൽ ടൂൾബോക്സ് പ്രധാനമാകുന്നത് എന്തുകൊണ്ട്

ഉപയോക്താക്കളുടെ ആവശ്യങ്ങൾ നിറവേറ്റുന്നതിന് AI ഏജന്റുകൾക്ക് ഡാറ്റാബേസുകൾ, CRMs, അനലിറ്റിക്സ് പ്ലാറ്റ്‌ഫോമുകൾ എന്നിങ്ങനെയുള്ള ബാഹ്യ ശേഷികൾ ആവശ്യമാണ്. ഇതുവരെ പല സ്ഥാപനങ്ങളും ഓരോ ഏജന്റിനെയും ആവശ്യമായ API-കളുമായി നേരിട്ട് ബന്ധിപ്പിക്കുകയായിരുന്നു പതിവ്. ഓരോ പുതിയ ഏജന്റിനും വേണ്ടി എൻജിനീയർമാർക്ക് ക്രെഡൻഷ്യൽ കോൺഫിഗറേഷൻ, പോളിസി എൻഫോഴ്‌സ്‌മെന്റ്, എറർ-ഹാൻഡ്‌ലിംഗ് കോഡ് എന്നിവ വീണ്ടും വീണ്ടും എഴുതേണ്ടി വന്നു. ഇതിന്റെ ഫലമായി, ഓഡിറ്റ് ചെയ്യാൻ പ്രയാസമുള്ളതും സുരക്ഷാ വീഴ്ചകൾക്ക് സാധ്യതയുള്ളതുമായ ഡ്യൂപ്ലിക്കേറ്റ് സെറ്റിംഗുകളുടെ ഒരു സങ്കീർണ്ണമായ ശൃംഖല തന്നെ രൂപപ്പെട്ടു.

Foundry Toolbox ഈ പ്രശ്നത്തിന് പരിഹാരമായി ഒരു ഏകീകൃത സർവീസ് ലെയർ (unified service layer) നൽകുന്നു. ഡസൻ കണക്കിന് ഏജന്റുകൾ ഓരോന്നിനും പ്രത്യേകം എൻഡ്‌പോയിന്റുകൾ ഉപയോഗിക്കുന്നതിന് പകരം, എല്ലാ ഏജന്റുകളും ഒരു സിംഗിൾ “toolbox” എൻഡ്‌പോയിന്റുമായി ബന്ധപ്പെടുന്നു. വേർഷനിംഗ് (versioning), കണക്ഷൻ സ്ട്രിംഗുകൾ, സെക്യൂരിറ്റി പോളിസികൾ എന്നിവ ടൂൾബോക്സ് കൈകാര്യം ചെയ്യുന്നതിനാൽ, ടീമുകൾക്ക് മുഴുവൻ ടൂൾ ഇക്കോസിസ്റ്റവും ഒരിടത്തുനിന്ന് നിയന്ത്രിക്കാൻ സാധിക്കുന്നു. ഒന്നിലധികം ബിസിനസ് യൂണിറ്റുകളിലായി ഡസൻ കണക്കിന് ഏജന്റുകൾ പ്രവർത്തിപ്പിക്കുന്ന സംരംഭങ്ങൾക്ക് ഇതിലൂടെ പ്രവർത്തനച്ചെലവ് (operational overhead) പെട്ടെന്ന് കുറയ്ക്കാൻ സാധിക്കും.

വലിയ ടൂൾ കാറ്റലോഗുകൾ ഒരു മറഞ്ഞിരിക്കുന്ന ചിലവ് ഉണ്ടാക്കുന്നു: ടോക്കൺ ഉപയോഗം. ലഭ്യമായ എല്ലാ ടൂളുകളും ഉൾപ്പെടുത്തിക്കൊണ്ടുള്ള ഒരു പ്രോംപ്റ്റ് ഒരു ലാംഗ്വേജ് മോഡൽ സ്വീകരിക്കുമ്പോൾ, അതിന്റെ കോൺടെക്സ്റ്റ് വിൻഡോ (context window) വലുതാവുകയും, റീസണിംഗിനോ ഉപയോക്താക്കൾക്കുള്ള ടെക്സ്റ്റിനോ ഉപയോഗിക്കേണ്ട ടോക്കണുകൾ ഇതിനായി നഷ്ടപ്പെടുകയും ചെയ്യുന്നു. Tool Search ഈ പ്രശ്നത്തെ അതിന്റെ ഉറവിടത്തിൽ തന്നെ പരിഹരിക്കുന്നു.

ഒരു ഏജന്റ് Tool Search ഉപയോഗിക്കുമ്പോൾ, മോഡൽ ആദ്യം tool_search എന്ന മെറ്റാ-ടൂൾ ഉപയോഗിച്ച് തനിക്ക് എന്താണ് വേണ്ടതെന്ന് ലളിതമായ ഇംഗ്ലീഷിൽ വിവരിക്കുന്നു (ഉദാഹരണത്തിന്, “find the latest sales forecast for region X”). ഈ സേവനം ആ ആവശ്യത്തിന് അനുയോജ്യമായ ടൂളുകളുടെ ഒരു ചെറിയ പട്ടിക നൽകുന്നു. തുടർന്ന് മോഡൽ ആ പട്ടികയിൽ നിന്ന് ഏറ്റവും അനുയോജ്യമായ ടൂൾ തിരഞ്ഞെടുത്ത് call_tool ഉപയോഗിച്ച് പ്രവർത്തിപ്പിക്കുന്നു. ആവശ്യമായ ടൂളുകൾ മാത്രം ഉപയോഗിക്കുന്നതിലൂടെ പ്രോംപ്റ്റിന്റെ വലിപ്പം കുറയുകയും, 600 ടൂളുകൾ ഉള്ള സാഹചര്യത്തിൽ ഇൻപുട്ട് ടോക്കണുകൾ 94% വരെ ലാഭിക്കാൻ സാധിക്കുകയും ചെയ്യുന്നു.

ഈ രണ്ട് ഘട്ടങ്ങളുള്ള പ്രവർത്തനരീതി ടൂൾ തിരഞ്ഞെടുക്കുന്നതിലെ കൃത്യതയും വർദ്ധിപ്പിക്കുന്നു. മുഴുവൻ കാറ്റലോഗും പരിശോധിക്കേണ്ടി വരുന്നതിനേക്കാൾ കൂടുതൽ തവണ ശരിയായ ടൂൾ തിരഞ്ഞെടുക്കാൻ ഈ രീതിയിലൂടെ മോഡലിന് സാധിക്കുന്നു, ഇത് തെറ്റായ കോളുകളും അനാവശ്യമായ ശ്രമങ്ങളും കുറയ്ക്കുന്നു.

ടൂൾബോക്സിൽ നിന്ന് പരമാവധി പ്രയോജനം എങ്ങനെ നേടാം

  • മികച്ച മെറ്റാഡാറ്റ എഴുതുക – Tool Search ഓരോ ടൂളിന്റെയും പേരിനെയും വിവരണത്തെയുമാണ് ആശ്രയിക്കുന്നത്. “Get data” പോലുള്ള അവ്യക്തമായ പേരുകൾ മോഡലിന് കാര്യങ്ങൾ മനസ്സിലാക്കാൻ പ്രയാസമുണ്ടാക്കും. “Retrieve customer renewal risks and contacts” പോലുള്ള വിശദമായ തലക്കെട്ടുകൾ സെർച്ച് എഞ്ചിനെ ശരിയായ ടൂളിലേക്ക് എത്തിക്കാൻ സഹായിക്കും.
  • പതിവായി ഉപയോഗിക്കുന്ന ടൂളുകൾ പിൻ ചെയ്യുക – ഒരു ഏജന്റിന് ഓരോ തവണയും ഒരു പ്രത്യേക ടൂൾ ആവശ്യമായി വരുന്നുണ്ടെങ്കിൽ, ആ ടൂൾ ഏജന്റിന്റെ കോൺഫിഗറേഷനിൽ പിൻ ചെയ്യുക. ഇത് സെർച്ച് ചെയ്യേണ്ട ഘട്ടം ഒഴിവാക്കുന്നതിലൂടെ ലേറ്റൻസി കുറയ്ക്കാനും ടോക്കൺ ഉപയോഗം ലാഭിക്കാനും സഹായിക്കുന്നു.
  • ശേഷി അനുസരിച്ച് ക്രമീകരിക്കുക – മുഴുവൻ സ്ഥാപനത്തിനും വേണ്ടിയുള്ള ഒരു വലിയ ടൂൾബോക്സിന് പകരം, ടൂളുകളെ യുക്തിസഹമായ ഗ്രൂപ്പുകളായി (ഉദാഹരണത്തിന്, sales-tools, CRM-tools) തിരിക്കുക. ചെറിയ ഗ്രൂപ്പുകൾ കോൺഫിഗറേഷൻ പിഴവുകൾ മൂലമുണ്ടാകുന്ന പ്രശ്നങ്ങളുടെ വ്യാപ്തി പരിമിതപ്പെടുത്തുകയും സെർച്ച് ഫലങ്ങൾ കൃത്യമാക്കുകയും ചെയ്യുന്നു.
  • വിന്യസിക്കുന്നതിന് മുമ്പ് പരിശോധിക്കുക – ടൂൾബോക്സ് വേർഷനുകൾ മാറ്റാൻ കഴിയില്ല (immutable); ഒരു വേർഷൻ ഡിഫോൾട്ട് ആയി സെറ്റ് ചെയ്താൽ എല്ലാ ഏജന്റുകളും അത് ഉപയോഗിക്കാൻ തുടങ്ങും. അതിനാൽ, ഒരു പുതിയ വേർഷൻ കമ്പനിയിലുടനീളം നടപ്പിലാക്കുന്നതിന് മുമ്പ് ഡെവലപ്പർ എൻഡ്‌പോയിന്റ് ഉപയോഗിച്ച് അത് പ്രത്യേകം പരിശോധിക്കുക.

ടൂളുകളുടെ എണ്ണം നൂറുകണക്കിന് ആയി ഉയരുമ്പോഴാണ് ഈ രീതികൾ ഏറ്റവും പ്രസക്തമാകുന്നത്. കുറച്ച് ടൂളുകൾ മാത്രമുള്ള ഒരു ഏജന്റിന് നേരിട്ടുള്ള കണക്ഷനുകൾ എളുപ്പമായിരിക്കാം. എന്നാൽ ടീമുകളുടെ എണ്ണവും ടൂൾബോക്സും വർദ്ധിക്കുമ്പോൾ, ഡ്യൂപ്ലിക്കേഷൻ കുറയ്ക്കുന്നതിനും സുരക്ഷ വർദ്ധിപ്പിക്കുന്നതിനും ടോക്കൺ ലാഭിക്കുന്നതിനും ഈ സെൻട്രലൈസ്ഡ് മോഡൽ ഏറെ ഗുണകരമാണ്.

ചുരുക്കത്തിൽ: വലിയ തോതിലുള്ള AI വിന്യാസങ്ങളിൽ (deployments) ടൂളുകളുടെ അമിതമായ വ്യാപനം നിയന്ത്രിക്കാനും, ടോക്കൺ നഷ്ടം 94% വരെ കുറയ്ക്കാനും, സുസ്ഥിരമായ സുരക്ഷാ പോളിസികൾ നടപ്പിലാക്കാനും Foundry Toolbox-ഉം Tool Search-ഉം സഹായിക്കുന്നു. കൃത്യമായ സെറ്റപ്പും മെറ്റാഡാറ്റാ ക്രമീകരണങ്ങളും നടപ്പിലാക്കാൻ കഴിയുന്ന ടീമുകൾക്ക് കൂടുതൽ കാര്യക്ഷമവും നിയന്ത്രിക്കാൻ എളുപ്പമുള്ളതുമായ ഒരു ഏജന്റ് ഇക്കോസിസ്റ്റം ലഭിക്കും.