Human-In-The-Loop Feature in Google’s Genkit API Aims to Prevent Costly AI Mistakes

TypeScript, Go എന്നിവയ്ക്കായുള്ള തങ്ങളുടെ Genkit Agents API-യുടെ പ്രിവ്യൂ ഗൂഗിൾ പുറത്തിറക്കി. പ്രൊഡക്ഷൻ-ഗ്രേഡ് AI ഏജന്റുകൾ നിർമ്മിക്കുന്നതും നിയന്ത്രിക്കുന്നതും എളുപ്പമാക്കുന്നതിനായി ഇതിൽ “detached turns”, “human-in-the-loop” ഗാർഡ്‌റെയിൽ എന്നിവ ഉൾപ്പെടുത്തിയിട്ടുണ്ട്.

പുതിയ API എന്തിനാണ് പ്രസക്തമാകുന്നത്

AI ഏജന്റുകളെ വിന്യസിക്കുമ്പോൾ ഡെവലപ്പർമാർ രണ്ട് പ്രധാന പ്രശ്നങ്ങളിലൂടെയാണ് കടന്നുപോയിരുന്നത്: ഒരു പൈപ്പ്‌ലൈനിനെ മുഴുവനായി തടസ്സപ്പെടുത്തുന്ന ദീർഘനേരത്തെയുള്ള ജോലികൾ (long-running tasks), സുരക്ഷിതവും വിശ്വസനീയവുമായ പ്രവർത്തനങ്ങൾ ഉറപ്പാക്കുന്നതിലെ ബുദ്ധിമുട്ട് എന്നിവയാണവ. “Detached turns” ഉപയോഗിക്കുന്നതിലൂടെ, ചുറ്റുമുള്ള വർക്ക്ഫ്ലോയെ തടസ്സപ്പെടുത്താതെ തന്നെ ഒരു ഏജന്റിന് ദീർഘമായ പ്രവർത്തനങ്ങളിൽ തുടരാൻ സാധിക്കും. അതേസമയം, “human-in-the-loop” ഓപ്ഷൻ ഏജന്റിന്റെ ഔട്ട്‌പുട്ട് നടപ്പിലാക്കുന്നതിന് മുമ്പ് ഒരു മാനുവൽ റിവ്യൂ നിർബന്ധമാക്കുന്നു. ഇവ രണ്ടും ചേർന്ന് പ്രവർത്തനങ്ങൾ തടസ്സപ്പെടുന്നത് കുറയ്ക്കുകയും വലിയ പിഴവുകൾ ഒഴിവാക്കുകയും ചെയ്യുന്നു.

ഇതിലേക്കുള്ള പാത

ഈ വർഷത്തിന്റെ തുടക്കത്തിൽ, ഓപ്പൺ സോഴ്‌സ് ഫ്രെയിംവർക്കുകളും ക്ലൗഡ് സേവനങ്ങളും കൺവേർസേഷണൽ AI-ക്കായി പ്ലഗ്-ആൻ-പ്ലേ ഘടകങ്ങൾ വാഗ്ദാനം ചെയ്യാൻ തുടങ്ങി, എന്നാൽ അവയിൽ ഭൂരിഭാഗവും ഡെവലപ്പർമാരെ കസ്റ്റം ഓർക്കസ്ട്രേഷൻ കോഡ് എഴുതാൻ നിർബന്ധിതരാക്കിയിരുന്നു. റിക്വസ്റ്റ് ഹാൻഡ്‌ലിംഗ്, സ്റ്റേറ്റ് മാനേജ്‌മെന്റ്, മോഡൽ സെലക്ഷൻ എന്നിവയിലെ സങ്കീർണ്ണമായ ജോലികൾ ഒഴിവാക്കി നൽകുന്ന ഒരു ഹൈ-ലെവൽ SDK-ലൂടെ ഗൂഗിളിന്റെ Genkit ഈ വിടവ് നികത്തുന്നു.

ഈ ഫീച്ചറുകൾ യഥാർത്ഥത്തിൽ എന്താണ് ചെയ്യുന്നത്

• Detached turns: ഒരു ഏജന്റിന് ഒരു എക്സ്റ്റേണൽ API-ൽ നിന്ന് ഡാറ്റ ശേഖരിക്കാനോ, മൾട്ടി-സ്റ്റെപ്പ് റീസണിംഗ് ചെയിൻ പ്രവർത്തിപ്പിക്കാനോ, അല്ലെങ്കിൽ ഉപയോക്താവിന്റെ ഇൻപുട്ടിനായി കാത്തുനിൽക്കാനോ ആവശ്യമായി വരുമ്പോൾ, അത് ആ ജോലി ഒരു ബാക്ക്ഗ്രൗണ്ട് പ്രോസസ്സിലേക്ക് കൈമാറുന്നു. പ്രധാന വർക്ക്ഫ്ലോ ഒരു പ്ലേസ്‌ഹോൾഡർ സ്വീകരിച്ച് മുന്നോട്ട് പോകുന്നു, ഇത് തുടർന്നുള്ള ജോലികളെ തടസ്സപ്പെടുത്തുന്ന ഒരു പൂർണ്ണമായ നിർത്തലാക്കൽ ഒഴിവാക്കുന്നു.
• Human-in-the-loop: ഏജന്റിന്റെ തീരുമാനം നടപ്പിലാക്കുന്നതിന് മുമ്പ് (ഉദാഹരണത്തിന്, ഒരു ലോൺ അനുവദിക്കുകയോ ഡാറ്റാബേസ് അപ്‌ഡേറ്റ് ചെയ്യുകയോ ചെയ്യുന്നത്), ഒരു ഹ്യൂമൻ റിവ്യൂവർക്കായി ഒരു UI പ്രോംപ്റ്റ് പ്രത്യക്ഷപ്പെടുന്നു. റിവ്യൂവർക്ക് നിർദ്ദേശം സ്വീകരിക്കാനോ, മാറ്റം വരുത്താനോ, അല്ലെങ്കിൽ നിരസിക്കാനോ കഴിയും. ഇത് ഓട്ടോമേഷൻ ഉപേക്ഷിക്കാതെ തന്നെ സ്ഥാപനങ്ങൾക്ക് ഒരു സുരക്ഷാ കവചം നൽകുന്നു.

ഉയർന്നുവരുന്ന അനുബന്ധ ടൂളുകൾ

Genkit-നോടൊപ്പം തന്നെ, AI പൈപ്പ്‌ലൈനുകളിൽ പലപ്പോഴും ഉണ്ടാകാറുള്ള ചിലവ്, ഡീബഗ്ഗിംഗ് എന്നീ രണ്ട് പ്രധാന പ്രശ്നങ്ങൾ പരിഹരിക്കുന്നതിനുള്ള യൂട്ടിലിറ്റികൾ ഓപ്പൺ സോഴ്‌സ് കമ്മ്യൂണിറ്റി പുറത്തിറക്കുന്നുണ്ട്.

• ORA: ഒരു സിംഗിൾ ബൈനറിയായി പാക്കേജ് ചെയ്തിട്ടുള്ള Go അടിസ്ഥാനമാക്കിയുള്ള ഒരു ടാസ്ക് ഓർക്കസ്ട്രേറ്റർ. ഇത് വലിയ ജോലികളെ ചെറിയ സബ് ടാസ്ക്കുകളായി വിഭജിക്കുകയും, അവ കൈകാര്യം ചെയ്യാൻ ശേഷിയുള്ള ഏറ്റവും കുറഞ്ഞ ചിലവുള്ള മോഡലിലേക്ക് ഓരോന്നും സ്വയമേവ എത്തിക്കുകയും ചെയ്യുന്നു. ഇത് ക്ലൗഡ് ചെലവ് നിയന്ത്രിക്കാൻ ടീമുകളെ സഹായിക്കുന്നു.
• Python AI error explainer: സ്റ്റാക്ക് ട്രേസുകളും (stack traces) സങ്കീർണ്ണമായ ലോഗുകളും വിശകലനം ചെയ്ത്, അവയുടെ ലളിതമായ സംഗ്രഹം, സാധ്യതയുള്ള കാരണം, പരിഹാര മാർഗങ്ങൾ എന്നിവ നൽകുന്ന ഒരു ലൈബ്രറിയാണിത്. പരുക്കൻ എറർ ഡാറ്റയെ പ്രായോഗികമായ അറിവുകളാക്കി മാറ്റുന്നതിലൂടെ, ഇത് ഡെവലപ്പർമാരുടെ ഫീഡ്‌ബാക്ക് ലൂപ്പ് വേഗത്തിലാക്കുന്നു.

ആര് നേടുന്നു, ആർക്കാണ് ആശങ്ക?

ഇനി എന്താണ് ശ്രദ്ധിക്കേണ്ടത്

ഈ പ്രിവ്യൂ അതിന്റെ വാഗ്ദാനങ്ങൾ നിറവേറ്റുകയാണെങ്കിൽ, പരീക്ഷണാടിസ്ഥാനത്തിലുള്ള ചാറ്റ്ബോട്ടുകളിൽ നിന്ന് ബിസിനസ്സുകൾക്ക് വിശ്വസിക്കാവുന്ന ഘടകങ്ങളായി AI ഏജന്റുകൾ മാറാം. ഉയർന്ന ഉത്തരവാദിത്തമുള്ള സാഹചര്യങ്ങളിൽ പ്രവർത്തിക്കാനും, ആവശ്യമായപ്പോൾ നിർത്താനും, സഹായം ചോദിക്കാനും കഴിയുന്ന വിശ്വസ്തരായ ഏജന്റുകളായി അവ മാറും.