സുരക്ഷാ ഗവേഷകനായ ജേക്ക് വില്യംസ് (Jake Williams) ഈ ആഴ്ച CUSTODY framework പുറത്തിറക്കി. കോർപ്പറേറ്റ് നെറ്റ്‌വർക്കുകൾക്കുള്ളിൽ പ്രവർത്തിക്കുന്ന AI ഏജന്റുകൾക്കായി വ്യക്തമായ റൺടൈം പെർമിഷനുകളും (runtime permissions) പരിധികളും നിശ്ചയിക്കാൻ ഇത് സംരംഭങ്ങളെ സഹായിക്കുന്നു. പരമ്പരാഗത സോഫ്റ്റ്‌വെയറുകളിൽ നിന്ന് വ്യത്യസ്തമായി, AI ഏജന്റുകൾക്ക് ഡാറ്റാ ശേഖരിക്കാനും, സേവനങ്ങൾ ഉപയോഗിക്കാനും, മോഡലുകളിൽ മാറ്റം വരുത്താനും സാധിക്കും. എന്നാൽ ഇതിന് വ്യക്തവും നടപ്പിലാക്കാൻ കഴിയുന്നതുമായ ഒരു നയം ഇല്ലാത്തതിനാൽ, ആക്രമണകാരികൾക്ക് ചൂഷണം ചെയ്യാൻ കഴിയുന്ന ഒരു സുരക്ഷാ വിടവ് ഇത് സൃഷ്ടിക്കുന്നു.

AI ഏജന്റുകൾക്ക് എന്തുകൊണ്ട് ഒരു സുരക്ഷാ വേലി ആവശ്യമാണ്

എന്റർപ്രൈസ് AI സ്റ്റാക്കുകളിൽ ഇപ്പോൾ ചാറ്റ്-ബോട്ടുകൾ, റെക്കമെൻഡേഷൻ എഞ്ചിനുകൾ, സ്വയം തീരുമാനമെടുക്കുന്ന സംവിധാനങ്ങൾ, കൂടാതെ ഇന്റേണൽ API-കളിൽ നിന്നോ തേർഡ് പാർട്ടി സേവനങ്ങളിൽ നിന്നോ ഡാറ്റ ശേഖരിക്കുന്ന ഡസൻ കണക്കിന് ബാക്ക്ഗ്രൗണ്ട് ഏജന്റുകളും ഉൾപ്പെടുന്നു. നിലവിലുള്ള സുരക്ഷാ സംവിധാനങ്ങൾ പെരിമീറ്റർ ഫയർവാളുകൾ (perimeter firewalls), എൻഡ്പോയിന്റ് പ്രൊട്ടക്ഷൻ, നെറ്റ്‌വർക്ക് സെഗ്മെന്റേഷൻ എന്നിവയിലാണ് ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത്. എന്നാൽ "ഈ ഏജന്റിന് ഉപഭോക്താക്കളുടെ വിവരങ്ങൾ വായിക്കാം, എന്നാൽ ഫിനാൻസ് ഡാറ്റാബേസിൽ വിവരങ്ങൾ എഴുതാൻ പാടില്ല" എന്ന് പറയാൻ അവയ്ക്ക് ഒരു മാനദണ്ഡ രീതിയില്ല. ഇത്തരം റൺടൈം നിയന്ത്രണങ്ങളുടെ അഭാവം കാരണം, ഹാക്ക് ചെയ്യപ്പെട്ട ഏജന്റുകൾ ഉപയോഗിച്ച് ഡാറ്റ ചോർത്തുന്നതോ മോഡൽ വെയ്റ്റുകൾ (model weights) നശിപ്പിക്കുന്നതോ ആയ സംഭവങ്ങൾ ഇതിനകം തന്നെ ഉണ്ടായിട്ടുണ്ട്.

CUSTODY എങ്ങനെയാണ് ഈ വിടവ് നികത്തുന്നത്

ഒരു AI ഏജന്റ് നെറ്റ്‌വർക്കുമായി ബന്ധപ്പെട്ടുകഴിഞ്ഞാൽ അതിന് എന്തൊക്കെ ചെയ്യാൻ അനുവാദമുണ്ടെന്ന് വിവരിക്കുന്ന ഒരു റൂൾ-ബേസ്ഡ് ഭാഷ (rule-based language) CUSTODY അവതരിപ്പിക്കുന്നു. പോളിസികൾക്ക് താഴെ പറയുന്നവ നിശ്ചയിക്കാം:

  • Resource access – ഏത് ഡാറ്റാബേസുകൾ, ഫയൽ സ്റ്റോറുകൾ അല്ലെങ്കിൽ API-കൾ എന്നിവ ഏജന്റിന് ക്വറി ചെയ്യാമെന്ന്.
  • Action limits – ഏജന്റിന് വിവരങ്ങൾ വായിക്കാൻ മാത്രമേ കഴിയൂ, അതോ എഴുതാനും ഡിലീറ്റ് ചെയ്യാനും അല്ലെങ്കിൽ മറ്റ് ജോലികൾ തുടങ്ങാനും (trigger downstream jobs) കഴിയുമോ എന്ന്.
  • Execution context – കമ്പ്യൂട്ട് എൻവയോൺമെന്റിലെ നിയന്ത്രണങ്ങൾ, ഉദാഹരണത്തിന് CPU ക്വാട്ടകൾ അല്ലെങ്കിൽ കണ്ടെയ്നർ ഐസൊലേഷൻ (container isolation).

റൺടൈമിൽ, ഈ ഫ്രെയിംവർക്ക് ഏജന്റിന്റെ കോളുകൾ തടഞ്ഞുനിർത്തി അവ നിശ്ചയിച്ച പോളിസിയുമായി ഒത്തുനോക്കുന്നു, കൂടാതെ നിശ്ചിത പരിധിക്കപ്പുറം പോകുന്ന ഏതൊരു പ്രവർത്തനവും തടയുകയും ചെയ്യുന്നു. ഇത് ഹാക്ക് ചെയ്യപ്പെട്ട ഒരു ഏജന്റ് കോർപ്പറേറ്റ് എൻവയോൺമെന്റിലൂടെ നിയന്ത്രണമില്ലാതെ സഞ്ചരിക്കുന്നത് തടയുന്നു.

നിലവിലുള്ള സ്റ്റാക്കുകളിലേക്ക് CUSTODY എങ്ങനെ ഘടിപ്പിക്കാം

നിലവിലുള്ള സുരക്ഷാ ഉപകരണങ്ങൾക്കൊപ്പം തന്നെ പ്രവർത്തിക്കാൻ കഴിയുന്നതാണ് ഈ ഫ്രെയിംവർക്ക്. ഇത് പ്രശസ്തമായ ഓർക്കസ്ട്രേഷൻ പ്ലാറ്റ്‌ഫോമുകൾ, കണ്ടെയ്നർ റൺടൈമുകൾ, API ഗേറ്റ്‌വേകൾ എന്നിവയുമായി ബന്ധിപ്പിക്കാൻ കഴിയും, എന്നാൽ ഇതിന്റെ കൃത്യമായ ഘട്ടങ്ങൾ ഉപയോഗിക്കുന്ന ഏജന്റ് പ്ലാറ്റ്‌ഫോമിന് അനുസരിച്ച് വ്യത്യാസപ്പെട്ടിരിക്കും. സ്ഥാപനങ്ങൾ തങ്ങളുടെ AI ഇൻവെന്ററി തയ്യാറാക്കുകയും, ഓരോ വിഭാഗം ഏജന്റുകൾക്കും പോളിസി ഫയലുകൾ എഴുതുകയും, പൂർണ്ണമായി നടപ്പിലാക്കുന്നതിന് മുമ്പ് എൻഫോഴ്‌സ്‌മെന്റ് ലെയർ (enforcement layer) പരിശോധിക്കുകയും വേണം. മോഡലുകൾ മാറുന്നതിനനുസരിച്ച് നിയമങ്ങൾ പുതുക്കി സൂക്ഷിക്കുന്നതിന് ഡസൻ കണക്കിന് ഏജന്റുകളിലായി ഈ പോളിസികൾ വ്യാപിപ്പിക്കാൻ പ്രത്യേക പ്രവർത്തനശൈലി ആവശ്യമായി വരും.

പരിമിതികളും എതിർപ്പുകളും

CUSTODY പോളിസികൾ സ്വയമേവ നിർമ്മിക്കുന്നില്ല എന്ന് വിമർശകർ ചൂണ്ടിക്കാട്ടുന്നു; സുരക്ഷാ ടീമുകൾ അവ മാനുവലായി തയ്യാറാക്കേണ്ടതുണ്ട്, ഇത് കഠിനമായ അധ്വാനം ആവശ്യമായ ഒന്നാണ്. കൂടാതെ, ഓരോ കോളും റിയൽ ടൈമിൽ പരിശോധിക്കുന്നത്, പ്രത്യേകിച്ച് ഉയർന്ന വേഗതയിലുള്ള ഇൻഫറൻസ് സേവനങ്ങളിൽ (high-throughput inference services), പെർഫോമൻസ് കുറയാൻ കാരണമായേക്കാം. അവസാനമായി, ഈ ഫ്രെയിംവർക്കിന്റെ ഫലപ്രാപ്തി അതിന്റെ വ്യാപകമായ ഉപയോഗത്തെ ആശ്രയിച്ചിരിക്കുന്നു—ഒരു വെണ്ടറുടെ AI പ്ലാറ്റ്‌ഫോമിന് ആവശ്യമായ ഹുക്കുകൾ (hooks) നൽകാൻ കഴിയുന്നില്ലെങ്കിൽ, CUSTODY-യുടെ നിയന്ത്രണങ്ങൾ മറികടക്കപ്പെട്ടേക്കാം.

അടുത്തതായി ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

  • വെണ്ടർമാരുടെ പ്രതികരണം – പ്രധാന AI പ്ലാറ്റ്‌ഫോം പ്രൊവൈഡർമാർ CUSTODY-യുമായി പൊരുത്തപ്പെടുന്ന ഹുക്കുകൾ ഉൾപ്പെടുത്തുമോ അതോ അവരുടേതായ റൺടൈം-പോളിസി എഞ്ചിനുകൾ വാഗ്ദാനം ചെയ്യുമോ എന്നത്.
  • മാനദണ്ഡവൽക്കരണം (Standardisation) – AI ഏജന്റ് പെർമിഷനുകൾക്കായി വ്യവസായവ്യാപകമായ മാനദണ്ഡങ്ങൾ രൂപപ്പെട്ടാൽ, CUSTODY ഒരു അടിസ്ഥാന മാതൃകയായി മാറിയേക്കാം.
  • കമ്മ്യൂണിറ്റി ഫീഡ്‌ബാക്ക് – ആദ്യമായി ഇത് ഉപയോഗിക്കുന്നവർ യഥാർത്ഥ ലോകത്തെ പോളിസി സങ്കീർണ്ണതകളും പെർഫോമൻസിലെ സ്വാധീനവും വെളിപ്പെടുത്തും, ഇത് ഭാവി പതിപ്പുകളെ രൂപപ്പെടുത്തും.

AI ഏജന്റുകളെ ആശ്രയിക്കുന്ന സ്ഥാപനങ്ങൾ ഇപ്പോൾ തന്നെ CUSTODY വിലയിരുത്തുകയും, അത് തങ്ങളുടെ സുരക്ഷാ സ്റ്റാക്കിൽ എവിടെയാണ് ഇരിക്കുന്നത് എന്ന് കണ്ടെത്തുകയും വേണം. അടുത്ത AI ആക്രമണങ്ങൾ നെറ്റ്‌വർക്കുകളെ ബാധിക്കുന്നതിന് മുമ്പ് പോളിസികൾ പൈലറ്റ് ടെസ്റ്റ് ചെയ്യാൻ തുടങ്ങുന്നതാകും ഉചിതം.