सुरक्षा शोधकर्ता जेक विलियम्स (Jake Williams) ने इस सप्ताह CUSTODY फ्रेमवर्क का अनावरण किया, जो उद्यमों (enterprises) को कॉर्पोरेट नेटवर्क के भीतर काम करने वाले AI एजेंटों के लिए स्पष्ट रनटाइम अनुमतियाँ (runtime permissions) और सीमाएँ निर्धारित करने का एक तरीका प्रदान करता है। यह टूल इसलिए महत्वपूर्ण है क्योंकि पारंपरिक सॉफ़्टवेयर के विपरीत, AI एजेंट गतिशील रूप से डेटा प्राप्त कर सकते हैं, सेवाओं को कॉल कर सकते हैं और मॉडलों को संशोधित कर सकते हैं—वह भी बिना किसी स्पष्ट और लागू करने योग्य नीति के—जिससे एक ऐसा अंतर पैदा होता है जिसका फायदा हमलावर पहले ही उठाना शुरू कर चुके हैं।

AI एजेंटों को घेरे (fence) की आवश्यकता क्यों है

एंटरप्राइज AI स्टैक में अब चैट-बॉट्स, रिकमेंडेशन इंजन, स्वायत्त निर्णय लेने वाले (autonomous decision-makers) और दर्जनों बैकग्राउंड एजेंट शामिल हैं जो आंतरिक APIs या थर्ड-पार्टी सेवाओं से डेटा निकालते हैं। मौजूदा सुरक्षा सूट पेरीमीटर फायरवॉल, एंडपॉइंट प्रोटेक्शन और नेटवर्क सेगमेंटेशन पर ध्यान केंद्रित करते हैं, लेकिन उनमें यह कहने का कोई मानक तरीका नहीं है कि "यह एजेंट ग्राहक रिकॉर्ड पढ़ सकता है लेकिन फाइनेंस डेटाबेस में लिख नहीं सकता।" ऐसे रनटाइम नियंत्रणों की अनुपस्थिति के कारण पहले ही ऐसी घटनाएँ हो चुकी हैं जहाँ समझौता किए गए (compromised) एजेंटों का उपयोग डेटा चोरी करने या मॉडल वेट (model weights) को दूषित करने के लिए किया गया था।

CUSTODY इस अंतर को कैसे भरता है

CUSTODY एक नियम-आधारित भाषा (rule-based language) पेश करता है जो यह बताती है कि नेटवर्क से जुड़ने के बाद एक AI एजेंट को क्या करने की अनुमति है। नीतियां निम्नलिखित निर्दिष्ट कर सकती हैं:

  • संसाधन पहुंच (Resource access) – एजेंट किन डेटाबेस, फ़ाइल स्टोर या APIs को क्वेरी कर सकता है।
  • कार्रवाई की सीमाएं (Action limits) – क्या एजेंट केवल पढ़ सकता है, या लिख भी सकता है, हटा (delete) सकता है या डाउनस्ट्रीम जॉब्स को ट्रिगर कर सकता है।
  • एक्जीक्यूशन कॉन्टेक्स्ट (Execution context) – कंप्यूट वातावरण पर प्रतिबंध, जैसे CPU कोटा या कंटेनर आइसोलेशन।

रनटाइम के दौरान, यह फ्रेमवर्क एजेंट के कॉल्स को इंटरसेप्ट करता है और उन्हें निर्धारित नीति के विरुद्ध जाँचता है, और किसी भी ऐसे ऑपरेशन को ब्लॉक कर देता है जो परिभाषित सीमाओं से बाहर हो। यह एक हैक किए गए एजेंट को कॉर्पोरेट वातावरण में बिना किसी रोक-टोक के घूमने से रोकता है।

CUSTODY को मौजूदा स्टैक में जोड़ना

यह फ्रेमवर्क वर्तमान सुरक्षा उपकरणों के साथ मिलकर काम करता है। यह लोकप्रिय ऑर्केस्ट्रेशन प्लेटफॉर्म, कंटेनर रनटाइम और API गेटवे के साथ जुड़ सकता है, लेकिन सटीक चरण अंतर्निहित एजेंट प्लेटफॉर्म के आधार पर भिन्न होते हैं। संगठनों को अपने AI इन्वेंट्री का मानचित्रण (map) करना चाहिए, प्रत्येक श्रेणी के एजेंट के लिए पॉलिसी फ़ाइलें लिखनी चाहिए, और पूर्ण तैनाती से पहले प्रवर्तन परत (enforcement layer) का परीक्षण करना चाहिए। मॉडलों के विकसित होने के साथ नियमों को अपडेट रखने के लिए दर्जनों एजेंटों में इन नीतियों को स्केल करने हेतु समर्पित परिचालन प्रयास (operational effort) की आवश्यकता होगी।

सावधानियां और आपत्तियां

आलोचकों का कहना है कि CUSTODY स्वचालित रूप से नीतियां तैयार नहीं करता है; सुरक्षा टीमों को उन्हें मैन्युअल रूप से बनाना पड़ता है, जो श्रमसाध्य हो सकता है। यदि प्रत्येक कॉल की वास्तविक समय (real time) में जांच की जाती है, तो प्रदर्शन ओवरहेड (performance overhead) का भी जोखिम है, विशेष रूप से उच्च-थ्रूपुट इन्फरेंस सेवाओं (high-throughput inference services) के लिए। अंत में, फ्रेमवर्क की प्रभावशीलता व्यापक रूप से अपनाए जाने पर निर्भर करती है—यदि किसी वेंडर का AI प्लेटफॉर्म आवश्यक हुक्स (hooks) प्रदान नहीं कर सकता है, तो CUSTODY के नियंत्रणों को बायपास किया जा सकता है।

आगे क्या देखें

  • वेंडर की प्रतिक्रिया (Vendor response) – क्या प्रमुख AI प्लेटफॉर्म प्रदाता CUSTODY-संगत हुक्स शामिल करेंगे या अपने स्वयं के रनटाइम-पॉलिसी इंजन पेश करेंगे।
  • मानकीकरण (Standardisation) – AI एजेंट अनुमतियों के लिए उद्योग-व्यापी विशिष्टताओं की ओर कोई भी आंदोलन CUSTODY को एक डी-फैक्टो (de-facto) आधार बना सकता है।
  • कम्युनिटी फीडबैक (Community feedback) – शुरुआती अपनाने वाले वास्तविक दुनिया की नीति जटिलता और प्रदर्शन प्रभाव को प्रकट करेंगे, जिससे भविष्य के संस्करणों को आकार मिलेगा।

जो उद्यम AI एजेंटों पर निर्भर हैं, उन्हें अभी CUSTODY का मूल्यांकन करना चाहिए, यह देखना चाहिए कि यह उनके सुरक्षा स्टैक में कहां फिट बैठता है, और AI-संचालित हमलों की अगली लहर उनके नेटवर्क पर हमला करने से पहले नीतियों का परीक्षण (pilot) शुरू कर देना चाहिए।