సెక్యూరిటీ రీసెర్చర్ అయిన జేక్ విలియమ్స్ ఈ వారం CUSTODY ఫ్రేమ్‌వర్క్‌ను పరిచయం చేశారు, ఇది కార్పొరేట్ నెట్‌వర్క్‌లలో పనిచేసే AI ఏజెంట్ల కోసం స్పష్టమైన రన్‌టైమ్ అనుమతులు (runtime permissions) మరియు పరిమితులను (boundaries) నిర్ణయించడానికి సంస్థలకు ఒక మార్గాన్ని అందిస్తుంది. సాంప్రదాయ సాఫ్ట్‌వేర్‌ల మాదిరిగా కాకుండా, AI ఏజెంట్లు స్పష్టమైన, అమలు చేయదగిన విధానం (policy) లేకుండానే డైనమిక్‌గా డేటాను సేకరించగలవు, సర్వీసులను పిలవగలవు మరియు మోడల్‌లను మార్చగలవు. దీనివల్ల ఏర్పడే భద్రతా లోపాన్ని (gap) హ్యాకర్లు ఇప్పటికే వాడుకోవడం ప్రారంభించారు, అందుకే ఈ సాధనం చాలా కీలకం.

AI ఏజెంట్లకు ఎందుకు రక్షణ అవసరం

ఎంటర్‌ప్రైజ్ AI స్టాక్‌లలో ఇప్పుడు చాట్‌బాట్‌లు, రికమెండేషన్ ఇంజన్లు, స్వయంప్రతిపత్తి కలిగిన నిర్ణయాధికారులు (autonomous decision-makers) మరియు అంతర్గత APIలు లేదా థర్డ్-పార్టీ సర్వీసుల నుండి డేటాను సేకరించే డజన్ల కొద్దీ బ్యాక్‌గ్రౌండ్ ఏజెంట్లు ఉన్నాయి. ప్రస్తుతం ఉన్న సెక్యూరిటీ సూట్‌లు పెరిమీటర్ ఫైర్‌వాల్స్, ఎండ్‌పాయింట్ ప్రొటెక్షన్ మరియు నెట్‌వర్క్ సెగ్మెంటేషన్‌పై దృష్టి పెడతాయి, కానీ "ఈ ఏజెంట్ కస్టమర్ రికార్డులను చదవవచ్చు కానీ ఫైనాన్స్ డేటాబేస్‌కు డేటాను రాయకూడదు" అని చెప్పడానికి అవసరమైన ప్రామాణిక పద్ధతి వాటిలో లేదు. ఇటువంటి రన్‌టైమ్ నియంత్రణలు లేకపోవడం వల్ల, హ్యాక్ చేయబడిన ఏజెంట్ల ద్వారా డేటాను దొంగిలించడం (exfiltrate) లేదా మోడల్ వెయిట్స్‌ను (model weights) పాడు చేయడం వంటి సంఘటనలు ఇప్పటికే చోటుచేసుకున్నాయి.

CUSTODY ఈ లోపాన్ని ఎలా పూరిస్తుంది

ఒక AI ఏజెంట్ నెట్‌వర్క్‌కు కనెక్ట్ అయిన తర్వాత అది ఏమి చేయవచ్చో వివరించే రూల్-బేస్డ్ లాంగ్వేజ్‌ను CUSTODY పరిచయం చేస్తుంది. పాలసీలు వీటిని పేర్కొనవచ్చు:

  • రిసోర్స్ యాక్సెస్ (Resource access) – ఏ డేటాబేస్‌లు, ఫైల్ స్టోర్‌లు లేదా APIలను ఏజెంట్ క్వెరీ చేయవచ్చు.
  • యాక్షన్ లిమిట్స్ (Action limits) – ఏజెంట్ కేవలం చదవడమే చేయాలా, లేదా రాయడం (write), తొలగించడం (delete) లేదా డౌన్‌స్ట్రీమ్ జాబ్‌లను ట్రిగ్గర్ చేయగలదా అనేది.
  • ఎగ్జిక్యూషన్ కాంటెక్స్ట్ (Execution context) – CPU కోటా లేదా కంటైనర్ ఐసోలేషన్ వంటి కంప్యూట్ ఎన్విరాన్‌మెంట్‌పై పరిమితులు.

రన్‌టైమ్ సమయంలో, ఈ ఫ్రేమ్‌వర్క్ ఏజెంట్ చేసే కాల్స్‌ను అడ్డుకుని (intercept), వాటిని సెట్ చేసిన పాలసీతో సరిపోల్చి చూస్తుంది. నిర్వచించిన పరిమితులకు వెలుపల ఉండే ఏ ఆపరేషన్‌నైనా ఇది నిరోధిస్తుంది. దీనివల్ల హ్యాక్ చేయబడిన ఏజెంట్ కార్పొరేట్ వాతావరణంలో అదుపు లేకుండా తిరగకుండా నిరోధించవచ్చు.

CUSTODYని ప్రస్తుతం ఉన్న స్టాక్‌లలో ఎలా అనుసంధానించాలి

ఈ ఫ్రేమ్‌వర్క్ ప్రస్తుతం ఉన్న సెక్యూరిటీ టూల్స్‌తో కలిసి పనిచేస్తుంది. ఇది ప్రముఖ ఆర్కెస్ట్రేషన్ ప్లాట్‌ఫారమ్‌లు, కంటైనర్ రన్‌టైమ్‌లు మరియు API గేట్‌వేలకు అనుసంధానించబడగలదు (hook), కానీ ఆ దశలు ఏజెంట్ ప్లాట్‌ఫారమ్‌ను బట్టి మారుతుంటాయి. సంస్థలు తమ AI ఇన్వెంటరీని మ్యాప్ చేయాలి, ప్రతి రకమైన ఏజెంట్ కోసం పాలసీ ఫైల్‌లను వ్రాయాలి మరియు పూర్తి స్థాయిలో అమలు చేసే ముందు ఎన్‌ఫోర్స్‌మెంట్ లేయర్‌ను పరీక్షించాలి. మోడల్‌లు అభివృద్ధి చెందుతున్న కొద్దీ నియమాలను అప్‌డేట్‌గా ఉంచడానికి, డజన్ల కొద్దీ ఏజెంట్ల కోసం ఈ పాలసీలను స్కేల్ చేయడం ఒక ప్రత్యేకమైన కార్యాచరణ కృషిని (operational effort) కోరుతుంది.

హెచ్చరికలు మరియు సవాళ్లు

CUSTODY పాలసీలను ఆటోమేటిక్‌గా రూపొందించదని విమర్శకులు పేర్కొంటున్నారు; సెక్యూరిటీ టీమ్‌లు వాటిని మాన్యువల్‌గా తయారు చేయాల్సి ఉంటుంది, ఇది శ్రమతో కూడుకున్న పని. ప్రతి కాల్‌ను రియల్ టైమ్‌లో తనిఖీ చేస్తే, ముఖ్యంగా హై-త్రూపుట్ ఇన్‌ఫరెన్స్ సర్వీసుల (high-throughput inference services) విషయంలో, పనితీరుపై భారం (performance overhead) పడే ప్రమాదం ఉంది. చివరగా, ఈ ఫ్రేమ్‌వర్క్ యొక్క ప్రభావం దాని విస్తృత వినియోగంపై ఆధారపడి ఉంటుంది—ఒక వెండర్ యొక్క AI ప్లాట్‌ఫారమ్ అవసరమైన హుక్స్‌ను (hooks) అందించలేకపోతే, CUSTODY నియంత్రణలను దాటవేసే అవకాశం ఉంది.

తదుపరి ఏం గమనించాలి

  • వెండర్ స్పందన (Vendor response) – ప్రధాన AI ప్లాట్‌ఫారమ్ ప్రొవైడర్లు CUSTODY-అనుకూలమైన హుక్స్‌ను పొందుపరచతారా లేదా వారి స్వంత రన్‌టైమ్-పాలసీ ఇంజన్‌లను అందిస్తారా అనేది.
  • ప్రామాణీకరణ (Standardisation) – AI ఏజెంట్ అనుమతుల కోసం పరిశ్రమ అంతటా ఒకే రకమైన స్పెసిఫికేషన్ల వైపు జరిగే ఏ ప్రయత్నమైనా, CUSTODYని ఒక ప్రామాణిక బేస్‌లైన్‌గా (de-facto baseline) మార్చవచ్చు.
  • కమ్యూనిటీ ఫీడ్‌బ్యాక్ (Community feedback) – ప్రారంభ వినియోగదారులు వాస్తవ ప్రపంచంలోని పాలసీ సంక్లిష్టత మరియు పనితీరు ప్రభావం గురించి తెలియజేస్తారు, ఇది భవిష్యత్తు వెర్షన్‌లను రూపొందించడంలో సహాయపడుతుంది.

AI ఏజెంట్లపై ఆధారపడే సంస్థలు ఇప్పుడే CUSTODYని అంచనా వేయాలి, తమ సెక్యూరిటీ స్టాక్‌లో ఇది ఎక్కడ సరిపోతుందో మ్యాప్ చేయాలి మరియు AI ఆధారిత దాడుల తదుపరి అల (wave) తమ నెట్‌వర్క్‌లపై పడేలోపే పాలసీలను పైలట్ ప్రాజెక్ట్‌లుగా ప్రారంభించాలి.