Stanford के 2026 AI इंडेक्स से पता चलता है कि पिछले साल सुरक्षा संबंधी घटनाओं में बढ़ोत्तरी होकर 362 तक पहुँच गई है, जो मॉडल में हो रहे तीव्र सुधारों और उन्हें भरोसेमंद बनाए रखने के लिए आवश्यक सुरक्षा उपायों के बीच बढ़ती खाई को रेखांकित करता है। हर अनियंत्रित विफलता वित्त, स्वास्थ्य और सार्वजनिक सेवाओं में पहले से ही शामिल प्रणालियों में विश्वास को कम करती है।

इस अंतर के पीछे का डेटा

इंस्टीट्यूट फॉर ह्यूमन-सेंटर्ड आर्टिफिशियल इंटेलिजेंस द्वारा संकलित यह इंडेक्स, मुख्य प्रदर्शन (headline performance) की तुलना वास्तविक दुनिया की विश्वसनीयता से करता है। शीर्ष स्तर के मॉडल अभी भी बेंचमार्क परीक्षाओं में उत्कृष्ट प्रदर्शन करते हैं, फिर भी उनकी “hallucination” दरें—वे स्थितियाँ जहाँ वे गलत या मनगढ़ंत बयान देते हैं—पूरे क्षेत्र में चौंकाने वाले 22% से 94% तक फैली हुई हैं। जब उपयोगकर्ता मॉडलों को जानबूझकर गलत आधार (premises) देते हैं, तो GPT-4o की सटीकता 98.2% से गिरकर 64.4% हो जाती है; इसी परीक्षण के तहत DeepSeek R1 90% से अधिक से गिरकर 14.4% रह जाता है। सुरक्षा घेरे (safety guardrails), जिन्हें दुर्भावनापूर्ण प्रॉम्प्ट्स को रोकना चाहिए, हमलावरों द्वारा जांच किए जाने पर नियमित रूप से टूट जाते हैं।

कंपनियाँ क्यों संघर्ष कर रही हैं

नीति अपनाना प्रवर्तन (enforcement) की तुलना में अधिक तेजी से हो रहा है। पिछले सर्वेक्षण और इस वर्ष के बीच बिना किसी AI गवर्नेंस वाली फर्मों की हिस्सेदारी 24% से घटकर 11% हो गई है, और अब कई कंपनियाँ ISO/IEC 42001 या NIST AI Risk Management Framework जैसे मानकों का हवाला देती हैं। नीति बनाना उसे लागू करने के समान नहीं है। आंतरिक ज्ञान की कमी 59% उत्तरदाताओं को प्रभावित करती है, बजट की कमी 48% को बाधित करती है, और नियामक अनिश्चितता 41% को परेशान करती है। रिपोर्ट इसे एक “तकनीकी समस्या” कहती है: गोपनीयता नियंत्रणों (privacy controls) को सख्त करने से अनजाने में निष्पक्षता मेट्रिक्स (fairness metrics) कमजोर हो सकते हैं, और इसके विपरीत भी, जिससे इंजीनियरों को पर्याप्त टूलिंग या फंडिंग के बिना प्रतिस्पर्धी उद्देश्यों के बीच तालमेल बिठाना पड़ता है।

वर्तमान सुरक्षा जाँचों का भ्रम

पारदर्शिता स्कोर—जो इस बात का कुल योग है कि डेवलपर्स कितनी खुले तौर पर मॉडल की सीमाओं और परीक्षण विधियों का खुलासा करते हैं—58 से गिरकर 40 हो गया है, जो यह दर्शाता है कि स्वैच्छिक रिपोर्टिंग अपनी विश्वसनीयता खो रही है। कंपनियाँ आंतरिक ऑडिट पर निर्भर रहती हैं जो अक्सर इंडेक्स में दर्ज 'एज-केस' (edge-case) विफलताओं को छोड़ देते हैं। इसका परिणाम सुरक्षा की एक झूठी भावना है; संगठनों को लगता है कि वे सुरक्षित हैं जबकि छिपी हुई कमजोरियाँ बनी रहती हैं।

प्रति-तर्क: मानकों को लोकप्रियता मिल रही है

समर्थकों का तर्क है कि ISO और NIST फ्रेमवर्क का संदर्भ लेना एक कदम आगे की ओर है। औपचारिक मानक ऑडिटर्स और नियामकों को एक साझा भाषा और आधारभूत अपेक्षाएं प्रदान करते हैं, जिससे विभिन्न फर्मों के बीच तुलना करना आसान हो जाता है। शुरुआती अपनाने वाले रिपोर्ट करते हैं कि नीति होने पर आंतरिक तालमेल अधिक सुचारू होता है और एस्केलेशन (escalation) के रास्ते स्पष्ट होते हैं। नीति अपनाने में वृद्धि यह बताती है कि उद्योग जोखिम को पहचान रहा है और गवर्नेंस में निवेश करने के लिए तैयार है।

अभी भी क्या कमी है

कागजों पर नीतियां होने के बावजूद, कार्यान्वयन (execution) में कमी आती है। इंडेक्स तीन व्यावहारिक बाधाओं को उजागर करता है:

  • ज्ञान की कमी (Knowledge gaps): टीमों में AI जोखिम में गहरी विशेषज्ञता की कमी है, जिससे केवल सतही अनुपालन जाँच (compliance checks) ही हो पाती है।
  • फंडिंग की कमी (Funding shortfalls): सुरक्षा टूलिंग, तीसरे पक्ष के ऑडिट और निरंतर निगरानी के लिए ऐसे बजट की आवश्यकता होती है जिसे कई कंपनियाँ उचित नहीं ठहरा पाती हैं।
  • नियामक अस्पष्टता (Regulatory haze): अस्पष्ट या विकसित होते कानून दीर्घकालिक अनुपालन रोडमैप तैयार करना कठिन बना देते हैं।

इन मुद्दों के समाधान के लिए संभवतः बाहरी सत्यापन (external validation) की आवश्यकता होगी। रिपोर्ट स्व-मूल्यांकन से आगे बढ़कर स्वतंत्र मूल्यांकन की ओर बढ़ने की सिफारिश करती है जो वास्तविक दुनिया के उपयोग और प्रतिकूल हमलों (adversarial attacks) का अनुकरण (simulate) कर सकें। यह ऐसे इंजीनियरिंग समाधानों की भी मांग करती है जो सुरक्षा जाँचों को केवल बाद के विचार (afterthoughts) के रूप में मानने के बजाय सीधे मॉडल पाइपलाइनों में शामिल करें।

आगे क्या देखें