Stanford యొక్క 2026 AI ఇండెక్స్ ప్రకారం, గత ఏడాది భద్రతా సంఘటనలు 362కి పెరిగాయి. ఇది మోడల్స్లో వస్తున్న వేగవంతమైన మెరుగుదలలకు మరియు వాటిని నమ్మదగినవిగా ఉంచడానికి అవసరమైన రక్షణ చర్యల మధ్య పెరుగుతున్న వ్యత్యాసాన్ని తెలియజేస్తోంది. తనిఖీ చేయని ప్రతి వైఫల్యం ఆర్థిక, ఆరోగ్య మరియు ప్రజా సేవలలో ఇప్పటికే భాగమైన వ్యవస్థలపై నమ్మకాన్ని తగ్గిస్తుంది.
ఈ వ్యత్యాసానికి గల డేటా
ఇన్స్టిట్యూట్ ఫర్ హ్యూమన్-సెంటర్డ్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ రూపొందించిన ఈ ఇండెక్స్, మోడల్స్ యొక్క అద్భుతమైన పనితీరును మరియు వాస్తవ ప్రపంచంలో వాటి విశ్వసనీయతను పోల్చి చూస్తుంది. అత్యున్నత స్థాయి మోడల్స్ ఇప్పటికీ బెంచ్మార్క్ పరీక్షల్లో రాణిస్తున్నప్పటికీ, వాటి “hallucination” రేట్లు—అంటే అవి తప్పుడు లేదా కల్పిత ప్రకటనలను రూపొందించే సందర్భాలు—రంగవ్యాప్తంగా 22% నుండి 94% వరకు ఉండటం ఆశ్చర్యకరంగా ఉంది. వినియోగదారులు మోడల్స్కు కావాలనే తప్పుడు సమాచారాన్ని ఇచ్చినప్పుడు, GPT-4o యొక్క ఖచ్చితత్వం 98.2% నుండి 64.4%కి పడిపోతుంది; అదే పరీక్షలో DeepSeek R1 యొక్క ఖచ్చితత్వం 90% పైగా నుండి 14.4%కి పడిపోతుంది. హానికరమైన ప్రాంప్ట్లను అడ్డుకోవాల్సిన భద్రతా రక్షణ కవచాలు (safety guardrails), దాడి చేసేవారు వాటిని పరీక్షించినప్పుడు నిరంతరం విఫలమవుతున్నాయి.
కంపెనీలు ఎందుకు తలపడటం చేస్తున్నాయి
విధానాల అమలు కంటే వాటిని స్వీకరించే వేగం ఎక్కువగా ఉంది. గత సర్వే మరియు ఈ సంవత్సరం మధ్య, ఎటువంటి AI గవర్నెన్స్ లేని సంస్థల వాటా 24% నుండి 11%కి తగ్గింది, మరియు ఇప్పుడు చాలా సంస్థలు ISO/IEC 42001 లేదా NIST AI Risk Management Framework వంటి ప్రమాణాలను అనుసరిస్తున్నాయి. ఒక విధానాన్ని రూపొందించడం అంటే దానిని అమలు చేయడం కాదు. 59% మంది ప్రతినిధులు అంతర్గత జ్ఞాన లోపాలను ఎదుర్కొంటున్నారు, 48% మంది బడ్జెట్ పరిమితుల వల్ల ఇబ్బంది పడుతున్నారు మరియు 41% మంది నియంత్రణపరమైన అనిశ్చితితో ఇబ్బంది పడుతున్నారు. దీనిని నివేదిక “సాంకేతిక సమస్య”గా పేర్కొంది: గోప్యత నియంత్రణలను (privacy controls) కఠినతరం చేయడం వల్ల తెలియకుండానే నిష్పాక్షికత కొలమానాలు (fairness metrics) బలహీనపడవచ్చు, లేదా దీనికి విరుద్ధంగా కూడా జరగవచ్చు. దీనివల్ల ఇంజనీర్లు తగిన సాధనాలు లేదా నిధులు లేకుండా పరస్పర విరుద్ధమైన లక్ష్యాలను సమన్వయం చేసుకోవాల్సి వస్తోంది.
ప్రస్తుత భద్రతా తనిఖీల భ్రమ
పారదర్శకత స్కోర్లు—అంటే డెవలపర్లు మోడల్ పరిమితులను మరియు పరీక్షా పద్ధతులను ఎంత బహిరంగంగా వెల్లడిస్తారనే దాని మొత్తం—58 నుండి 40కి పడిపోయింది, ఇది స్వచ్ఛంద నివేదికలు విశ్వసనీయతను కోల్పోతున్నాయని సూచిస్తోంది. కంపెనీలు అంతర్గత ఆడిట్లపై ఆధారపడుతున్నాయి, ఇవి ఇండెక్స్లో నమోదైన అరుదైన వైఫల్యాలను (edge-case failures) తరచుగా గుర్తించలేవు. దీని ఫలితం భద్రత ఉన్నట్లుగా ఒక తప్పుడు భ్రమ; సంస్థలు తాము రక్షించబడ్డామని నమ్ముతాయి, కానీ అంతర్గతంగా లోపాలు కొనసాగుతూనే ఉంటాయి.
వ్యతిరేక వాదన: ప్రమాణాలు ప్రాచుర్యం పొందుతున్నాయి
ISO మరియు NIST ఫ్రేమ్వర్క్లను అనుసరించడం ఒక ముందడుగు అని మద్దతుదారులు వాదిస్తున్నారు. అధికారిక ప్రమాణాలు ఆడిటర్లకు మరియు నియంత్రణ సంస్థలకు ఒక ఉమ్మడి భాషను మరియు ప్రాథమిక అంచనాలను అందిస్తాయి, దీనివల్ల సంస్థల మధ్య పోలికలు సులభమవుతాయి. విధానం ఉన్నప్పుడు, త్వరగా అమలు చేసే సంస్థలు మెరుగైన అంతర్గత సమన్వయం మరియు స్పష్టమైన ఎస్కలేషన్ మార్గాలను కలిగి ఉన్నట్లు నివేదిస్తున్నాయి. విధానాల స్వీకరణ పెరగడం అనేది పరిశ్రమ ఈ రిస్క్ను గుర్తించి మరియు గవర్నెన్స్లో పెట్టుబడి పెట్టడానికి సిద్ధంగా ఉందని సూచిస్తుంది.
ఇంకా ఏమి లోపించింది
కాగితంపై విధానాలు ఉన్నప్పటికీ, అమలులో లోపాలు ఉన్నాయి. ఇండెక్స్ మూడు ఆచరణాత్మక అడ్డంకులను హైలైట్ చేసింది:
- జ్ఞాన లోపాలు (Knowledge gaps): బృందాలకు AI రిస్క్లో లోతైన నైపుణ్యం లేదు, దీనివల్ల పైపైన మాత్రమే నిబంధనల అమలు తనిఖీలు జరుగుతున్నాయి.
- నిధుల కొరత (Funding shortfalls): భద్రతా సాధనాలు (safety tooling), థర్డ్-పార్టీ ఆడిట్లు మరియు నిరంతర పర్యవేక్షణకు బడ్జెట్ అవసరం, కానీ చాలా సంస్థలు దీనిని సమర్థించుకోలేకపోతున్నాయి.
- నియంత్రణపరమైన అనిశ్చితి (Regulatory haze): అస్పష్టమైన లేదా మారుతున్న చట్టాల వల్ల దీర్ఘకాలిక నిబంధనల అమలు రోడ్మ్యాప్లను రూపొందించడం కష్టమవుతోంది.
ఈ సమస్యలను పరిష్కరించడానికి బాహ్య ధృవీకరణ (external validation) అవసరమవుతుంది. స్వయం అంచనా (self-assessment) నుండి బయటపడి, వాస్తవ ప్రపంచ వినియోగం మరియు శత్రుత్వ దాడులను (adversarial attacks) అనుకరించే స్వతంత్ర మూల్యాంకనాల వైపు వెళ్లాలని నివేదిక సిఫార్సు చేస్తోంది. అలాగే, భద్రతా తనిఖీలను కేవలం చివరలో చేసే పనిగా కాకుండా, మోడల్ పైప్లైన్లలో నేరుగా అనుసంధానించే ఇంజనీరింగ్ పరిష్కారాలను కూడా ఇది కోరుతోంది.