AI భద్రత యొక్క బ్లాక్ బాక్స్: OpenAI యొక్క Sol కి ఎలా అనుమతి లభించింది
OpenAI తన తాజా ఫ్రంటియర్ మోడల్ Sol ను విడుదల చేస్తున్న తరుణంలో, సాంకేతిక పరిశ్రమలో ఒక కీలకమైన ప్రశ్న వినిపిస్తోంది: ఈ మోడల్ ప్రజల వినియోగం కోసం సురక్షితమని ప్రభుత్వం ఖచ్చితంగా ఎలా నిర్ణయించింది? Sol, అంతకుముందు వైట్ హౌస్ ద్వారా పరిమితం చేయబడిన Anthropic యొక్క Fable మోడల్కు పోటీగా నిలవాలని లక్ష్యంగా పెట్టుకున్నప్పటికీ, ఆమోద ప్రక్రియలో పారదర్శకత లేకపోవడం నియంత్రణ సంస్థలు మరియు పరిశోధకుల మధ్య తీవ్ర చర్చకు దారితీస్తోంది.
ప్రామాణిక భద్రతా ప్రోటోకాల్ల కొరత
ఫ్రంటియర్ మోడళ్లను మోహరించడంలో ఉన్న రిస్క్ను దృష్టిలో ఉంచుకున్నప్పటికీ, AI భద్రత ధృవీకరణ కోసం ప్రస్తుతం ఎటువంటి ఏకీకృత, పారదర్శకమైన ఫ్రేమ్వర్క్ లేదు. వాణిజ్య కార్యదర్శి Howard Lutnick మరియు U.S. నేషనల్ సైబర్ డైరెక్టర్ Sean Cairncross వంటి ఉన్నత స్థాయి అధికారులతో చర్చలు జరిగాయని OpenAI CEO Sam Altman ధృవీకరించినప్పటికీ, Sol ను ధృవీకరించడానికి ఉపయోగించిన నిర్దిష్ట సాంకేతిక బెంచ్మార్క్లు ఇంకా తెలియవు.
ప్రస్తుత నియంత్రణ వాతావరణాన్ని నిపుణులు "ad hoc" (అప్పటికప్పుడు చేసేది) అని అభివర్ణిస్తున్నారు. ఇటీవల ఒక కార్యనిర్వాహక ఉత్తర్వు ఫ్రంటియర్ మోడళ్లను అంచనా వేయడానికి రోడ్మ్యాప్ను రూపొందించినప్పటికీ, దాని వివరాలు ఇంకా ఖరారు కావాల్సి ఉంది. ముఖ్యంగా, "AI కోసం FDA" వంటి సంస్థ లేదని మాజీ వైట్ హౌస్ AI సలహాదారు Sriram Krishnan అభిప్రాయపడ్డారు. ఒక కేంద్రీకృత నియంత్రణ సంస్థ లేకపోవడం వల్ల, భద్రతా మూల్యాంకనాలు ప్రస్తుతం కంపెనీల అంతర్గత ప్రక్రియలు మరియు స్వచ్ఛంద బాహ్య ఆడిట్లపై ఆధారపడి ఉన్నాయి.
ఆవిష్కరణ మరియు నియంత్రణ మధ్య ఉద్రిక్తత
Anthropic యొక్క Fable విడుదల ఈ నియంత్రణ లేని వాతావరణంలోని అస్థిరతను నొక్కి చెబుతుంది. హ్యాకింగ్కు దారితీసే "jailbreaking" సామర్థ్యాలపై ఆందోళనల కారణంగా, విదేశీయులకు Fable పబ్లిక్ యాక్సెస్ నుండి స్వల్పకాలికంగా నిషేధించబడింది. దీనికి విరుద్ధంగా, OpenAI యొక్క Sol కొన్ని ప్రభుత్వ వినియోగదారుల కోసం ప్రివ్యూ దశ తర్వాత విస్తృత విడుదల వైపు అడుగులు వేసింది.
ఈ వ్యత్యాసం రాజకీయ సంబంధాల ప్రభావంపై అనుమానాలను రేకెత్తించింది. OpenAI నాయకత్వం ప్రభుత్వంతో సంప్రదింపులు జరుపుతున్నట్లు వచ్చిన నివేదికలు, నియంత్రణ విషయంలో "తక్కువ కఠినమైన" (lighter-touch) విధానాన్ని అనుసరిస్తున్నారా అని కొందరు పరిశీలకులను ప్రశ్నించేలా చేశాయి. డెవలపర్లు మరియు వ్యవస్థాపకులకు, ఇది ఒక అస్థిరమైన వాతావరణాన్ని సృష్టిస్తుంది, ఇక్కడ మోడల్ మోహరింపు అనేది ప్రామాణిక సాంకేతిక భద్రతా కొలమానాల కంటే రాజకీయ ఎత్తుగడలపై ఎక్కువగా ఆధారపడి ఉండవచ్చు.
థర్డ్-పార్టీ ఆడిటింగ్ మరియు ఓపెన్ కామన్స్ వైపు అడుగులు
కొద్దిమంది నిర్ణేతలే అంతా నియంత్రించే "gatekeeping" ప్రక్రియను నిరోధించడానికి పరిశ్రమ నాయకులు నిర్మాణాత్మక మార్పు కోసం పిలుపునిస్తున్నారు. ప్రస్తుత ప్రక్రియలో అసలైన నిపుణులు అంటే: భద్రత (safety), అలైన్మెంట్ (alignment), మరియు ఇంటర్ప్రెటబిలిటీ (interpretability) పరిశోధకుల నుండి తగినంత ఇన్పుట్ లేదని కంప్యూటర్ శాస్త్రవేత్త Andy Konwinski సూచించారు.
దీనిని పరిష్కరించడానికి, భవిష్యత్తు కోసం రెండు ప్రాథమిక నమూనాలు ఉద్భవించాయి:
- ఇన్స్టిట్యూషనల్ మోడల్ (The Institutional Model): FDA లేదా NIHని పోలి ఉండే ఈ నమూనాలో, భద్రతా ప్రమాణాలపై ఏకాభిప్రాయానికి రావడానికి పరిశోధకులు, ప్రభుత్వ అధికారులు మరియు ప్రైవేట్ కంపెనీలను సమావేశించడం జరుగుతుంది.
- థర్డ్-పార్టీ ఆడిటింగ్ మోడల్ (The Third-Party Auditing Model): మాజీ పాలసీ అడ్వైజర్ Dean W. Ball సూచించినట్లుగా, ఫ్రంటియర్ ల్యాబ్ల భద్రతా ప్రోటోకాల్లను అంచనా వేయడానికి ప్రభుత్వం స్వతంత్ర ఆడిటింగ్ సంస్థలకు లైసెన్స్ ఇవ్వవచ్చు.
AI ఎకోసిస్టమ్ దీర్ఘకాలిక స్థిరత్వాన్ని సాధించాలంటే, పరిశ్రమ వ్యక్తిగత చర్చల నుండి దూరంగా మారి, ప్రజా భద్రతతో పాటు విశ్వసనీయ బాధ్యతలను సమతుల్యం చేసే ఊహించదగిన, నిపుణులచే నడపబడే ఫ్రేమ్వర్క్ వైపు మళ్లాలి.
ముఖ్య అంశాలు
- నియంత్రణ అస్పష్టత (Regulatory Ambiguity): Sol వంటి ఫ్రంటియర్ మోడళ్ల విడుదలను నియంత్రించడానికి ప్రస్తుతం ఎటువంటి ప్రామాణిక "భద్రతా లైసెన్స్" లేదా కేంద్రీకృత సంస్థ (FDA వంటివి) లేదు.
- పారదర్శకత లోపం (Transparency Gap): OpenAI, U.K. AISI మరియు SecureBio నుండి వచ్చిన బాహ్య మూల్యాంకనాలను పేర్కొన్నప్పటికీ, మోడల్ ఆమోదం కోసం జరిగిన నిర్దిష్ట ప్రభుత్వ చర్చలు మరియు సాంకేతిక అవసరాలు ఇంకా అస్పష్టంగానే ఉన్నాయి.
- నిపుణుల కోసం పిలుపు (The Call for Experts): భద్రతా నిర్ణయాలు రాజకీయ మధ్యవర్తుల ద్వారా కాకుండా పరిశోధకుల ద్వారానే జరుగుతాయని నిర్ధారించుకోవడానికి, పరిశ్రమ నిపుణులు థర్డ్-పార్టీ ఆడిటింగ్ మరియు "ఓపెన్ కామన్స్" ఫ్రేమ్వర్క్ల కోసం వాదిస్తున్నారు.