ఏళ్ల తరబడి, సాంకేతిక విధాన నిర్ణేతల వర్గాల్లో ఒక స్పష్టమైన నమ్మకం ఉండేది: NVIDIA చిప్స్ లేకపోతే, అత్యాధునిక AI ఉండదు. H100 మరియు కొత్త Blackwell లైన్ వంటి హై-ఎండ్ GPUలపై విధించిన ఎగుమతి నియంత్రణలు సరిగ్గా ఆ అడ్డంకిని దృష్టిలో ఉంచుకునే రూపొందించబడ్డాయి. ఉత్తమమైన సిలికాన్ (chips) అందుబాటులో లేకపోతే, అతిపెద్ద మరియు అత్యంత సామర్థ్యం కలిగిన మోడళ్లను శిక్షణ ఇచ్చే దేశాల సామర్థ్యాన్ని తగ్గించవచ్చనేది ఆ సిద్ధాంతం. కానీ Meituan ఆ వాదనను తలకిందులు చేసింది.
ఫుడ్ డెలివరీ మరియు లోకల్ సర్వీసెస్లో ఆధిపత్యం వహించడంలో పేరుగాంచిన చైనా సాంకేతిక దిగ్గజం, LongCat 2.0ను విడుదల చేసింది. ఇది Mixture-of-Experts ఆర్కిటెక్చర్పై నిర్మించబడిన 1.6-ట్రిలియన్-పారామీటర్ల మోడల్. అసలు ఆశ్చర్యకరమైన విషయం ఏమిటంటే? ఈ టీమ్ దీనిని పూర్తిగా చైనా స్వదేశీ చిప్స్పై శిక్షణ ఇచ్చింది. ఎటువంటి NVIDIA H100లు లేవు. ఎటువంటి Blackwell GPUలు లేవు. పైగా, దీనిని ఒక API వెనుక దాచకుండా, ఎవరైనా పరిశీలించేలా GitHubలో weights, training code మరియు పూర్తి data pipelineను Meituan అందుబాటులోకి తెచ్చింది.
LongCat 2.0 నిజంగా ఏమి అందిస్తుంది
మొదట హార్డ్వేర్తో సంబంధం లేని వాస్తవాలను చూద్దాం. 1.6 ట్రిలియన్ పారామీటర్లతో, LongCat 2.0 ఇప్పటివరకు విడుదల చేయబడిన అతిపెద్ద open-weight మోడళ్లలో ఒకటిగా నిలుస్తుంది. నాణ్యతకు పారామీటర్లే ఏకైక కొలమానం కాకపోయినప్పటికీ, ఈ స్థాయిలో అవి గొప్ప ఇంజనీరింగ్ ప్రతిభను సూచిస్తాయి. ఇది Mixture-of-Experts డిజైన్ను ఉపయోగిస్తుంది కాబట్టి, ఏదైనా నిర్దిష్ట పని కోసం ఆ పారామీటర్లలో ఒక చిన్న భాగం మాత్రమే యాక్టివేట్ అవుతుంది. దీనివల్ల మోడల్ అపారమైన జ్ఞానాన్ని మరియు రీజనింగ్ ప్యాటర్న్స్ను నిల్వ చేసుకుంటూనే, ఇన్ఫరెన్స్ (inference) ఖర్చులు అదుపు తప్పి పెరగకుండా ఉంటుంది.
దీని context window పది లక్షల (one million) టోకెన్ల వరకు ఉంటుంది. ఇది OpenAI మరియు Anthropic అందించే హై-ఎండ్ సేవలతో సమానంగా ఉంటుంది, మరియు ఇది మోడల్ చేయగలిగే పనులను పూర్తిగా మారుస్తుంది. ఇంత పెద్ద విండోతో, మీరు పూర్తి చట్టపరమైన ఒప్పందాలు, నెలల కొద్దీ చాట్ లాగ్లు లేదా భారీ కోడ్ రిపోజిటరీలను ఒకే ప్రాంప్ట్లో అందించవచ్చు. సుదీర్ఘమైన పత్రాల ద్వారా మెమరీని ఉపయోగించుకోవాల్సిన అప్లికేషన్లను రూపొందించే డెవలపర్లకు, ఇది కేవలం ఒక చిన్న మెరుగుదల మాత్రమే కాదు, ఇది ఒక ఆచరణాత్మక అవసరం.
తర్వాత ఉన్నది దాని పారదర్శకత (openness). Meituan కేవలం ఒక పరిమితమైన డెమోను లేదా రిస్ట్రిక్టెడ్ APIని విడుదల చేయలేదు. మోడల్ weights అందుబాటులో ఉన్నాయి, training code పబ్లిక్గా ఉంది, అలాగే pipeline కూడా అందుబాటులో ఉంది. ఫలితాలను పునరుత్పత్తి చేయాలనుకునే పరిశోధకులకు, ప్రవర్తనను తనిఖీ చేయాల్సిన సంస్థలకు మరియు థర్డ్-పార్టీ సర్వర్కు ఏమీ పంపకుండా తమ సొంత డేటాపై మోడల్ను fine-tune చేయాలనుకునే ఇంజనీర్లకు ఇది చాలా ముఖ్యం.
అందరూ గమనించని హార్డ్వేర్ కథ
ఇక్కడ ప్రధాన అంశం కేవలం పారామీటర్ల సంఖ్య మాత్రమే కాదు. దీని వెనుక ఉన్న సిలికాన్ (hardware). LongCat 2.0 స్వదేశీ యాక్సిలరేటర్లపై, ముఖ్యంగా Huawei Ascend సిరీస్ వంటి చిప్స్పై శిక్షణ పొందింది. ఇది ఇప్పటికే ఉన్న ఫ్రేమ్వర్క్ను NVIDIA క్లస్టర్పై అమర్చి రన్ చేయడం కంటే పూర్తిగా భిన్నమైన విషయం.
ఒక ట్రిలియన్ పారామీటర్ల మోడల్కు శిక్షణ ఇవ్వడం అంటే అత్యంత క్లిష్టమైన స్థాయిలో డిస్ట్రిబ్యూటెడ్ కంప్యూటింగ్ సమస్యలను పరిష్కరించడం. Memory bandwidth, inter-chip communication మరియు floating-point performance వంటి అంశాలన్నింటినీ అత్యంత ఖచ్చితత్వంతో నిర్వహించాల్సి ఉంటుంది. NVIDIA యొక్క బలం కేవలం GPUలు మాత్రమే కాదు. అది CUDA ecosystem, ఆప్టిమైజ్ చేయబడిన kernels మరియు ఆ స్టాక్ నుండి గరిష్ట పనితీరును ఎలా పొందాలనే సామూహిక జ్ఞానం. Ascend హార్డ్వేర్పై ఇటువంటి మోడల్ను నిర్మించడం అంటే, Meituan ఇంజనీర్లు శిక్షణ ఫ్రేమ్వర్క్లను అనువదించడం, low-level operationsను తిరిగి రాయడం మరియు పూర్తిగా భిన్నమైన ఆర్కిటెక్చర్పై డిస్ట్రిబ్యూటెడ్ ట్రైనింగ్ రన్లను డీబగ్ చేయడం వంటి కష్టతరమైన పనులను చేయాల్సి వచ్చిందని అర్థం.
వారు విజయం సాధించారంటే, అది కేవలం ఒక మోడల్ గురించి మాత్రమే కాదు, అంతకంటే పెద్ద విషయం. చైనా యొక్క hardware-software co-design పరిణతి చెందు
Meituan దీనిని Llama, DeepSeek మరియు Qwenలకు ప్రత్యక్ష ప్రత్యామ్నాయంగా చూపుతోంది. చైనీస్ భాషా పనుల విషయానికి వస్తే, ఆ పోటీ చాలా తీవ్రంగా ఉంటుంది. ప్రధానంగా ఇంగ్లీష్ ఇంటర్నెట్ డేటాపై శిక్షణ పొందిన మోడల్స్ తరచుగా ప్రాచీన చైనీస్ ప్రస్తావనలు, స్థానిక నియంత్రణ భాష, మెయిన్ల్యాండ్ మార్కెట్లలో ఉపయోగించే ఆర్థిక పరిభాష మరియు చైనీస్ సోషల్ మీడియాలో ఎక్కువగా కనిపించే అనధికారిక సంక్షిప్త పదాల విషయంలో తడబడతాయి. చైనీస్ వినియోగదారుల ప్రవర్తనపై ఆధారపడి నడిచే కంపెనీ ద్వారా, లోతైన చైనీస్ భాషా నైపుణ్యాలతో నిర్మించబడిన మోడల్కు ఆ సందర్భాలలో నిర్మాణాత్మక ప్రయోజనం ఉంటుంది.
ఇది కేవలం చాట్బాట్లకే పరిమితం కాదు. PRC కాంట్రాక్ట్ చట్టాలను విశ్లేషించే లీగల్టెక్ సంస్థలు, చారిత్రక పాఠ్యాలను పరిశోధించే పరిశోధకులు, మాండరిన్ రుణ పత్రాలను ప్రాసెస్ చేసే బ్యాంకులు మరియు ప్రాంతీయ మాండలికాలను నిర్వహించే కస్టమర్ సర్వీస్ ప్లాట్ఫారమ్లన్నింటికీ ఇంగ్లీష్-కేంద్రీకృత దృక్పథం ద్వారా అనువదించడం కంటే, సూక్ష్మ భేదాలను అర్థం చేసుకునే మోడల్స్ అవసరం.
Meituan యొక్క రహస్య ఆయుధం: స్కేల్ మరియు డేటా
Meituan అనేది కేవలం డెలివరీ యాప్ను పక్కన పెట్టుకున్న పరిశోధనా ప్రయోగశాల కాదు. ఇది ప్రతిరోజూ చైనా అంతటా మిలియన్ల మంది రైడర్లు, రెస్టారెంట్లు మరియు వ్యాపారులను సమన్వయం చేసే ఒక భారీ కార్యకలాప నిర్వహణ శక్తి. ఆ స్కేల్ వల్ల వాస్తవ ప్రపంచ భాషా డేటా భారీగా అందుబాటులోకి వస్తుంది. చాట్బాట్లకు వచ్చే కస్టమర్ ఫిర్యాదులు; ప్రాంతీయ మాండలికాలను మరియు అధికారిక వ్యాపార నమోదు వివరాలను కలిపి ఉండే రెస్టారెంట్ వివరణలు; చిరునామా వ్యవస్థలతో పాటు అనధికారిక ల్యాండ్మార్క్లను కలిపి ఉండే రూటింగ్ సూచనలు; పన్నులు, పరిశుభ్రత నిబంధనలు మరియు స్థానిక నిబంధనల గురించి తెలిపే మర్చంట్ సర్వీస్ టికెట్లు.
ఈ డేటా గందరగోళంగా, సందర్భోచితంగా మరియు సాధారణ వెబ్ క్రాల్ డేటా ఎన్నటికీ అనుకరించలేని విధంగా లోతైన స్థానికతను కలిగి ఉంటుంది. దీనిని LongCat 2.0కి అందించడం వల్ల, కేవలం విద్యాపరమైన శిక్షణలో లేని ఆచరణాత్మక పునాది ఆ మోడల్కు లభిస్తుంది. మెరుగుపరచబడిన వికీపీడియా వచనంతో శిక్షణ ఇవ్వడం ఒక ఎత్తు అయితే, వాస్తవ వాణిజ్యంలో ఉండే గందరగోళమైన, లావాదేవీల భాషతో శిక్షణ ఇవ్వడం మరొక ఎత్తు.
పునాదులు ఎందుకు మారుతున్నాయి
కంపెనీలు స్వదేశీ సిలికాన్ పై ఫ్రాంటియర్-క్లాస్ మోడల్స్కు శిక్షణ ఇవ్వగలిగితే, చిప్ ఎగుమతి నిషేధాల వెనుక ఉన్న మొత్తం వ్యూహాత్మక తర్కం బలహీనపడటం ప్రారంభిస్తుంది. NVIDIA సరఫరా మార్గాలను నియంత్రించడం ద్వారా AI సామర్థ్యాన్ని నియంత్రించవచ్చనే ఊహపై ఈ నిషేధాలు నిర్మించబడ్డాయి. ఎటువంటి ప్రత్యామ్నాయ వ్యవస్థ లేదని ఆ ఊహ భావించింది.
LongCat 2.0 అనేది చైనీస్ చిప్లు ప్రతి అంశంలో NVIDIAకి సమానమయ్యాయన్న ప్రకటన కాదు. పని పూర్తి చేయడానికి అవి ఖచ్చితంగా సమానంగా ఉండాల్సిన అవసరం లేదని చెప్పడానికి ఇది ఒక నిదర్శనం. తగినంత మెమరీ, తగినంత బ్యాండ్విడ్త్ మరియు తగినంత తెలివైన సాఫ్ట్వేర్ ఆప్టిమైజేషన్ ద్వారా పోటీ ఫలితాలను సాధించడానికి అవసరమైన అంత వ్యత్యాసాన్ని తగ్గించవచ్చు. ఇది పూర్తి సమానత్వం కంటే చాలా తక్కువ స్థాయి, మరియు ఆ స్థాయిని వారు అధిగమించినట్లు కనిపిస్తోంది.
గ్లోబల్ AI సప్లై చైన్ల విషయానికి వస్తే, దీని ప్రభావం స్పష్టంగా ఉంది. అన్ని ముఖ్యమైన శిక్షణ ప్రక్రియలు NVIDIA హార్డ్వేర్ ద్వారానే జరగాలనే ఊహ ఇప్పుడు ముగిసిపోయింది. ఇది AI అభివృద్ధిలో జాతీయ సార్వభౌమాధికారం వైపు శక్తిని మళ్లిస్తుంది. పక్కన ఉండి గమనిస్తున్న దేశాలు మరియు కంపెనీలు, ఫ్రాంటియర్ సామర్థ్యాన్ని పొందడానికి ఒకే ఒక్క సరఫరాదారు మాత్రమే మార్గమని ఇక చూడటం లేదు. వారు ఒక విభజనను, మరియు బహుళ ధ్రువ హార్డ్వేర్ వాతావరణం చాలా వేగంగా అభివృద్ధి చెందుతున్నట్లు గమనిస్తున్నారు.
అసలైన సారాంశం
LongCat 2.0 అనేది కేవలం ఒక సాంకేతిక విడుదల మాత్రమే కాదు. ఇది ఒక రాజకీయ పరికల్పన యొక్క పరీక్ష, మరియు ఆ పరికల్పన విఫలమైంది. సరైన డేటా, సరైన ఇంజనీరింగ్ బృందం మరియు సరైన హార్డ్వేర్తో ఉన్న ఒక కన్స్యూమర్ టెక్ కంపెనీ, నిషేధించబడిన ఒక్క వెస్ట్రన్ GPU ని కూడా తాకకుండా 1.6-ట్రిలియన్-పారామీటర్ల ఓపెన్ మోడల్కు శిక్షణ ఇవ్వగలదని Meituan నిరూపించింది.
డెవలపర్ల కోసం, దీని అర్థం చైనీస్ భాష మరియు లాంగ్-కాంటెక్స్ట్ పనులలో నిజమైన లోతు కలిగిన కొత్త ఓపెన్-వెయిట్ ఆప్షన్ లభించడం. విధాన నిర్ణేతల కోసం, హార్డ్వేర్ నిరాకరణ ఆధారంగా విధించే ఆంక్షలు కేవలం కొనుగోలుపైనే కాకుండా, అనుకూలత గురించి కూడా పరిగణనలోకి తీసుకోవాలని దీని అర్థం. పరిశ్రమలోని మిగిలిన వారికి, ఎవరు ఏమి నిర్మించగలరు మరియు ఏ సాధనాలతో నిర్మించగలరు అనే మ్యాప్ నిజ సమయంలో మారుతోంది.
ఎగుమతి నిషేధాలు కొంత సమయాన్ని కొద్దిగా పెంచాయేమో కానీ, అవి ఒక ప్రత్యామ్నాయాన్ని కూడా సృష్టించినట్లు కనిపిస్తోంది.