மூலதனம் மாதிரிப் பயிற்சியிலிருந்து (model training) மாதிரிச் செயல்பாட்டிற்கு (model execution) மாறத் தொடங்கியுள்ள நிலையில், AI உள்கட்டமைப்புத் துறையில் ஒரு அடிப்படை மாற்றம் ஏற்பட்டுள்ளது. தொழில்நுட்ப முதலீட்டு நிறுவனமான Upper90, AI inference ஸ்டார்ட்அப் நிறுவனமான General Compute-க்கு வழங்கிய $400 மில்லியன் மதிப்பிலான பிரம்மாண்ட கடன், வன்பொருள்கள் (hardware) எவ்வாறு நிதி திரட்டப்படுகின்றன மற்றும் பயன்படுத்தப்படுகின்றன என்பதில் ஒரு வரலாற்று மைல்கல்லாகும்.

பிணையப் பொருட்களின் (Collateral) புதிய யுகம்: Inference சிப்களுக்கு நிதி வழங்குதல்

GPU நிதி வழங்கப்பட்ட ஆரம்ப காலத்தைப் போலவே, Upper90 ஒரு புதிய சொத்து வகையை நோக்கித் தடம் பதித்துள்ளது: அதுதான் inference-தனித்துவமான சிலிக்கான் (inference-specific silicon). CoreWeave போன்ற நிறுவனங்களால் முன்னெடுக்கப்பட்ட முந்தைய நிதிச் சுழற்சியானது, மிகப்பெரிய பயிற்சிப் பணிகளுக்காக (training workloads) பயன்படுத்தப்படும் Nvidia GPUs-களில் கவனம் செலுத்தியது. ஆனால், இந்த $400 மில்லியன் ஒப்பந்தம், ஏற்கனவே பயிற்சி செய்யப்பட்ட மாதிரிகளை இயக்குவதற்காகவே பிரத்யேகமாக உருவாக்கப்பட்ட சிப்களைப் பிணையப் பொருட்களாகப் (collateral) பயன்படுத்துகிறது.

CEO Finn Puklowski தலைமையிலான General Compute நிறுவனம், ஒரு "neocloud"-ஐ உருவாக்கி வருகிறது—இது பொதுவான கணினித் தேவைகளுக்காக (general-purpose computing) இல்லாமல், குறிப்பாக AI பணிகளுக்காக (AI workloads) வடிவமைக்கப்பட்ட ஒரு சிறப்பு உள்கட்டமைப்பு வழங்குநராகும். இந்த வேறுபாடு மிகவும் முக்கியமானது; AWS மற்றும் Azure போன்ற பாரம்பரிய ஹைப்பர்ஸ்கேலர்கள் (hyperscalers) பரந்த அளவிலான சேவைகளை வழங்கினாலும், neocloud-கள் Large Language Models (LLMs)-இன் தனித்துவமான லேட்டன்சி (latency) மற்றும் த்ரூபுட் (throughput) தேவைகளுக்கு ஏற்பத் தங்களை மேம்படுத்திக் கொள்கின்றன.

SambaNova-வின் SN50-இன் தொழில்நுட்பச் சிறப்பு

General Compute-இன் உத்தியின் மையப்பகுதியாக, Intel ஆதரவு பெற்ற சிப் தயாரிப்பு நிறுவனமான SambaNova உடனான அதன் கூட்டாண்மை உள்ளது. பாரம்பரிய வன்பொருள்களை விட குறிப்பிடத்தக்க செயல்திறன் உயர்வை வழங்கும் வகையில் வடிவமைக்கப்பட்ட SambaNova-வின் SN50 சிப்களை இந்நிறுவனம் பயன்படுத்தத் தொடங்கியுள்ளது.

General Compute-இன் படி, தற்போதைய GPU அடிப்படையிலான கிளவுட் சேவைகளை விட இந்த சிப்கள் 16 மடங்கு வேகமான inference வேகத்தை வழங்க முடியும். வெறும் வேகத்தைத் தாண்டி, SN50 இரண்டு முக்கிய செயல்பாட்டு நன்மைகளை வழங்குகிறது:

  • மின் திறன் (Power Efficiency): இவை ஒவ்வொரு டோக்கனுக்கும் (token) குறைந்த ஆற்றலையே பயன்படுத்துகின்றன, இது AI பயன்பாட்டின் மிகப்பெரிய கூடுதல் செலவுகளைக் (overhead costs) குறைக்கிறது.
  • எளிமையான குளிர்விப்பு முறை (Simplified Cooling): சிக்கலான மற்றும் விலையுயர்ந்த நீர்-குளிர்விப்பு அமைப்புகளை (water-cooling systems) தேவைப்படும் உயர்தர GPUs போலல்லாமல், இந்த சிப்கள் பல்வேறு வகையான தரப்படுத்தப்பட்ட தரவு மையச் சூழல்களில் (standard data center environments) விரைவாகப் பயன்படுத்த அனுமதிக்கின்றன.

Nvidia ஏகபோகத்தை உடைத்தல்

இந்த ஒப்பந்தம் வெறும் மூலதனச் செலுத்துதல் மட்டுமல்ல; சந்தை Nvidia-வின் ஆதிக்கத்திற்கு மாற்றுகளைத் தேடிக்கொண்டிருக்கிறது என்பதற்கான ஒரு மூலோபாயத் தெளிவுரையாகும். டோக்கன்களின் விலையும், frontier model அணுகலும் டெவலப்பர்களுக்கு ஒரு தடையாக இருக்கும் நிலையில், திறந்த மூல மாதிரிகளை (open-source models) மலிவாகவும் திறமையாகவும் அணுகுவதற்கான தேவை அதிகரித்து வருகிறது.

Anthropic மற்றும் OpenAI ஆகியவற்றுடன் கோடிங் பெஞ்ச்மார்க்குகளில் (coding benchmarks) போட்டியிடும் Kimi-இன் K3 போன்ற உயர் செயல்திறன் கொண்ட திறந்த மூல மாதிரிகளின் எழுச்சி, தொழில்துறையின் முக்கியத் தடையானது "மாதிரிகளை எவ்வாறு உருவாக்குவது?" என்பதிலிருந்து "அவற்றை எவ்வாறு மலிவாக இயக்குவது?" என்பதற்கு மாறி வருவதைக் காட்டுகிறது. Nvidia அல்லாத சிலிக்கான்களைப் பயன்படுத்துவதன் மூலம், General Compute மற்றும் TensorWave (AMD உடன் கூட்டாண்மை) போன்ற போட்டியாளர்கள் சிறந்த மொத்த உரிமைச் செலவை (Total Cost of Ownership - TCO) வழங்கத் தயாராகி வருகின்றனர்.

Puklowski குறிப்பிட்டது போல, இந்த ஒப்பந்தம் AI சுற்றுச்சூழல் அமைப்பில் Nvidia-வின் ஏகபோகக் கட்டுப்பாட்டை உடைக்க "மூலதனம் தானாகவே ஒருங்கிணைக்கப்படுவதைக்" குறிக்கிறது. சிறப்பு வாய்ந்த inference வன்பொருள்களில் முதலீடு செய்வதன் மூலம், AI வளர்ச்சியின் அடுத்த கட்டம் அதன் அளவு (scale), செயல்திறன் (efficiency) மற்றும் அன்றாடப் பயன்பாடுகளில் AI-இன் பரவலான பயன்பாடு ஆகியவற்றால் இயக்கப்படும் என்பதை முதலீட்டாளர்கள் அங்கீகரிக்கின்றனர்.

முக்கியக் குறிப்புகள்

  • Inference-முன்மாதிரி நிதி (Inference-First Financing): இந்த $400 மில்லியன் ஒப்பந்தம், வெறும் பயிற்சி அளிக்கும் GPUs-களை மட்டும் பயன்படுத்தாமல், சிறப்பு வாய்ந்த inference சிப்களைப் பிரம்மாண்டமான கடன்களுக்கான பிணையப் பொருட்களாகப் பயன்படுத்துவதை நோக்கிய மாற்றத்தைக் குறிக்கிறது.
  • செயல்திறன் முன்னேற்றம்: சிறந்த மின் திறன் மற்றும் எளிதான பயன்பாட்டை வழங்கும் SambaNova-வின் SN50 சிப்களைப் பயன்படுத்துவதன் மூலம், GPU அடிப்படையிலான கிளவுட் சேவைகளை விட 16 மடங்கு அதிக செயல்திறனைப் பெற General Compute இலக்கு வைத்துள்ளது.
  • தொழில்நுட்ப அடுக்குகளைப் பல்வகைப்படுத்துதல் (Diversifying the Stack): திறந்த மூல LLM-களைச் செலவு குறைந்த முறையில் விரிவாக்குவதற்கு, Nvidia அல்லாத சிலிக்கான் தேவைப்படும் வளர்ந்து வரும் சந்தை தேவையை இந்த நடவடிக்கை உணர்த்துகிறது.