AI ഇൻഫ്രാസ്ട്രക്ചർ രംഗം വലിയൊരു മാറ്റത്തിന് വിധേയമായിക്കൊണ്ടിരിക്കുകയാണ്; മൂലധനം മോഡൽ പരിശീലനത്തിൽ (model training) നിന്ന് മോഡൽ എക്സിക്യൂഷനിലേക്ക് (model execution) മാറിക്കൊണ്ടിരിക്കുന്നു. ടെക് ഇൻവെസ്റ്റ്‌മെന്റ് സ്ഥാപനമായ Upper90, AI ഇൻഫറൻസ് സ്റ്റാർട്ടപ്പായ General Compute-ന് നൽകിയ 400 മില്യൺ ഡോളറിന്റെ വൻ വായ്പ, ഹാർഡ്‌വെയർ എങ്ങനെ ധനസഹായം നേടുന്നുവെന്നും വിന്യസിക്കുന്നുവെന്നും സംബന്ധിച്ച ചരിത്രപരമായ ഒരു നാഴികക്കല്ലാണ്.

ഈട് (Collateral) നൽകുന്ന പുതിയ യുഗം: ഇൻഫറൻസ് ചിപ്പുകൾക്കുള്ള ധനസഹായം

GPU ധനസഹായത്തിന്റെ ആദ്യകാലങ്ങളെ അനുസ്മരിപ്പിക്കുന്ന രീതിയിൽ, Upper90 ഒരു പുതിയ അസറ്റ് ക്ലാസ്സിലേക്ക് (asset class) പ്രവേശിക്കുകയാണ്: ഇൻഫറൻസ്-പ്രത്യேக സിലിക്കൺ (inference-specific silicon). CoreWeave പോലുള്ള കമ്പനികൾ മുൻകൈയെടുത്ത മുൻപത്തെ ധനസഹായ തരംഗങ്ങൾ വൻതോതിലുള്ള പരിശീലന ജോലികൾക്കായി (training workloads) ഉപയോഗിക്കുന്ന Nvidia GPU-കളിൽ ശ്രദ്ധ കേന്ദ്രീകരിച്ചപ്പോൾ, ഈ 400 മില്യൺ ഡോളറിന്റെ ഇടപാട് ഉപയോഗിക്കുന്നത് നേരത്തെ പരിശീലനം പൂർത്തിയാക്കിയ മോഡലുകൾ പ്രവർത്തിപ്പിക്കാൻ പ്രത്യേകം നിർമ്മിച്ച ചിപ്പുകളെ ഈടായിട്ടാണ്.

CEO Finn Puklowski നേതൃത്വം നൽകുന്ന General Compute ഒരു "neocloud" നിർമ്മിക്കുകയാണ്—അതായത് പൊതുവായ കമ്പ്യൂട്ടിംഗിന് പകരം AI വർക്ക്ലോഡുകൾക്കായി പ്രത്യേകം രൂപകൽപ്പന ചെയ്ത ഒരു പ്രത്യേക ഇൻഫ്രാസ്ട്രക്ചർ പ്രൊവൈഡർ. ഈ വ്യത്യാസം വളരെ പ്രധാനമാണ്; AWS, Azure പോലുള്ള പരമ്പരാഗത ഹൈപ്പർസ്കെയിലറുകൾ (hyperscalers) വിപുലമായ സേവനങ്ങൾ വാഗ്ദാനം ചെയ്യുമ്പോൾ, neoclouds ലാർജ് ലാംഗ്വേജ് മോഡലുകളുടെ (LLMs) സവിശേഷമായ ലാറ്റൻസി (latency), തമ്പ്‌പുട്ട് (throughput) ആവശ്യകതകൾക്കായി ഒപ്റ്റിമൈസ് ചെയ്യുന്നു.

SambaNova-യുടെ SN50-ന്റെ സാങ്കേതിക മികവ്

General Compute-ന്റെ തന്ത്രത്തിന്റെ കാതൽ Intel പിന്തുണയുള്ള ചിപ്പ് നിർമ്മാതാക്കളായ SambaNova-യുമായുള്ള പങ്കാളിത്തമാണ്. പരമ്പരാഗത ഹാർഡ്‌വെയറിനേക്കാൾ മികച്ച പ്രകടനം കാഴ്ചവെക്കാൻ രൂപകൽപ്പന ചെയ്തിട്ടുള്ള SambaNova-യുടെ SN50 ചിപ്പുകളാണ് കമ്പനി വിന്യസിക്കുന്നത്.

General Compute-ന്റെ അഭിപ്രായത്തിൽ, നിലവിലുള്ള GPU അധിഷ്ഠിത ക്ലൗഡുകളേക്കാൾ 16 മടങ്ങ് വരെ വേഗതയിൽ ഇൻഫറൻസ് വേഗത നൽകാൻ ഈ ചിപ്പുകൾക്ക് കഴിയും. വെറും വേഗതയ്ക്ക് അപ്പുറം, SN50 രണ്ട് പ്രധാന പ്രവർത്തന നേട്ടങ്ങൾ കൂടി വാഗ്ദാനം ചെയ്യുന്നു:

  • ഊർജ്ജക്ഷമത (Power Efficiency): ഇവ ഓരോ ടോക്കണിനും കുറഞ്ഞ ഊർജ്ജം മാത്രം ഉപയോഗിക്കുന്നു, ഇത് AI വിന്യാസത്തിന്റെ വലിയ അധികച്ചെലവുകൾ കുറയ്ക്കുന്നു.
  • ലളിതമായ കൂളിംഗ് (Simplified Cooling): സങ്കീർണ്ണവും ചെലവേറിയതുമായ വാട്ടർ-കൂളിംഗ് സംവിധാനങ്ങൾ ആവശ്യമുള്ള ഹൈ-എൻഡ് GPU-കളിൽ നിന്ന് വ്യത്യസ്തമായി, ഈ ചിപ്പുകൾ വൈവിധ്യമാർന്ന സ്റ്റാൻഡേർഡ് ഡാറ്റാ സെന്റർ പരിതസ്ഥിതികളിൽ വേഗത്തിൽ വിന്യസിക്കാൻ സഹായിക്കുന്നു.

Nvidia-യുടെ കുത്തക അവസാനിപ്പിക്കുന്നു

ഈ ഇടപാട് വെറുമൊരു മൂലധന നിക്ഷേപം മാത്രമല്ല; Nvidia-യുടെ ആധിപത്യത്തിന് പകരമായി വിപണി ബദലുകൾ തേടുന്നു എന്നതിന്റെ തന്ത്രപരമായ സൂചന കൂടിയാണിത്. ടോക്കണുകളുടെ ചെലവും frontier model ഉപയോഗിക്കാനുള്ള പ്രവേശനവും ഡെവലപ്പർമാർക്ക് ഒരു തടസ്സമായി തുടരുന്നതിനാൽ, ഓപ്പൺ സോഴ്സ് മോഡലുകൾ കുറഞ്ഞ ചെലവിൽ കാര്യക്ഷമമായി ഉപയോഗിക്കാനുള്ള ആവശ്യം വർദ്ധിച്ചുവരികയാണ്.

കോഡിംഗ് ബെഞ്ച്മാർക്കുകളിൽ Anthropic, OpenAI എന്നിവയുമായി മത്സരിക്കുന്ന Kimi-യുടെ K3 പോലുള്ള ഉയർന്ന പ്രകടനമുള്ള ഓപ്പൺ സോഴ്സ് മോഡലുകളുടെ വളർച്ച സൂചിപ്പിക്കുന്നത്, വ്യവസായത്തിന്റെ പ്രധാന വെല്ലുവിളി "എങ്ങനെ മോഡലുകൾ നിർമ്മിക്കാം?" എന്നതിൽ നിന്ന് "എങ്ങനെ അവ കുറഞ്ഞ ചെലവിൽ പ്രവർത്തിപ്പിക്കാം?" എന്നതിലേക്ക് മാറുന്നു എന്നാണ്. Nvidia അല്ലാത്ത സിലിക്കൺ ഉപയോഗിക്കുന്നതിലൂടെ, General Compute-ഉം AMD-യുമായി പങ്കാളിത്തമുള്ള TensorWave പോലുള്ള എതിരാളികളും മികച്ച ടോട്ടൽ കോസ്റ്റ് ഓഫ് ഓണർഷിപ്പ് (TCO) വാഗ്ദാനം ചെയ്യാൻ തങ്ങളെ സജ്ജമാക്കുന്നു.

Puklowski സൂചിപ്പിച്ചതുപോലെ, AI ഇക്കോസിസ്റ്റത്തിലെ Nvidia-യുടെ കുത്തകാവകാശം തകർക്കാൻ "മൂലധനം സ്വയം സംഘടിക്കുന്നു" എന്നാണ് ഈ ഇടപാട് പ്രതിനിധീകരിക്കുന്നത്. ഇൻഫറൻസ് ഹാർഡ്‌വെയറിൽ പന്തയം വെക്കുന്നതിലൂടെ, AI വിപ്ലവത്തിന്റെ അടുത്ത ഘട്ടം അതിന്റെ വ്യാപ്തി (scale), കാര്യക്ഷമത (efficiency), ദൈനംദിന ഉപയോഗങ്ങളിലെ സാന്നിധ്യം എന്നിവയാകുമെന്ന് നിക്ഷേപകർ അംഗീകരിക്കുന്നു.

പ്രധാന കാര്യങ്ങൾ

  • ഇൻഫറൻസ്-ആദ്യ ധനസഹായം (Inference-First Financing): 400 മില്യൺ ഡോളറിന്റെ ഈ ഇടപാട്, വൻ വായ്പകൾക്കായി ട്രെയിനിംഗ് GPU-കൾക്ക് പകരം ഇൻഫറൻസ്-പ്രത്യேக ചിപ്പുകളെ ഈടായി ഉപയോഗിക്കുന്നതിലേക്കുള്ള മാറ്റത്തെ സൂചിപ്പിക്കുന്നു.
  • പ്രകടനത്തിലുള്ള വർദ്ധനവ്: മികച്ച ഊർജ്ജക്ഷമതയും എളുപ്പത്തിലുള്ള വിന്യാസവും നൽകുന്ന SambaNova-യുടെ SN50 ചിപ്പുകൾ ഉപയോഗിച്ച്, നിലവിലുള്ള GPU അധിഷ്ഠിത ക്ലൗഡുകളേക്കാൾ 16 മടങ്ങ് വരെ മികച്ച പ്രകടനം കാഴ്ചവെക്കാൻ General Compute ലക്ഷ്യമിടുന്നു.
  • സ്റ്റാക്ക് വൈവിധ്യവൽക്കരിക്കൽ (Diversifying the Stack): ഓപ്പൺ സോഴ്സ് LLM-കളുടെ ചെലവ് കുറഞ്ഞ വിപുലീകരണത്തിന് (scaling) Nvidia അല്ലാത്ത സിലിക്കണുകൾക്കായുള്ള വിപണിയിലെ വർദ്ധിച്ചുവരുന്ന ആവശ്യം ഈ നീക്കം സൂചിപ്പിക്കുന്നു.