AI انفراسٹرکچر کا منظرنامہ ایک بنیادی تبدیلی سے گزر رہا ہے کیونکہ سرمایہ ماڈل کی تربیت (training) سے ماڈل کے استعمال (execution) کی طرف منتقل ہو رہا ہے۔ ٹیک انویسٹمنٹ فرم Upper90 کی جانب سے AI inference اسٹارٹ اپ General Compute کو دیا گیا 400 ملین ڈالر کا بڑا قرض، ہارڈ ویئر کی مالی معاونت اور اس کی تعیناتی کے حوالے سے ایک تاریخی سنگ میل ہے۔

ضمانت کا ایک نیا دور: انفرنس چپس کی مالی معاونت

GPU کی مالی معاونت کے ابتدائی دنوں کی طرح، Upper90 ایک نئی اثاثہ کلاس میں قدم رکھ رہا ہے: انفرنس کے لیے مخصوص سلیکون (inference-specific silicon)۔ جہاں مالی معاونت کی پچھلی لہر—جس کی قیادت CoreWeave جیسی فرموں نے کی تھی—بڑے پیمانے پر ٹریننگ کے کاموں کے لیے استعمال ہونے والے Nvidia GPUs پر مرکوز تھی، وہیں یہ 400 ملین ڈالر کا معاہدہ خاص طور پر پہلے سے تربیت یافتہ ماڈلز کو چلانے کے لیے بنائے گئے چپس کو بطور ضمانت استعمال کرتا ہے۔

CEO Finn Puklowski کی قیادت میں، General Compute ایک "neocloud" بنا رہا ہے—جو کہ ایک مخصوص انفراسٹرکچر فراہم کنندہ ہے جسے عام مقصد کی کمپیوٹنگ کے بجائے خاص طور پر AI workloads کے لیے ڈیزائن کیا گیا ہے۔ یہ فرق انتہائی اہم ہے؛ جہاں AWS اور Azure جیسے روایتی hyperscalers وسیع پیمانے پر خدمات پیش کرتے ہیں، وہیں neoclouds Large Language Models (LLMs) کی منفرد latency اور throughput کی ضروریات کے مطابق خود کو بہتر بناتے ہیں۔

SambaNova کے SN50 کی تکنیکی برتری

General Compute کی حکمت عملی کے مرکز میں SambaNova کے ساتھ اس کی شراکت داری ہے، جو کہ Intel کے تعاون سے کام کرنے والا چِپ میکر ہے۔ کمپنی SambaNova کے SN50 چپس تعینات کر رہی ہے، جو روایتی ہارڈ ویئر کے مقابلے میں کارکردگی میں نمایاں اضافہ فراہم کرنے کے لیے تیار کیے گئے ہیں۔

General Compute کے مطابق، یہ چپس موجودہ GPU پر مبنی کلاؤڈز کے مقابلے میں 16 گنا تک تیز انفرنس اسپیڈ فراہم کر سکتے ہیں۔ محض رفتار کے علاوہ، SN50 دو بڑے آپریشنل فوائد فراہم کرتا ہے:

  • توانائی کی بچت (Power Efficiency): یہ فی ٹوکن (token) کم توانائی استعمال کرتے ہیں، جس سے AI کی تعیناتی کے بھاری اخراجات میں کمی آتی ہے۔
  • سادہ کولنگ (Simplified Cooling): ہائی اینڈ GPUs کے برعکس، جنہیں اکثر پیچیدہ اور مہنگے واٹر کولنگ سسٹمز کی ضرورت ہوتی ہے، یہ چپس مختلف قسم کے معیاری ڈیٹا سینٹر ماحول میں تیزی سے تعیناتی کی اجازت دیتے ہیں۔

Nvidia کی اجارہ داری کا خاتمہ

یہ معاہدہ محض سرمائے کی فراہمی نہیں ہے؛ بلکہ یہ ایک اسٹریٹجک اشارہ ہے کہ مارکیٹ Nvidia کے غلبے کے متبادل تلاش کر رہی ہے۔ چونکہ ٹوکنز کی قیمت اور فرنٹیر ماڈلز (frontier models) تک رسائی ڈویلپرز کے لیے ایک رکاوٹ بنی ہوئی ہے، اس لیے اوپن سورس ماڈلز تک سستی اور موثر رسائی کی مانگ بڑھ رہی ہے۔

اعلیٰ کارکردگی والے اوپن سورس ماڈلز کا عروج—جیسے Kimi کا K3، جو کوڈنگ بینچ مارکس پر Anthropic اور OpenAI کا مقابلہ کرتا ہے—اس کا مطلب ہے کہ صنعت کی رکاوٹ اب "ہم ماڈلز کیسے بنائیں؟" سے بدل کر "ہم انہیں سستی قیمت پر کیسے چلائیں؟" پر منتقل ہو رہی ہے۔ غیر-Nvidia سلیکون کا فائدہ اٹھاتے ہوئے، General Compute اور TensorWave (جو AMD کے ساتھ شراکت داری کر رہا ہے) جیسے حریف خود کو بہتر Total Cost of Ownership (TCO) پیش کرنے کے لیے تیار کر رہے ہیں۔

جیسا کہ Puklowski نے نوٹ کیا، یہ معاہدہ AI ایکو سسٹم پر Nvidia کی اجارہ دارانہ گرفت کو کم کرنے کے لیے "سرمایے کے خود کو منظم کرنے" کی نمائندگی کرتا ہے۔ مخصوص انفرنس ہارڈ ویئر پر شرط لگا کر، سرمایہ کار اس بات کو تسلیم کر رہے ہیں کہ AI کے عروج کا اگلا مرحلہ پیمانے (scale)، کارکردگی، اور روزمرہ کی ایپلی کیشنز میں AI کی موجودگی سے آگے بڑھے گا۔

اہم نکات

  • انفرنس پر مبنی مالی معاونت (Inference-First Financing): 400 ملین ڈالر کا یہ معاہدہ صرف ٹریننگ GPUs کے بجائے، بڑے قرضوں کے لیے بطور ضمانت مخصوص انفرنس چپس کے استعمال کی طرف منتقلی کی نشاندہی کرتا ہے۔
  • کارکردگی میں اضافہ: General Compute کا مقصد SambaNova کے SN50 چپس کا استعمال کرتے ہوئے GPU پر مبنی کلاؤڈز سے 16 گنا تک بہتر کارکردگی دکھانا ہے، جو بہتر توانائی کی بچت اور آسان تعیناتی فراہم کرتے ہیں۔
  • اسٹیک میں تنوع (Diversifying the Stack): یہ اقدام اوپن سورس LLMs کی کم لاگت کے ساتھ توسیع کو سپورٹ کرنے کے لیے غیر-Nvidia سلیکون کی بڑھتی ہوئی مارکیٹ کی طلب کا اشارہ ہے۔