ภูมิทัศน์ของโครงสร้างพื้นฐาน AI กำลังเผชิญกับการเปลี่ยนแปลงครั้งสำคัญ เมื่อเงินทุนเริ่มเคลื่อนย้ายจากการฝึกฝนโมเดล (model training) ไปสู่การประมวลผลโมเดล (model execution) การอนุมัติเงินกู้จำนวนมหาศาลถึง 400 ล้านดอลลาร์จาก Upper90 บริษัทด้านการลงทุนเทคโนโลยี ให้แก่ General Compute สตาร์ทอัพด้าน AI inference ถือเป็นก้าวสำคัญทางประวัติศาสตร์ในวิธีการจัดหาเงินทุนและการติดตั้งใช้งานฮาร์ดแวร์

ยุคใหม่ของหลักทรัพย์ค้ำประกัน: การจัดหาเงินทุนสำหรับชิป Inference

ด้วยความเคลื่อนไหวที่สะท้อนถึงยุคแรกของการจัดหาเงินทุนสำหรับ GPU ทาง Upper90 กำลังรุกเข้าสู่สินทรัพย์ประเภทใหม่ นั่นคือ ซิลิคอนที่ออกแบบมาเพื่อการทำ inference โดยเฉพาะ ในขณะที่ระลอกการระดมทุนก่อนหน้านี้—ซึ่งนำโดยบริษัทอย่าง CoreWeave—มุ่งเน้นไปที่ GPU ของ Nvidia ที่ใช้สำหรับภาระงานการฝึกฝนโมเดลขนาดใหญ่ แต่ข้อตกลงมูลค่า 400 ล้านดอลลาร์นี้ กลับใช้ชิปที่สร้างขึ้นมาเพื่อรันโมเดลที่ผ่านการฝึกฝนมาแล้วโดยเฉพาะมาเป็นหลักทรัพย์ค้ำประกัน

General Compute ภายใต้การนำของ CEO Finn Puklowski กำลังสร้าง "neocloud"—ผู้ให้บริการโครงสร้างพื้นฐานเฉพาะทางที่ออกแบบมาเพื่อภาระงาน AI โดยเฉพาะ แทนที่จะเป็นการประมวลผลแบบอเนกประสงค์ ความแตกต่างนี้มีความสำคัญอย่างยิ่ง เพราะในขณะที่ผู้ให้บริการ hyperscaler แบบดั้งเดิมอย่าง AWS และ Azure นำเสนอบริการที่ครอบคลุม แต่ neocloud จะปรับแต่งให้เหมาะสมกับความต้องการด้าน latency และ throughput ที่เป็นเอกลักษณ์ของ Large Language Models (LLMs)

ความได้เปรียบทางเทคนิคของ SambaNova’s SN50

หัวใจสำคัญของกลยุทธ์ของ General Compute คือการเป็นพันธมิตรกับ SambaNova ผู้ผลิตชิปที่ได้รับการสนับสนุนจาก Intel โดยบริษัทกำลังติดตั้งใช้งานชิป SN50 ของ SambaNova ซึ่งได้รับการออกแบบมาเพื่อให้มีประสิทธิภาพก้าวกระโดดเหนือกว่าฮาร์ดแวร์แบบดั้งเดิม

ข้อมูลจาก General Compute ระบุว่า ชิปเหล่านี้สามารถทำความเร็วในการทำ inference ได้เร็วกว่าคลาวด์ที่ใช้ GPU ในปัจจุบันถึง 16 เท่า นอกเหนือจากความเร็วที่เพิ่มขึ้นแล้ว SN50 ยังมีข้อได้เปรียบหลักในการดำเนินงานอีกสองประการ:

  • ประสิทธิภาพการใช้พลังงาน: ใช้พลังงานต่อ token น้อยลง ช่วยลดต้นทุนแฝงมหาศาลในการติดตั้งใช้งาน AI
  • ระบบระบายความร้อนที่ง่ายขึ้น: ต่างจาก GPU ระดับไฮเอนด์ที่มักต้องใช้ระบบระบายความร้อนด้วยน้ำที่ซับซ้อนและมีราคาแพง ชิปเหล่านี้ช่วยให้สามารถติดตั้งใช้งานได้รวดเร็วกว่าในสภาพแวดล้อมของดาต้าเซ็นเตอร์มาตรฐานที่หลากหลายกว่า

การทำลายการผูกขาดของ Nvidia

ข้อตกลงนี้เป็นมากกว่าแค่การอัดฉีดเงินทุน แต่มันคือสัญญาณเชิงกลยุทธ์ว่าตลาดกำลังมองหาทางเลือกอื่นนอกเหนือจากการครอบงำของ Nvidia ในขณะที่ต้นทุนของ token และการเข้าถึงโมเดลระดับแนวหน้า (frontier models) ยังคงเป็นอุปสรรคสำหรับนักพัฒนา จึงมีความต้องการเพิ่มขึ้นในการเข้าถึงโมเดล open-source ที่ราคาถูกและมีประสิทธิภาพ

การเติบโตของโมเดล open-source ที่มีประสิทธิภาพสูง เช่น K3 ของ Kimi ซึ่งสามารถแข่งขันกับ Anthropic และ OpenAI ในด้านการทดสอบการเขียนโค้ด (coding benchmarks) หมายความว่าคอขวดของอุตสาหกรรมกำลังเปลี่ยนจาก "เราจะสร้างโมเดลได้อย่างไร?" ไปเป็น "เราจะรันโมเดลอย่างไรให้คุ้มค่า?" การใช้ประโยชน์จากซิลิคอนที่ไม่ใช่ของ Nvidia ทำให้ General Compute และคู่แข่งอย่าง TensorWave (ซึ่งเป็นพันธมิตรกับ AMD) กำลังวางตำแหน่งตัวเองเพื่อนำเสนอต้นทุนการเป็นเจ้าของรวม (Total Cost of Ownership หรือ TCO) ที่เหนือกว่า

ดังที่ Puklowski ตั้งข้อสังเกตว่า ข้อตกลงนี้แสดงถึง "การจัดระเบียบของเงินทุนด้วยตัวมันเอง" เพื่อลดการผูกขาดของ Nvidia ในระบบนิเวศ AI การเดิมพันในฮาร์ดแวร์ inference เฉพาะทางแสดงให้เห็นว่านักลงทุนยอมรับว่าก้าวต่อไปของยุค AI บูมจะถูกขับเคลื่อนด้วยขนาด (scale) ประสิทธิภาพ และการนำ AI ไปใช้ในแอปพลิเคชันทั่วไปอย่างแพร่หลาย

สรุปประเด็นสำคัญ

  • การจัดหาเงินทุนที่เน้น Inference เป็นหลัก: ข้อตกลงมูลค่า 400 ล้านดอลลาร์นี้แสดงถึงการเปลี่ยนผ่านไปสู่การใช้ชิป inference เฉพาะทาง แทนที่จะเป็นเพียง GPU สำหรับการฝึกฝน เพื่อใช้เป็นหลักทรัพย์ค้ำประกันสำหรับการกู้ยืมเงินจำนวนมหาศาล
  • การเพิ่มประสิทธิภาพ: General Compute ตั้งเป้าที่จะทำประสิทธิภาพให้เหนือกว่าคลาวด์ที่ใช้ GPU ถึง 16 เท่า โดยใช้ชิป SN50 ของ SambaNova ซึ่งให้ประสิทธิภาพการใช้พลังงานที่ดีกว่าและติดตั้งใช้งานได้ง่ายกว่า
  • การกระจายความหลากหลายของ Stack: ความเคลื่อนไหวนี้ส่งสัญญาณถึงความต้องการของตลาดที่เพิ่มขึ้นสำหรับซิลิคอนที่ไม่ใช่ของ Nvidia เพื่อรองรับการขยายขนาดของ open-source LLMs อย่างคุ้มค่า